La prolifération des IA , page 6

Mauclerc @
Métayer


2994pts

Inscrit le: 28 septembre 2011
Messages: 940
Localisation: Paris
Navigateur : n.c.
Hors ligne

Posté le: 06 mars 2024 à 10:38  

Mitch_ a écrit:

« Si les gens votent grâce à une simple photo, c’est leur problème » Phrase pleine de cynisme certes mais on ne peut pas lui donner tord...

Non, on peut. C'est faire reporter la responsabilité de la faute (en l'occurrence la manipulation, le mensonge) vers la victime. Une société qui applique le laisser-faire en matière de mensonges, je ne donne pas cher d'elle.

2 pour,
2

Mitch_ @
Cultivateur


1171pts

Inscrit le: 05 novembre 2018
Messages: 448

Navigateur : n.c.
Hors ligne

Posté le: 06 mars 2024 à 11:32  

Mauclerc a écrit:

Mitch_ a écrit: « Si les gens votent grâce à une simple photo, c’est leur problème » Phrase pleine de cynisme certes mais on ne peut pas lui donner tord... Non, on peut. C'est faire reporter la responsabilité de la faute (en l'occurrence la manipulation, le mensonge) vers la victime. Une société qui applique le laisser-faire en matière de mensonges, je ne donne pas cher d'elle.

Je suis d'accord avec toi. Raisonnement un peu rapide de ma part qui prête à confusion..

Le "on peut pas lui donner tord" vient plus du fait qu'il joue la carte de la manipulation et qu'il profite sciemment du fait que certaines personnes ne recontextualiseront pas cette photo (pour diverses raisons) ; à savoir que c'est une photo fausse générée par l'IA et qu'elle intervient peu de temps après que DT ait tenté une comparaison douteuse entre ses déboires judiciaires et la ségrégation raciale...
C'est sur ce genre de comportements que prospèrent les fakes malheureusement, et que le travail d'éducation aux médias est le plus prégnant... Ça n'enlève évidemment pas que la responsabilité de la faute vient de ceux qui ont produit le contenu, mais ça questionne sur la régulation de ces fakes et le travail de prévention à faire, surtout à l'approche d'échéances électorales très importantes un peu partout dans le monde..

1 pour,
1

Vision4life @
Cultivateur


1478pts

Inscrit le: 02 mai 2022
Messages: 406

Navigateur : n.c.
Hors ligne

Posté le: 06 mars 2024 à 12:17  

SkyNet n'est pas loin : bientôt, sera t-il nécessaire d'avoir des hommes dans les gouvernements.

L'homme du monde occidental fabrique la machine et délaisse l'esprit et les traditions.
il en miniaturise des fragments
Malgré tout il trouve tout ça encombrant et d'année en année, pas assez performant.
Il encourage par l'image d'adopter sa trouvaille
Il veut ensuite qu'elle l'accompagne
Puis,une fois ces éléments à maturité, qu'elle fasse tout à sa place.

Ensuite l'utilisation de cet aboutissement est détournée non seulement contre lui, mais elle tue.

L'histoire nous a montrée que l'ingénierie par chez nous regorge autant de talents que - pire -, de grands naïfs.

1 pour,
1

funkydata @
Métayer


3617pts

Inscrit le: 12 septembre 2014
Age: 45
Messages: 2217

Navigateur : n.c.
Hors ligne

Posté le: 06 mars 2024 à 12:35  

Mitch_ a écrit:

L'IA appliquée dans le champ politique, ça commence doucement : https://www.rfi.fr/fr/am%C3%A9riques/20240304-%C3%A9tats-unis-de-faux-clich%C3%A9s-g%C3%A9n%C3%A9r%C3%A9s-par-l-ia-montrent-trump-avec-des-%C3%A9lecteurs-afro-am%C3%A9ricains « Si les gens votent grâce à une simple photo, c’est leur problème » Phrase pleine de cynisme certes mais on ne peut pas lui donner tord...

Les gens vont devoir s'habituer aux manipulations par l'image, et bientôt avec les vidéos aussi. Là pour le coup je ne vois aucun moyen d'endiguer ce phénomène si ce n'est éduquer les cibles.

---

AMD Ryzen 7950X - ASRock X670E Pro RS - G.Skill Ripjaws S5 2x32Go - Arctic LiquidFreezer III 360 - 2x Crucial P3 2To - 2x Seagate Barracuda 10To - [EVGA 1080 Ti] - Corsair 5000D AIRFLOW - Super Flower Leadex Platinum SE 1200 W

2 pour,
2

Mitch_ @
Cultivateur


1171pts

Inscrit le: 05 novembre 2018
Messages: 448

Navigateur : n.c.
Hors ligne

Posté le: 06 mars 2024 à 13:10  

@funkydata

C'est déjà le cas pour les vidéos, par exemple un reportage sur un projet d'assassinat de Macron, relayée par Medvedev, dont la fonction avalise/authentifie implicitement cette vidéo auprès de son audience. C'était grossier, donc facilement débunkable pour les francophones, beaucoup moins pour les autres..
Mais ça donne une idée de ce qui pourrait sortir dans un futur très proche...

https://www.francetvinfo.fr/vrai-ou-fake/vrai-ou-faux-comment-une-fausse-video-de-france-24-diffusee-en-russie-a-lance-la-rumeur-d-un-risque-d-assassinat-d-emmanuel-macron-en-ukraine_6377647.html
https://www.tf1info.fr/international/guerre-en-ukraine-russie-quand-un-deepfake-lance-une-rumeur-sur-un-projet-d-assassinat-d-emmanuel-macron-en-ukraine-2286320.html

0 pour,
0

funkydata @
Métayer


3617pts

Inscrit le: 12 septembre 2014
Age: 45
Messages: 2217

Navigateur : n.c.
Hors ligne

Posté le: 06 mars 2024 à 13:36  

J'espère que tu ne vas pas nous faire tous les fakes de Trump et des russes. Il n'y a pas qu'eux, on n'est pas sur un forum politique, et je pense qu'il serait de bon ton de prendre un peu de hauteur et de ne pas propagander nous-même. 😅

Evidemment que la propagande quelque soit son bord va être boostée par ces nouvelles possibilités.

Je parlais juste de la nécessité d'éduquer les gens sur ce nouvel état de fait. Ce que disais Mauclerc est tout à fait juste, dans l'idéal, mais dans la pratique c'est idéaliste et irréalisable, il n'y a qu'à voir comment cela fonctionne en politique.

Avant les vecteurs de manipulation c'était uniquement la parole, hier c'était la parole et les images, demain ce sera tout l'audiovisuel et se sera surement de plus en plus dur d'identifier le vrai du faux.
C'est pour bien ça que ceux qui créé ces IA planchent aussi sur des outils capables de détecter les images ou vidéos justement générées par ces mêmes IA.

---

AMD Ryzen 7950X - ASRock X670E Pro RS - G.Skill Ripjaws S5 2x32Go - Arctic LiquidFreezer III 360 - 2x Crucial P3 2To - 2x Seagate Barracuda 10To - [EVGA 1080 Ti] - Corsair 5000D AIRFLOW - Super Flower Leadex Platinum SE 1200 W

1 pour,
1

JPC @
Métayer


2676pts

Inscrit le: 05 février 2020
Messages: 752

Navigateur :
En ligne

Posté le: 06 mars 2024 à 14:02  

funkydata a écrit:

J'espère que tu ne vas pas nous faire tous les fakes de Trump et des russes. Il n'y a pas qu'eux, on n'est pas sur un forum politique, et je pense qu'il serait de bon ton de prendre un peu de hauteur et de ne pas propagander nous-même. 😅 Evidemment que la propagande quelque soit son bord va être boostée par ces nouvelles possibilités. Je parlais juste de la nécessité d'éduquer les gens sur ce nouvel état de fait. Ce que disais Mauclerc est tout à fait juste, dans l'idéal, mais dans la pratique c'est idéaliste et irréalisable, il n'y a qu'à voir comment cela fonctionne en politique. Avant les vecteurs de manipulation c'était uniquement la parole, hier c'était la parole et les images, demain ce sera tout l'audiovisuel et se sera surement de plus en plus dur d'identifier le vrai du faux. C'est pour bien ça que ceux qui créé ces IA planchent aussi sur des outils capables de détecter les images ou vidéos justement générées par ces mêmes IA.

Il reste les bons livres traitant de la psychologie, les neurosciences, l'histoire du passé et contemporaine selon les différents points de vue des civilisations etc. C'est nécessaire de se pencher sur la connaissance directe à travers les sciences afin de voir le monde en 360.

1 pour,
1

Vision4life @
Cultivateur


1478pts

Inscrit le: 02 mai 2022
Messages: 406

Navigateur : n.c.
Hors ligne

Posté le: 06 mars 2024 à 18:26  

funkydata a écrit:

Mitch_ a écrit: L'IA appliquée dans le champ politique, ça commence doucement : https://www.rfi.fr/fr/am%C3%A9riques/20240304-%C3%A9tats-unis-de-faux-clich%C3%A9s-g%C3%A9n%C3%A9r%C3%A9s-par-l-ia-montrent-trump-avec-des-%C3%A9lecteurs-afro-am%C3%A9ricains « Si les gens votent grâce à une simple photo, c’est leur problème » Phrase pleine de cynisme certes mais on ne peut pas lui donner tord... Les gens vont devoir s'habituer aux manipulations par l'image, et bientôt avec les vidéos aussi. Là pour le coup je ne vois aucun moyen d'endiguer ce phénomène si ce n'est éduquer les cibles.

On fera passer les méchants pour les bons... les livres anciens l'indiquent par des pseudo-phénomènes miraculeux réalisés par un gouverneur pour le peuple de la Terre entière...

0 pour,
0

PaliPalo @
Paysan


781pts

Inscrit le: 27 juin 2018
Messages: 164

Navigateur : n.c.
Hors ligne

Posté le: 07 mars 2024 à 10:55  

Je vais ajouter mes assomptions :

L'IA est programmable, customisable. Quand on lit qu'une IA a tel ou tel biais que les concepteurs ont ou auront reconfiguré pour "rétablir" la situation. On est en droit de se dire que l'IA n'est pas fiable, qu'elle est manipulable.

L'IA fait ce qu'elle fait. Elle ne doute pas, elle ne raisonne pas, elle ne se remet pas en question. C'est les humains du fait, des erreurs perçues, qui font ce travail cognitif.

A moins que l'IA puisse apprendre de ses erreurs, cela reste un outil, quelque-chose de bête. Et si elle arrive à se corriger, il faudrait qu'elle sache ce qu'est une erreur.

Elle n'a pas d'émotion, les impacts de ses choix, de ses actes, ne lui sont pas connus. C'est encore une manipulation humaine qui doit déterminer cela si tant est que ce soit nécessaire.

Et là on rentre dans la conceptualisation du bien et du mal. Doit-on donc passer en mode philosophie agnostique ? Qui du créateur ou de la créature définit le bien ou le mal. La créature a-t-elle le libre arbitre ou cela provient-il de son créateur ? La créature devrait-elle avoir le libre arbitre ? Après tout, ce n'est pas un absolu.

L'IA est, selon moi, une autre forme d'automatisation. Rien de plus. Et quand on rentre dans ce domaine, on arrive aux aberrations systématiques. On arrive a devoir gérer les exceptions par manque de conception rationnelle. C'est le cas depuis le début de l'informatique, de l'automatisation en fait (depuis le début de la science, je dirais même). J'en ai entendu et vu des histoires de systèmes qu'on doit régulièrement adaptés, corrigés. Même au niveau mécanique, le nombre de fois que je n'ai pas entendu un ouvrier ou un ingé dire que ça serait plus efficace "si on faisait comme ceci", "si on modifiait la chaîne de prod ainsi"

En d'autres mots: "L'erreur est humaine". Quelque soit la puissance, le crédit qu'on accorde à l'IA, elle aura aussi les mêmes faiblesses que ses concepteurs. Elle sera forcément faillible. Pas toujours, mais possiblement. Et lui faire une confiance aveugle est, selon moi, une très grosse illusion.

Je pense notamment aux véhicules autonomes comme un VDD en a touché un mot. Si cette personne pensait à de l'IA dans ce cas de figure, je dénoncerai un manque de lucidité. Si c'est customisable, si c'est influençable, ça ne peut pas être autonome. L'être humain ne l'est pas réellement; je ne vois pas comment l'IA pourrait l'être. Et lorsque je parle de l'être humain, je considère l'ensemble; pas l'individu. La transport, quel qu'il soit, peut être automatisé mais pas autonome. L'autonomie n'est qu'un mirage car elle nécessite une complète liberté. Ce sont les agréments ou désagréments qui la simulent; les choix des uns influençant celles des autres. Donc donner de l'autonomie à une IA pour ce type de fonctionnement, revient à la confronter à d'autres IA. Effets concurrentiels garantis.

En fait, mes craintes sont qu'on ait de moins en moins de contrôle ou de capacité de contrôle que cela nous amènera à avoir une incapacité de stopper la machine. La paresse humaine et son intention d'autosuffisance égotique par le robot (en son sens originel de corvéable) ne facilite pas cette capacité. Car, pourquoi avoir besoin des autres si ceux-ci peuvent être remplacés par des machines. Et si le créateur donnait le libre arbitre à sa créature, pourquoi celle-ci n'inventerait également pas une créature qui pourrait remplacer ses congénères ? Monter dans la hiérarchie universelle, le rêve de certains, je dirais.

Attention, hein, c'est juste mon ressenti. Je n'ai pas fait d'études approfondies du sujet.

3 pour,
3

JPC @
Métayer


2676pts

Inscrit le: 05 février 2020
Messages: 752

Navigateur :
En ligne

Posté le: 07 mars 2024 à 12:04  

PaliPalo a écrit:

Je vais ajouter mes assomptions : L'IA est programmable, customisable. Quand on lit qu'une IA a tel ou tel biais que les concepteurs ont ou auront reconfiguré pour "rétablir" la situation. On est en droit de se dire que l'IA n'est pas fiable, qu'elle est manipulable. L'IA fait ce qu'elle fait. Elle ne doute pas, elle ne raisonne pas, elle ne se remet pas en question. C'est les humains du fait, des erreurs perçues, qui font ce travail cognitif. A moins que l'IA puisse apprendre de ses erreurs, cela reste un outil, quelque-chose de bête. Et si elle arrive à se corriger, il faudrait qu'elle sache ce qu'est une erreur. Elle n'a pas d'émotion, les impacts de ses choix, de ses actes, ne lui sont pas connus. C'est encore une manipulation humaine qui doit déterminer cela si tant est que ce soit nécessaire. Et là on rentre dans la conceptualisation du bien et du mal. Doit-on donc passer en mode philosophie agnostique ? Qui du créateur ou de la créature définit le bien ou le mal. La créature a-t-elle le libre arbitre ou cela provient-il de son créateur ? La créature devrait-elle avoir le libre arbitre ? Après tout, ce n'est pas un absolu. L'IA est, selon moi, une autre forme d'automatisation. Rien de plus. Et quand on rentre dans ce domaine, on arrive aux aberrations systématiques. On arrive a devoir gérer les exceptions par manque de conception rationnelle. C'est le cas depuis le début de l'informatique, de l'automatisation en fait (depuis le début de la science, je dirais même). J'en ai entendu et vu des histoires de systèmes qu'on doit régulièrement adaptés, corrigés. Même au niveau mécanique, le nombre de fois que je n'ai pas entendu un ouvrier ou un ingé dire que ça serait plus efficace "si on faisait comme ceci", "si on modifiait la chaîne de prod ainsi" En d'autres mots: "L'erreur est humaine". Quelque soit la puissance, le crédit qu'on accorde à l'IA, elle aura aussi les mêmes faiblesses que ses concepteurs. Elle sera forcément faillible. Pas toujours, mais possiblement. Et lui faire une confiance aveugle est, selon moi, une très grosse illusion. Je pense notamment aux véhicules autonomes comme un VDD en a touché un mot. Si cette personne pensait à de l'IA dans ce cas de figure, je dénoncerai un manque de lucidité. Si c'est customisable, si c'est influençable, ça ne peut pas être autonome. L'être humain ne l'est pas réellement; je ne vois pas comment l'IA pourrait l'être. Et lorsque je parle de l'être humain, je considère l'ensemble; pas l'individu. La transport, quel qu'il soit, peut être automatisé mais pas autonome. L'autonomie n'est qu'un mirage car elle nécessite une complète liberté. Ce sont les agréments ou désagréments qui la simulent; les choix des uns influençant celles des autres. Donc donner de l'autonomie à une IA pour ce type de fonctionnement, revient à la confronter à d'autres IA. Effets concurrentiels garantis. En fait, mes craintes sont qu'on ait de moins en moins de contrôle ou de capacité de contrôle que cela nous amènera à avoir une incapacité de stopper la machine. La paresse humaine et son intention d'autosuffisance égotique par le robot (en son sens originel de corvéable) ne facilite pas cette capacité. Car, pourquoi avoir besoin des autres si ceux-ci peuvent être remplacés par des machines. Et si le créateur donnait le libre arbitre à sa créature, pourquoi celle-ci n'inventerait également pas une créature qui pourrait remplacer ses congénères ? Monter dans la hiérarchie universelle, le rêve de certains, je dirais. Attention, hein, c'est juste mon ressenti. Je n'ai pas fait d'études approfondies du sujet.

J'approuve ton ressenti, ton questionnement est pertinent.
Pourquoi avoir besoin des autres? Comme dit la sociologie : "un être humain est un être social." La notion de famille ou de groupe, un besoin vital pour les humains.

0 pour,
0

Sapinsympa @
Fermier


5284pts

Inscrit le: 20 septembre 2021
Messages: 1468

Navigateur : n.c.
Hors ligne

Posté le: 12 mars 2024 à 23:25  

Formation en ligne alacon au boulot, 30 minutes sur "les IA". Un petit moment magique :
"[...] Il est légitime de craindre que les IA ne détruisent des emplois. Mais ce ne sera pas le cas car elles n'ont pas vocation à remplacer les humains, mais [...]".

Donc voilà. Soyez rassurés. Elles ont des vocations.

L'étymologie de vocation c'est cocasse, c'est entendre un appel. Le sens premier c'est entendre un appel intérieur. De Dieu. 😅

On est bon, les IA vont être autonomes pour prendre des décisions, et pragmatiquement nous emprisonner (I, Robot) ou nous éliminer (2001, l'odyssée de l'espace).

1 pour,
1

Sphx @
Agriculteur


2467pts

Inscrit le: 23 août 2019
Age: 32
Messages: 1117
Localisation: Seine et Marne
Navigateur : n.c.
Hors ligne

Posté le: 13 mars 2024 à 09:20  

Hier avait lieu le Salefsorce World Tour sur porte de Versailles. Je ne sais pas si certains y sont allés, moi non, la flemme 😂

Je vous mets la trame de la journée :

"Le temps d'une journée, découvrez comment l'IA, une plateforme CRM et des données fiables augmentent les capacités de vos équipes, les rendent plus productives et créatives et les aident à façonner une expérience client mémorable. Témoignages, démos, ateliers et échanges entre pairs, vous apporteront des idées brillantes pour accélérer votre voyage vers l'IA de confiance."

Pour le coup, ça rejoint ce que je disais et les démos que j'ai pu faire et auquel j'ai pu assister sur l'outil. On ne remplace pas l'homme (enfin pas encore)


J'ai vu sur le net un truc ça m'a fait rire parce que c'est un peu beaucoup ce que je pense également. Je suis jeune mais tellement vieux grincheux dans ma tête

"No Code" is someone else's code.

"Cloud" is someone ele's servers.

"Machine Learning" is just statistics on steroids.

"Artificial Intelligence" is a collection of IF statements written on a massive scale.

"Blockchaine" is a highly inefficient database secured by collective distrust --> Ça été une grosse mode aussi, il fallait en mettre partout, faire des POC. Personnellement chez mon client du jour au lendemain on en a plus parlé.

"Big data" is a lot of data that nobody knows what to do with ---> le big data ça été l'IA d'il y a quelques années. La mode du moment, on ne parlait que de ça. Effectivement, on sait pas quoi foutre des données et le métier en général ne comprends pas trop la donnée et ne sait pas l'exploiter.

"Smart Home" is where your fridge knows more about your diet than you do --> Pour travailler avec des personnes dans ce secteur, on détecte même si t'as mal fermé ton frigo rien qu'en analysant ta consommation 😅

"Virtual Reality" is a fancy way to ignore the actual reality

"Quantum Computing" is a kind of computing that not even its developers fully understand --> Moi en tout cas, je dev pas dessus et j'y comprends pas grand chose 😂

"Internet of thing" is making sure even your toaster is hackable --> Mais tellement vrai !!!

---

I7-9700K - MSI MPG Z390 Pro Carbon - RTX 3080FE - 16 Go Corsair 3200mhz - DRP4 - 2To Nvme Samsung 970EVO - Corsair 5000D Airflow - Seasonic GX 80+Gold 850w

4 pour,
4

Mauclerc @
Métayer


2994pts

Inscrit le: 28 septembre 2011
Messages: 940
Localisation: Paris
Navigateur : n.c.
Hors ligne

Posté le: 13 mars 2024 à 09:46  

Le pire c'est quand le mot est tellement à la mode qu'il arrive aux oreilles de la direction qui déboule en disant "faut en faire", sans comprendre comment ça marche, ce que ça peut apporter, et si ça a un intérêt dans ton activité... 😤

1 pour,
1

 

Sujets similaires
Sujet		Auteur	Forum	Réponses	Posté le
	Office 2016 imprime page blanche	cordobaseb	OsLand	5	11 août 2021 à 19:57
	Infection de page web sur le test des pâtes thermiques	Bobblebubble	Amélioration du site	54	24 juillet 2021 à 21:34
	Voyez-vous les images sur la page d'accueil sur votre tél ?	beubeu	Amélioration du site	19	14 janvier 2021 à 10:06
	Vend gtx 1070 ti / 250 euros , page 2	batigol	Ventes	0	15 décembre 2019 à 09:47
	[Suite à achat GPU] - Les drivers (début en page 7)	SuunaZ	Cartes Graphiques	107	30 octobre 2019 à 08:58