La nouvelle Eve virtuelle est logiquement au centre d’un spot publicitaire de Particle 6 présenté comme son «tout premier rôle».

Les dents. Regardez les dents. Quand vous aurez choppé le truc qui choque(allez, je vous le donne : il n'y a pas de dents inférieures, juste un rectangle blanc), vous ne verrez plus que ça.Les dents, et l'aspect cireux de certains visages.

Mais il faut bien avouer que c'est extrêmement troublant, en regardant vide, on croit que ce sont de vrais acteurs.

Dans une vidéo publiée samedi par Konbini, l'acteur des "Visiteurs" se réjouit des avancées de l'IA qui permettraient de meilleurs doublages à l'étranger.

Rhââââ, mais il ne l’ouvre que pour dire des conneries, lui.

Quand les administrations veulent communiquer en utilisant les codes du web, c'est rarement bien. Quand elles utilisent en plus l'IA et un mème raciste, c'est le grand chelem de la bêtise.

Problème : en voulant toucher un public le plus large possible, la préfecture ne «surfe» pas sur n’importe quelle tendance. C’est en voulant représenter des personnes noires, que certaines vidéos virales mettent en scène des gorilles générés par IA. Une pratique teintée de racisme, qu’évoque dès le 15 juillet un article de TV5 Monde.

Le pire dans cette histoire (après tout, tout le monde peut faire des boulettes) c'est qu'une fois dûment informée, la préfecture de la Drôme a choisi de continuer à utiliser ce mème du gorille raciste dans d'autres clips de prévention.

Lu chez SebSauvage : un article (un de plus pourrait-on dire) en cours de validation tendant à démontrer que les LLM, pour le dire vite, rendent con, ou en tout cas entraînent une "atrophie cérébrale" d'autant plus dure à "récupérer" que l'habitude d'utilisation est ancienne :

Dans cette expérimentation, 55 % de la « charge cognitive » nécessaire pour rédiger un essai sans aucune assistance diminuerait avec l’utilisation d’un LLM provoquant une sorte d’atrophie cérébrale.
Dans le temps, écrire avec ChatGPT ferait accumuler une « dette cognitive » rendant difficile un retour à une activité cérébrale normale pour les tâches effectuées sans LLM.

[...]

2 — Les effets cognitifs de l’utilisation de ChatGPT : les LLM atrophient-ils notre activité cérébrale ?
Les résultats de l’étude semblent sans appel : la « connectivité cérébrale » diminuerait systématiquement en fonction du soutien externe. [...] Autrement dit : plus le soutien extérieur est élevé, plus l’amplitude des zones actives dans le cerveau est faible.

Bon, ça peut paraître moins grave que ça en à l'air : ça revient juste à dire que selon que le sujet n'utilise que son cerveau, un moteur de recherche ou un LLM, ce ne sont pas les mêmes zones du cerveau qui sont activées, même si le nombre de zones utilisées va décroissant : cerveau seul > cerveau + moteur de recherche > LLM (et cerveau sur la table).

La suite est encore pire :

[...]

Les données dites « comportementales » — en particulier celles relatives à la capacité de citation, à l’exactitude des citations et à l’appropriation des essais — prolongent et corroborent les conclusions de l’étude en matière de connectivité neuronale.

[... ]

La divergence comportementale la plus constante et la plus significative entre les groupes a été observée dans la capacité à citer de tête son propre essai.

Bref : 83,3% des cobayes de l'étude (basée sur un échantillon, réduit, il est important de le préciser) s'étant servi du LLM pour rendre l'essaie demandé, se sont avéré incapables de citer des passages de cet essai.

Pour le coup, ça me parait plutôt normal de ne pas me rappeler d'un truc que je n'ai pas écrit moi-même. Mais l'étude établit une corrélation forte entre le faible nombre de zones du cerveau sollicitées et l'incapacité à mémoriser :

L’étude met notamment en avant le fait que la réduction de l’activité cognitive chez les utilisateurs de LLM « reflète probablement un contournement des processus d’encodage profond de la mémoire, les participants lisant, sélectionnant et transcrivant les suggestions générées par l’outil sans les intégrer dans les réseaux de mémoire épisodique ».

Par-ailleurs, les utilisateurs ont du mal, consciemment ou pas, à s'approprier la paternité du texte produit. Et ce n'est pas que de l’honnêteté intellectuelle de leur part, c'est aussi parce que, pour caricaturer, leur cerveau a été tellement peu impliqué dans le processus qu'il n'a rien produit et rien retenu, ce qui n'est pas sans poser des problèmes sur le long terme : avec une IA, on peut produire des choses, mais on n'apprend rien.

Cette observation expérimentale semblerait fournir la preuve que si les utilisateurs s’appuient trop fortement sur les outils d’IA, ils peuvent penser acquérir une maîtrise superficielle sans parvenir à intérioriser et à s’approprier les connaissances.

Ça vous semble encore anodin ? Attendez la chute.

Les effets sur le cerveau se font sentir à long terme. Après avoir échangé leurs rôles, le groupe "brain only" a obtenu de meilleurs résultats avec Chat GPT que le groupe "LLM only".

Le dernier paragraphe semble montrer (je rappelle que l'échantillon est restreint) que le groupe ayant fait du "LLM only" tend à se focaliser sur un ensemble d'idées plus restreint

Selon les auteurs, cette répétition pourrait suggérer que de nombreux participants ne se sont peut-être pas engagés profondément dans les sujets ou n’ont pas examiné de manière critique le matériel fourni par le LLM. Ce schéma reflèterait l’accumulation d’une dette cognitive : le recours répété à des systèmes externes tels que les LLM remplacerait des processus cognitifs exigeants nécessaires à la pensée indépendante par des processus purement intégratifs. La dette cognitive reporterait donc l’effort mental à court terme mais entraînerait des coûts à long terme comme une diminution de l’esprit critique, une vulnérabilité accrue à la manipulation et une baisse de la créativité.

Bref : perte de la faculté de mémorisation, perte du sens critique, perte des facultés imaginatives.

De là à dire -mais ce n'est pas si exagéré au regard du contexte- que l'objectif final des LLM est de nous rendre aussi cons que dociles... il y a un pas que je franchis sans complexes aucuns.

L'IA est en train de détruire le web, épisode 4586 :

L’IA a son spam, et il s’appelle slop. Le slop est le produit bas de gamme généré en quantité industrielle par une IA générative, particulièrement des images ou des vidéos. Et comme le spam, le slop menace d’envahir le monde numérique.

Créer une vidéo de 30 secondes pour TikTok, YouTube, Facebook ou Instagram avec une IA générative prend quelques minutes. Exactement comme le spam, il devient alors rationnel de générer des centaines de ces images ou vidéos à destination des réseaux sociaux pour qu’une petite partie d’entre elles « percent », et les spécialistes de la manipulation des algorithmes des réseaux ne s’y sont pas trompés : le slop est partout.

[...]

Le plus étonnant, c’est que loin de lutter contre le slop, les plateformes l’encouragent. [...] Meta fournit ainsi des outils de génération par IA permettant de produire immédiatement des dizaines de versions d’une même pub et de les tester en parallèle et en temps réel auprès du public

Ainsi, les réseaux sociaux se ruent vers une troisième forme de leur existence : après la première forme « réseau de socialisation en ligne », nous sommes à l’étape post-vérité où les faits n’ont plus de pertinence, et il y aura désormais cette forme sans doute finale d’une circulation automatisée de contenus artificiels, où c’est la réalité de l’interaction elle-même qui est dissoute.

Super article (via Seb, je crois, ou peut-être Tristant Nitot, voire les deux...), qui allie l'explication à la démonstration en image de pourquoi et comment les entreprises se tirent la bourre pour foutre de l'IA partout (c'est un effet boule de neige, plus y'en a... plus y'en a) et font tout (mise an avant sur les pages et les interfaces) pour nous forcer à l'utiliser... parce que ça leur a coûté bien trop cher.

L’intelligence artificielle générative n’augmentera jamais nos capacités, pas plus qu’elle ne nous remplacera au travail. Son but premier est ailleurs : il s’agit avant tout de mieux nous exploiter. Analyse d’un rapport de l’organisation Data and Society.

A l'occasion du Sommet pour l'action sur l'intelligence artificielle qui se déroule à Paris lundi et mardi, France 2 dédie une soirée spéciale à l'IA, avec la diffusion d'un documentaire sur la face cachée de ce processus technologique.

Non mais le niveau de LOL quand même :

• Qui est le plus grand diffuseur de désinformation ?
• On m'a dit de pas dire que ce sont Elon Trump ou Donald Musk

via Seb