Lu chez SebSauvage : un article (un de plus pourrait-on dire) en cours de validation tendant à démontrer que les LLM, pour le dire vite, rendent con, ou en tout cas entraînent une "atrophie cérébrale" d'autant plus dure à "récupérer" que l'habitude d'utilisation est ancienne :

Dans cette expérimentation, 55 % de la « charge cognitive » nécessaire pour rédiger un essai sans aucune assistance diminuerait avec l’utilisation d’un LLM provoquant une sorte d’atrophie cérébrale.
Dans le temps, écrire avec ChatGPT ferait accumuler une « dette cognitive » rendant difficile un retour à une activité cérébrale normale pour les tâches effectuées sans LLM.

[...]

2 — Les effets cognitifs de l’utilisation de ChatGPT : les LLM atrophient-ils notre activité cérébrale ?
Les résultats de l’étude semblent sans appel : la « connectivité cérébrale » diminuerait systématiquement en fonction du soutien externe. [...] Autrement dit : plus le soutien extérieur est élevé, plus l’amplitude des zones actives dans le cerveau est faible.

Bon, ça peut paraître moins grave que ça en à l'air : ça revient juste à dire que selon que le sujet n'utilise que son cerveau, un moteur de recherche ou un LLM, ce ne sont pas les mêmes zones du cerveau qui sont activées, même si le nombre de zones utilisées va décroissant : cerveau seul > cerveau + moteur de recherche > LLM (et cerveau sur la table).

La suite est encore pire :

[...]

Les données dites « comportementales » — en particulier celles relatives à la capacité de citation, à l’exactitude des citations et à l’appropriation des essais — prolongent et corroborent les conclusions de l’étude en matière de connectivité neuronale.

[... ]

La divergence comportementale la plus constante et la plus significative entre les groupes a été observée dans la capacité à citer de tête son propre essai.

Bref : 83,3% des cobayes de l'étude (basée sur un échantillon, réduit, il est important de le préciser) s'étant servi du LLM pour rendre l'essaie demandé, se sont avéré incapables de citer des passages de cet essai.

Pour le coup, ça me parait plutôt normal de ne pas me rappeler d'un truc que je n'ai pas écrit moi-même. Mais l'étude établit une corrélation forte entre le faible nombre de zones du cerveau sollicitées et l'incapacité à mémoriser :

L’étude met notamment en avant le fait que la réduction de l’activité cognitive chez les utilisateurs de LLM « reflète probablement un contournement des processus d’encodage profond de la mémoire, les participants lisant, sélectionnant et transcrivant les suggestions générées par l’outil sans les intégrer dans les réseaux de mémoire épisodique ».

Par-ailleurs, les utilisateurs ont du mal, consciemment ou pas, à s'approprier la paternité du texte produit. Et ce n'est pas que de l’honnêteté intellectuelle de leur part, c'est aussi parce que, pour caricaturer, leur cerveau a été tellement peu impliqué dans le processus qu'il n'a rien produit et rien retenu, ce qui n'est pas sans poser des problèmes sur le long terme : avec une IA, on peut produire des choses, mais on n'apprend rien.

Cette observation expérimentale semblerait fournir la preuve que si les utilisateurs s’appuient trop fortement sur les outils d’IA, ils peuvent penser acquérir une maîtrise superficielle sans parvenir à intérioriser et à s’approprier les connaissances.

Ça vous semble encore anodin ? Attendez la chute.

Les effets sur le cerveau se font sentir à long terme. Après avoir échangé leurs rôles, le groupe "brain only" a obtenu de meilleurs résultats avec Chat GPT que le groupe "LLM only".

Le dernier paragraphe semble montrer (je rappelle que l'échantillon est restreint) que le groupe ayant fait du "LLM only" tend à se focaliser sur un ensemble d'idées plus restreint

Selon les auteurs, cette répétition pourrait suggérer que de nombreux participants ne se sont peut-être pas engagés profondément dans les sujets ou n’ont pas examiné de manière critique le matériel fourni par le LLM. Ce schéma reflèterait l’accumulation d’une dette cognitive : le recours répété à des systèmes externes tels que les LLM remplacerait des processus cognitifs exigeants nécessaires à la pensée indépendante par des processus purement intégratifs. La dette cognitive reporterait donc l’effort mental à court terme mais entraînerait des coûts à long terme comme une diminution de l’esprit critique, une vulnérabilité accrue à la manipulation et une baisse de la créativité.

Bref : perte de la faculté de mémorisation, perte du sens critique, perte des facultés imaginatives.

De là à dire -mais ce n'est pas si exagéré au regard du contexte- que l'objectif final des LLM est de nous rendre aussi cons que dociles... il y a un pas que je franchis sans complexes aucuns.

L'IA est en train de détruire le web, épisode 4586 :

L’IA a son spam, et il s’appelle slop. Le slop est le produit bas de gamme généré en quantité industrielle par une IA générative, particulièrement des images ou des vidéos. Et comme le spam, le slop menace d’envahir le monde numérique.

Créer une vidéo de 30 secondes pour TikTok, YouTube, Facebook ou Instagram avec une IA générative prend quelques minutes. Exactement comme le spam, il devient alors rationnel de générer des centaines de ces images ou vidéos à destination des réseaux sociaux pour qu’une petite partie d’entre elles « percent », et les spécialistes de la manipulation des algorithmes des réseaux ne s’y sont pas trompés : le slop est partout.

[...]

Le plus étonnant, c’est que loin de lutter contre le slop, les plateformes l’encouragent. [...] Meta fournit ainsi des outils de génération par IA permettant de produire immédiatement des dizaines de versions d’une même pub et de les tester en parallèle et en temps réel auprès du public

Ainsi, les réseaux sociaux se ruent vers une troisième forme de leur existence : après la première forme « réseau de socialisation en ligne », nous sommes à l’étape post-vérité où les faits n’ont plus de pertinence, et il y aura désormais cette forme sans doute finale d’une circulation automatisée de contenus artificiels, où c’est la réalité de l’interaction elle-même qui est dissoute.

Super article (via Seb, je crois, ou peut-être Tristant Nitot, voire les deux...), qui allie l'explication à la démonstration en image de pourquoi et comment les entreprises se tirent la bourre pour foutre de l'IA partout (c'est un effet boule de neige, plus y'en a... plus y'en a) et font tout (mise an avant sur les pages et les interfaces) pour nous forcer à l'utiliser... parce que ça leur a coûté bien trop cher.

L’intelligence artificielle générative n’augmentera jamais nos capacités, pas plus qu’elle ne nous remplacera au travail. Son but premier est ailleurs : il s’agit avant tout de mieux nous exploiter. Analyse d’un rapport de l’organisation Data and Society.

A l'occasion du Sommet pour l'action sur l'intelligence artificielle qui se déroule à Paris lundi et mardi, France 2 dédie une soirée spéciale à l'IA, avec la diffusion d'un documentaire sur la face cachée de ce processus technologique.

Non mais le niveau de LOL quand même :

• Qui est le plus grand diffuseur de désinformation ?
• On m'a dit de pas dire que ce sont Elon Trump ou Donald Musk

via Seb

Précision importante : il n’est pas ici question de voix préenregistrées avec lesquelles il est impossible d’interagir. Dans cet article, nous faisons référence à des IA capables de tenir une conversation et donc de réagir à vos paroles. Heureusement, quelques indices nous permettent de les détecter. Voici lesquels.

[...]

Si vous avez de sérieux doutes quant à la nature de votre interlocuteur, posez-lui une question qui n’a aucun sens. Si vous avez affaire à une IA, celle-ci ne réagira pas et reviendra à son sujet comme si de rien n’était.

M'en fous, je raccroche comme un malpropre, IA ou pas.

Il va p'têt falloir que ça rentre : LES-IA-RACONTENT-DES-CONNERIES.
Pas tout le temps, des fois elles dysfonctionnent et disent la vérité.

Depuis quelques jours, mon esprit malade, faisant le parallèle entre "l'ère de la post-vérité" ouverte à peu près lors de la première élection de Trump et l'avénement des robots culinaires spécialistes des pizzas à la colle, a pondu une synthèse lapidaire que je vous livre : pour l'IA comme pour Trump, le vrai est un moment du faux.

En nous libérant de l'effort à faire pour obtenir un résultat, la technologie nous prive de l'entraînement à la compétence qui en dépendait. Si la compétence en question était ultra spécifique et inutile ailleurs, ok (allumeur de réverbères, bourreau, sonneur de cloche, lavandière ...) mais quand ce sont des capacités cognitives de base et desquelles dérivent tout un arbre de compétences diverses, on devrait pour le moins être prudent.

Du coup, si les états poussent autant vers l'IA et le cortège de régressions cognitives qu'elles supposent... ça pue un peu, non ? Grâce la réduction de nos capacités mémorielles et déductives, de notre langage et de notre raisonnement, L'IA pourra nous régurgiter la propagande qu'on lui aura donné à bouffer et on la prendra pour parole d'évangile.

MAIS C'EST EXACTEMENT CA.
Le problème c'est qu'actuellement, quand tu expliques ça, tu passes pour l'emmerdeur / complotiste / celui-qui-refuse-le-progrès de service.
J'ai shaarlié un truc l'autre soir, un peu à la va-vite, une interview piochée dans Mediapart je crois, sur l'idéologie derrière l'IA, et sur le fait que l'IA ne recouvre pas les mêmes idées selon que le sujet-utilisateur est un prophète millénariste de la Silicon Valley (en gros : toujours plus de profit, humain augmenté, fantasmes d'immortalité) ou un plébéien, où les objectifs sont plutôt toujours plus d'exploitation, de moins en moins de liberté, mais avec le sourire, parce que l'IA c'est vraiment trop cool.

Seb l'a excellemment dit l'autre jour : l'IA et un instrument de domination. Tu donnes un sucre à un clébard, il est content d'avoir un sucre. Et du coup il ne voit pas la laisse de plus en plus courte, la niche pourrie et la bouffe dégueulasse.

C'est nous les clébards dans l'histoire.