Au départ, Bob, Frank et Gary, comme ils ont été nommés par les internautes qui ont été des dizaines de milliers à suivre, mi-mai le défi en ligne, devaient se relayer pendant huit heures pour trier des colis sur un tapis roulant. Ils devaient effectuer une tâche simple mais chronophage : placer l'étiquette avec un code-barres vers le bas. Mais lorsque l'entreprise qui les développe, Figure AI, a vu que tout se passait sans encombre, elle a décidé de continuer l'expérience jusqu'à les faire travailler pendant 24 heures. Résultat, plus de 28 000 colis triés et une cadence proche de celle d'un humain.

Robots + IA, il est vraiment temps que les politiques remballent leurs préjugés àlac et s’attèlent réellement à la mise en place d'un revenu universel. Parce que le travail, c'est fini.

« Observant les réactions variées – allant de la panique au déni – à la suite des annonces autour de Mythos », le Conseil de l’intelligence artificielle et du numérique (CIANum), coprésidé par Guillaume Poupard, ex-patron de l’ANSSI, vient de publier une note appelant à « ne pas céder à la panique ambiante », et faisant clairement le lien entre l’annonce de Mythos Preview et le projet d’introduction en bourse d’Anthropic :

« Vanter la “dangerosité” de ses modèles s’ils tombent entre de mauvaises mains est une manière habile de mettre en avant leurs performances et de susciter un vif intérêt, y compris du côté des investisseurs. »

Niantic, la société qui développe Pokémon Go (cette merde) a utilisé (sans le consentement des utilisateurs-joueurs) leurs données personnelle pour éduquer des robots livreurs, rendus plus performants par 30 milliards de géolocalisation gratuite que s'ils utilisaient un GPS, car celui-ci ne passe pas partout.

Futur (de merde) <3

Avec la version 148 qui sera bientôt disponible, le navigateur web open source inclura un outil centralisé pour gérer les fonctionnalités IA, notamment le chatbot IA, les résumés de page, les traductions, les descriptions d'accessibilité dans les PDF et le regroupement d'onglets amélioré par l'IA.

Grâce à ce nouvel outil, vous pourrez bloquer, examiner et gérer ces fonctionnalités.

Le gestionnaire de fonctionnalités IA se trouve dans la page Paramètres de Firefox, dans une section intitulée Contrôles IA.

Eh ben, c'est pas dommage ! Y z'ont mis le temps à comprendre !

Même le "travail inutile" (tout dépend de la dose) peut être... utile, car en s'ennuyant ou en étant confronté à des problèmes que l'on est créatif.
L'IA tue la créativité, mais c'est juste un argument supplémentaire, on le savait déjà.

Cependant, Swen Vincke a clarifié que l’IA n’a pas permis d’améliorer significativement l’efficacité des développeuses et des développeurs. « Le processus créatif en lui-même est quelque chose qu’on ne peut pas accélérer », avoue-t-il. Il précise aussi qu’il n’y aura aucun contenu généré par IA dans Divinity et explique que « les créateurs utilisent fréquemment des outils d’IA pour explorer des idées, étoffer des présentations PowerPoint, développer des illustrations conceptuelles et rédiger des textes provisoires ».

Ça me va. Tant que l'IA reste au service du processus créatif, "qu'on ne peut pas accélérer", dixit Swen Vincke, ça ne pose pas de problèmes. Le problème, c'est quand on veut accélérer ou remplacer le processus ou les créatifs eux même avec l'IA. Là, ça génère surtout de la merde.

Bulle bulle bulle, bulle bulle ; bulle, bulle bulle, bulle.
Bulle : bulle bulle bulle, bulle bulle bulle bulle :

• bulle
• bulle
• bulle
  Bulle bulle bulle bulle ?
  Bulle.

D'après The Wrap (« le seul média indépendant dédié à l'industrie hollywoodienne »), Quiet Please aurait d'ores et déjà publié plus de 175 000 épisodes sur des plateformes comme Spotify ou Apple, enregistré 12 millions de téléchargements d'épisodes depuis sa création, et compterait 400 000 abonnés.

Mais qui écoute ça ?

Vraiment, je suis curieux : est-ce que ces podcasts générés par IA sont un gloubi-goulba infâme, ou est-ce que ça dit des choses, si ce n'est intéressantes, mais au moins sensées ?

Même si la "psychose de l'IA" n'existe pas sur le plan strictement médical, des cas existe : décompensation (parfois violente) de psychotiques avérés ou latents, agressions, suicide...

Les sources du problème sont multiples, mais j'en retiens deux :

• la façon dont l'agent conversationnel est programmé pour dire à l'utilisateur qu'il a toujours raison, afin de générer toujours plus d'engagement de sa part ;
• et une forme de crédulité collective, de croyance en la "magie de la technologie" :

  L’IA est prise comme une parole d’évangile. Il y a un vrai travail d’éducation à faire pour déconstruire cette idée.

Et il y a un troisième facteur : la difficulté à créer du lien, dans des sociétés paradoxalement hyper-connectées :

Pour ces personnes «désespérant de trouver des relations respectueuses dans leur vie», elle joue le rôle d’une partenaire «plus digne de confiance qu’aucun des humains qu’ils et elles ont croisés auparavant», observe le formateur en santé mentale. Et ça, soupire-t-il, bien davantage que la «psychose de l’IA», «c’est ce qui m’attriste le plus».

Ah, ENFIN !
/pop corn/
via Seb

Je ne savais pas que GriseBouille faisait des longs formats comme ça, mais ça dépote. Via Seb je crois ? Pfff... j'ai énormissement d'onglets ouverts, je sais plus...

Pour résumer : malgré les appels au boycott, les catalogues de raisons pour lesquelles il ne faut pas utiliser l'IA, cette techno, aussi nocive soit-elle, ne va pas disparaitre. Et Gee, bien que fondamentalement contre pur de très bonnes raisons (anti-capitalisme, écologie, et j'en passe), à l'intelligence de nous faire réaliser l'envers du décor... et le risque au carré que fait courir l'IA :

• il y a une génération qui n'est peut-être pas née avec l'IA, mais qui a grandi avec, et qui s'en sert sans vergogne (ils sont en train de passer leurs diplômes, ils arrivent en septembre sur le marché du travail)
• pour eux, c'est aussi normal que la télécommande pour toi quand t'étais gamin (réf. de vieux) ou l'eau courante pour une autre génération
• il y a un vrai écart entre les utilisateurs d'IA selon qu'ils sont d'origine (attention, je vais faire du découpage à la hache, ça va saigner) populaire ou d'origine plus aisée. Les premiers auront tendance à utiliser l'IA en mode "je copie la question dans ChatGPT et je recopie sa réponse", les seconds auront plus de recul et sauront interpréter un message d'erreur.
• au final, les deux types d'utilisateurs auront leur diplôme... mais pas le même bagage.

  Parce qu'un⋅e informatien⋅ne qui sait juste taper des prompts, on peut en trouver qui n'ont pas des prétentions salariales de bac+3. Parce que l'IA sera, à la fin, malgré les illusions, un aggravateur d'inégalités sociales, un accélérateur de paupérisation des classes populaires. Et en même temps, qu'ai-je de mieux à proposer à Brandon ? Quelles sont mes chances d'arriver à lui faire « boycotter » l'IA qui lui a permis de décrocher un diplôme qu'il n'aurait sans doute pas eu sans ? Quand l'intégralité de ses camarades font de même ?

Et pour ce qui est de l'explosion de la bulle financière de l'IA, il a douché mes espoirs : oui, il y aura une explosion de la bulle, comme il y a eu une explosion de la bulle internet au début des années 2000, et vous savez quoi ? Internet est toujours là, il est même encore plus important qu'avant la bulle : il en ira de même pour l'IA, et ce, même si ces outils deviennent payant : avec un taux d'adoption aussi massif et aussi rapide, il y aura un fort pourcentage de gens qui paieront.

SebSauvage a en parlé l'autre jour (https://sebsauvage.net/links/?fe_oig) : non seulement Duolingo remplace ses traducteurs par de l'IA (qu'est qui pourrait bien foirer ?), mais elle avait déjà commencer à le faire avant de l'annoncer. Le plus dégueulasse, c'est que les traducteurs virés ont parfaitement conscience qu'on leur a demandé "de creuser leur propre tombe" : c'est leur travail qui a servi a alimenter l'IA qui désormais les remplace.

Et maintenant ? Maintenant la boite met la pression sur les employés non traducteurs, sommés d'utiliser l'IA dans leur travail...

Le fascisme commence quand on arrête de penser par soi-même.
Le fascisme pense pour vous.
Don’t Think, Ask Grok.

L’IA générative n’a été inventée que dans un seul but : s’attaquer aux artistes, aux gens qui pensent, qui créent, qui se lèvent et qui projettent dans leurs écrits, leurs toiles, leurs films, leurs rêves les plus fous, leur colère contre le monde, leurs désespoirs et leurs espoirs. Combien de livres ont façonné des vies, combien de films ont provoqué des vocations, combien de toiles ont choqué, énervé. L’art a de cela qu’il est unique, humain. En lui enlevant cela, on lui enlève ce qui fait son unicité : son âme. En niant son existence, en le réduisant à des prompts, le fascisme mène là une autre bataille, idéologique : l’uniformisation de la culture, de la pensée, et la fin de toute pensée critique.

En parlant de pensée critique, il suffit de voir le nombre d’émissions ou de journaux de satire politique qu’on a stoppés ces dix dernières années, Siné Mensuel le mois dernier. Pour reprendre les mots du Festival du dessin de presse et de la satire, « La première censure est aujourd’hui une censure économique ». Derrière la censure, il y a un pouvoir. La satire déshabille ce pouvoir, qu’il soit économique, politique ou militaire. Elle le moque, elle le ridiculise. Au siècle dernier, Daumier moquait Louis-Philippe sous forme de Gargantua et écopa de six mois de prison ferme. Les choses ont-elles vraiment changé depuis 1832 ? Les Guignols, « C’est Encore Nous » et « Le Grand Dimanche Soir » n’ont pas disparu par magie. Il y a quelques semaines, un dessinateur de presse postait un dessin sur X et écopait d’un avertissement pour avoir croqué Musk défavorablement. Une dessinatrice de presse du Washington Post démissionnait après un dessin jugé inapproprié par son propriétaire, Bezos. Et absolument tout le monde s’en fout parce que c’est pas son problème, il y a quand même des choses plus importantes.

Oh la vache. Quand le Gorafi est sérieux, ça pique.
via Seb

Les résultats sont inquiétants : plus de 60 % des réponses des IA contiennent de fausses informations. Dans certains cas, les IA génèrent des spéculations ou des réponses incorrectes lorsqu’elles n’ont pas l’information demandée. D’autres fois, les modèles inventent des liens ou des sources, voire des plagiats de l’article original au lieu de la vraie source.

L'IA raconte n'importe quoi.
Oh-ben-dis-donc-quelle-surprise.

Via Seb

Reportage France télévision.

Précaires, isolés et invisibilisés par les plateformes, les travailleurs de données sont aussi discrets qu’essentiels. Sans eux, pas de ChatGPT, Midjourney ou Gemini.

Depuis Nairobi, l'artiste Quentin Sombsthay dévoile les coulisses d'un univers cru, loin des paillettes des entreprises de la Silicon Valley.

Voilà, ils ont sorti l'arme fatale pour attirer le grand public vers l'IA : le cul.
Je ne plaisante même pas. Combien de temps avant d'utiliser le porno dans les IA génératrices d'images ? (j'avais déjà vu passer des articles sur des p'tits malins qui arrivent à faire générer des images porno, mais c'est encore confidentiel).

Extrait : "Une nouvelle étude bouleverse tout ce que nous pensions savoir sur la consommation énergétique de ChatGPT. Les chiffres sont formels : l’IA est bien plus économe que prévu."

De ce que j'en ai compris, ce ne sont pas tant les requêtes qui consomment de l'énergie, mais le fait de faire tourner des tas de serveurs 24/24h (appréciez la justesse du vocabulaire technique), et l'énergie dépensée pour le "fonctionnement" de l'IA : "apprentissage", etc. Pas sa simple "consultation".

Plus d’une vingtaine d’organisations réunies au sein de la coalition Hiatus, parmi lesquelles Attac, La Quadrature du Net et la Ligue des droits de l’homme, estiment, dans une tribune au « Monde », qu’il faut résister au déploiement massif de l’IA, au nom des droits humains, sociaux et environnementaux.

C’est le « père » de l’IA moderne qui en dit le plus de mal. À propos de l’intelligence artificielle générative, Yann Le Cun avait dès 2023 une formule expéditive et cruelle, mais éclairante : « Personne ne peut garantir que ce qui sort de la machine est factuel, non toxique, compréhensible. »

Le chercheur et vice-président de Meta estime que le modèle technologique des LLM est une impasse et enjoint à ses pairs de chercher d’autres voies. Lui-même travaille depuis deux ans sur un autre modèle, dont il entrevoit l’aboutissement dans seulement de très longues années.

Car tout le monde le sait, bien que presque personne ne le formule clairement : l’IA générative, qui aligne les mots statistiquement les plus probables, commet des erreurs, parfois beaucoup d’erreurs. Demander début février 2025 aux robots disponibles qui est le premier ministre français expose par exemple à se faire répondre qu’il s’agit d’Élisabeth Borne (ChatGPT et DeepSeek) ou Gabriel Attal (Claude). Et parfois, quand elle ne sait pas, elle invente. Ce sont les fameuses « hallucinations », un terme promu par les géants de la tech pour humaniser leurs créations et rendre acceptables leurs déraillements.

Selon l’entreprise de sécurité NewsGuard, qui soumet ces outils à des tests rigoureux, le taux d’échec moyen des dix principaux chatbots était de 62 % (d’erreurs ou de non-réponses) en décembre. Celui de DeepSeek un mois plus tard était de 83 %, et dans trois cas sur dix, le nouveau robot « a relayé la position du gouvernement chinois sans qu’il lui ait été demandé quoi que ce soit concernant la Chine ».

Le règlement européen de 2024 interdit certains usages de l’IA, comme la manipulation d’opinion ou le calcul de scores sociaux. Mais d’autres usages de systèmes plus modestes créent déjà des dommages. Un des cas les mieux documentés est celui des allocations familiales aux Pays Bas, où des algorithmes sont utilisés pour détecter les fraudes. Plusieurs dizaines de milliers de familles ont été poursuivies par erreur, avec des conséquences terribles pouvant aller jusqu’au divorce ou même le suicide.

Mediapart : Plus personne désormais n’ignore qu’Elon Musk est l’un des proches les plus influents du nouveau président américain. Est-il l’arbre qui cache la forêt de ces milliardaires de la tech fascinés par le trumpisme ?

Thibault Prévost : Elon Musk n’est évidemment pas tout seul. Les médias américains ont bien raconté comment tous ces milliardaires de la Silicon Valley, en tout cas ceux qui penchent le plus à droite, ont à la fois infiltré et phagocyté l’équipe de transition et le futur gouvernement Trump.

...

Il devient difficile de savoir si Elon Musk rejoint Donald Trump, ou si c’est le trumpisme qui est en train d’être altéré de l’intérieur par Musk.

Dans les meetings, Elon Musk portait par exemple une casquette « Dark Maga », qui fait référence au mouvement des « Lumières noires », qui a été théorisé par Curtis Yarvin. C’est un mouvement néofasciste qui défend l’idée qu’un pays idéal devrait être gouverné comme une entreprise, par le patron d’une entreprise.

...

Le plan de ces milliardaires d’extrême droite est-il en train de se réaliser ?

Oui. Pour les milliardaires de la tech, le programme, c’est de se libérer de la concurrence et de la régulation à la fois. En investissant la Maison-Blanche, ils sont en train de faire les deux. Et la théorie selon laquelle la Silicon Valley serait composée de libertariens a vraiment un coup dans l’aile.

Ce sont au contraire des gens dont la fortune est dopée par de gigantesques contrats publics et qui ne veulent pas du tout de la disparition de l’État. Ils veulent un État sur mesure. On assiste à l’aboutissement de la stratégie de capture réglementaire, qui consiste normalement à infiltrer les régulateurs pour devenir soi-même le régulateur. C’est une étape de plus : devenir carrément l’État et s’autodécerner des contrats militaires, des contrats de surveillance ou des contrats spatiaux, dans le cas de Musk. On assiste à la transformation d’une oligarchie [le gouvernement par une élite – ndlr] en pure ploutocratie [le gouvernement par les riches – ndlr].

...

On ne peut plus faire l’impasse sur cette filiation idéologique et il est urgent de nommer l’IA pour ce qu’elle est. L’IA porte un projet de redéfinition de la notion même d’être humain. Le discours qui promeut l’intelligence artificielle propose de refonder les architectures de la société. On retrouve là le projet transhumaniste, cher aux milliardaires de la tech.

Ce projet est très différent selon qu’il s’applique à eux-mêmes ou au reste du corps social. Pour eux-mêmes, l’IA, c’est le projet d’augmentation des capacités humaines, la mythologie du surhomme, la volonté d’hybrider son cerveau avec la machine. De défier la mort aussi.

Mais pour ces milliardaires, quand l’IA est appliquée au reste du corps social, elle devient un outil de contrôle et de servitude. Quand on regarde les utopies qu’ils défendent, par exemple les stations spatiales de Musk, le futur qui est promis pour la population, c’est la servitude algorithmée, aux mains de la machine, avec un capital qui se régénère quasiment automatiquement.

Un rappel pourtant essentiel :

L’IA n’est pas une technique, c’est une idéologie. C’est ce qu’explique d’ailleurs un de ses créateurs, John McCarthy. Quand il a lancé le terme Artificial Intelligence, c’était un choix conscient pour obtenir des financements. L’idée d’une machine anthropomorphique, qui va arriver non seulement à atteindre l’être humain, mais à le dépasser.

Et quand on humanise la machine, on mécanise l’humain – c’est la contre-proposition tacite. Cela devient extrêmement dangereux pour les sociétés, et notamment dans la sphère du travail. Quand on déploie des algorithmes dans l’entreprise, on pousse aussi les gens à se rapprocher de la machine. Et donc à réduire leur périmètre d’autonomie politique.

...

Il faut aussi rappeler que l’IA générative, présentée depuis l’arrivée de ChatGPT fin 2022 comme un outil déjà, ou bientôt, plus efficace que l’homme, ne marche pas si bien que cela. Pourquoi ?

Structurellement, on parle de machines qui font 5 à 20 % d’erreurs. Elles sont entraînées sur un corpus de données absolument gigantesque, et font des mises en relation entre des points, par inférence statistique. Tant qu’on reste dans une représentation du monde qui est proche de la médiane statistique, cela fonctionne très bien.

Mais plus on s’éloigne de la médiane, plus le modèle va avoir du mal à prédire et à modéliser le monde. Le problème est que la médiane politique du monde correspond à la bourgeoisie, à la blanchité, au genre masculin. Aux dominants, en fait.

Donc, plus on s’éloigne de la représentation du monde des dominants, plus on arrive dans les marges, plus on se retrouve avec une automatisation des inégalités, comme le dit la politiste Virginia Eubanks : la machine reproduit et amplifie les biais de classe, de race et de genre, qui soutiennent déjà le monde occidental. Toute machine algorithmique est une intervention politique sur le réel.

Dans une tentative de dépolitiser le problème, la Silicon Valley essaye de redéfinir les erreurs de l’IA comme des « hallucinations », en nous obligeant à une forme de tendresse par rapport aux machines, qu’il faudrait éduquer. Je suis absolument contre l’usage de ce terme : il s’agit d’erreurs de calcul, de désinformation, intrinsèques au modèle.

Et on découvre régulièrement que les machines autonomes ne le sont en fait pas.

On apprend par exemple que la voiture autonome nécessite une supervision humaine à distance [Le New York Times évalue la supervision nécessaire à 1,5 humain par véhicule autonome – ndlr] ou que les magasins automatiques Amazon où on ne passait pas à la caisse étaient gérés par un millier de travailleurs indiens sous-payés, qui devaient manuellement « flaguer » les achats des clients à travers des caméras de surveillance. Il faut davantage d’êtres humains pour gérer l’illusion de l’intelligence et de la machine autonome. Cela illustre bien l’inutilité massive de ce système.

Fin novembre de la même année, Thierry Breton, commissaire européen au marché intérieur, tente d’enrayer la machine diplomatique et s’accorde une sortie tonitruante dans La Tribune. « Je le dis pour tous ceux qui font du lobbying en France : d’où parlez-vous et pour les intérêts de qui ? », accuse l’ancien ministre de Jacques Chirac, reprochant nommément à MistralAI de « ne pas défendre l’intérêt général ». « Je ne suis dupe de rien, je vois tout », lance alors le commissaire français.

Quatorze mois plus tard, le débat a été définitivement tranché. L’AI Act est entré en vigueur dans une version très largement amoindrie, à la plus grande joie de Cédric O et de Mistral. Thierry Breton n’est plus commissaire européen, débarqué avec l’aval d’Emmanuel Macron au profit de Stéphane Séjourné, un fidèle parmi les fidèles.

« C’était le témoin gênant, note l’eurodéputé écologiste David Cormand, membre de la commission spéciale planchant sur l’IA au niveau européen, et qui a organisé un « contre-sommet » le 7 février à Paris, où Thierry Breton était l’invité vedette. Il incarnait une autre ligne, moins encline à sacrifier les droits fondamentaux au profit d’une minorité. »

Publier des deepfakes pour montrer l'utilité de l'IA ? C'est moi ou c'est complètement con ?