> Le règlement européen de 2024 interdit certains usages de l’IA, comme la manipulation d’opinion ou le calcul de scores sociaux. Mais d’autres usages de systèmes plus modestes créent déjà des dommages. Un des cas les mieux documentés est celui des allocations familiales aux Pays Bas, où des algorithmes sont utilisés pour détecter les fraudes. Plusieurs dizaines de milliers de familles ont été poursuivies par erreur, avec des conséquences terribles pouvant aller jusqu’au divorce ou même le suicide.

> En 2025, reCAPTCHA est facilement vaincu par les robots. Pourtant, Google continue de le proposer parce que reCAPTCHA est devenu un outil de suivi qui collecte des données sur les utilisateurs et génère des milliards de revenus pour Google, selon Chuppl : « Re-captcha prend l'empreinte pixel par pixel de votre navigateur, une carte en temps réel de tout ce que vous faites sur l'internet ».

=>  reCAPTCHA est un spyware de Google.

via Seb

> Mediapart : Plus personne désormais n’ignore qu’Elon Musk est l’un des proches les plus influents du nouveau président américain. Est-il l’arbre qui cache la forêt de ces milliardaires de la tech fascinés par le trumpisme ?

> Thibault Prévost : Elon Musk n’est évidemment pas tout seul. Les médias américains ont bien raconté comment tous ces milliardaires de la Silicon Valley, en tout cas ceux qui penchent le plus à droite, ont à la fois infiltré et phagocyté l’équipe de transition et le futur gouvernement Trump.

...

> Il devient difficile de savoir si Elon Musk rejoint Donald Trump, ou si c’est le trumpisme qui est en train d’être altéré de l’intérieur par Musk.

> Dans les meetings, Elon Musk portait par exemple une casquette « Dark Maga », qui fait référence au mouvement des « Lumières noires », qui a été théorisé par Curtis Yarvin. C’est un mouvement néofasciste qui défend l’idée qu’un pays idéal devrait être gouverné comme une entreprise, par le patron d’une entreprise.

...

> Le plan de ces milliardaires d’extrême droite est-il en train de se réaliser ?

> Oui. Pour les milliardaires de la tech, le programme, c’est de se libérer de la concurrence et de la régulation à la fois. En investissant la Maison-Blanche, ils sont en train de faire les deux. Et la théorie selon laquelle la Silicon Valley serait composée de libertariens a vraiment un coup dans l’aile.

> Ce sont au contraire des gens dont la fortune est dopée par de gigantesques contrats publics et qui ne veulent pas du tout de la disparition de l’État. Ils veulent un État sur mesure. On assiste à l’aboutissement de la stratégie de capture réglementaire, qui consiste normalement à infiltrer les régulateurs pour devenir soi-même le régulateur. C’est une étape de plus : devenir carrément l’État et s’autodécerner des contrats militaires, des contrats de surveillance ou des contrats spatiaux, dans le cas de Musk. On assiste à la transformation d’une oligarchie [le gouvernement par une élite – ndlr] en pure ploutocratie [le gouvernement par les riches – ndlr].

...

> On ne peut plus faire l’impasse sur cette filiation idéologique et il est urgent de nommer l’IA pour ce qu’elle est. L’IA porte un projet de redéfinition de la notion même d’être humain. Le discours qui promeut l’intelligence artificielle propose de refonder les architectures de la société. On retrouve là le projet transhumaniste, cher aux milliardaires de la tech.

> Ce projet est très différent selon qu’il s’applique à eux-mêmes ou au reste du corps social. Pour eux-mêmes, l’IA, c’est le projet d’augmentation des capacités humaines, la mythologie du surhomme, la volonté d’hybrider son cerveau avec la machine. De défier la mort aussi.

> Mais pour ces milliardaires, quand l’IA est appliquée au reste du corps social, elle devient un outil de contrôle et de servitude. Quand on regarde les utopies qu’ils défendent, par exemple les stations spatiales de Musk, le futur qui est promis pour la population, c’est la servitude algorithmée, aux mains de la machine, avec un capital qui se régénère quasiment automatiquement.

Un rappel pourtant essentiel :
> L’IA n’est pas une technique, c’est une idéologie. C’est ce qu’explique d’ailleurs un de ses créateurs, John McCarthy. Quand il a lancé le terme Artificial Intelligence, c’était un choix conscient pour obtenir des financements. L’idée d’une machine anthropomorphique, qui va arriver non seulement à atteindre l’être humain, mais à le dépasser.

> Et quand on humanise la machine, on mécanise l’humain – c’est la contre-proposition tacite. Cela devient extrêmement dangereux pour les sociétés, et notamment dans la sphère du travail. Quand on déploie des algorithmes dans l’entreprise, on pousse aussi les gens à se rapprocher de la machine. Et donc à réduire leur périmètre d’autonomie politique.

...

> Il faut aussi rappeler que l’IA générative, présentée depuis l’arrivée de ChatGPT fin 2022 comme un outil déjà, ou bientôt, plus efficace que l’homme, ne marche pas si bien que cela. Pourquoi ?

> Structurellement, on parle de machines qui font 5 à 20 % d’erreurs. Elles sont entraînées sur un corpus de données absolument gigantesque, et font des mises en relation entre des points, par inférence statistique. Tant qu’on reste dans une représentation du monde qui est proche de la médiane statistique, cela fonctionne très bien.

> Mais plus on s’éloigne de la médiane, plus le modèle va avoir du mal à prédire et à modéliser le monde. Le problème est que la médiane politique du monde correspond à la bourgeoisie, à la blanchité, au genre masculin. Aux dominants, en fait.

> Donc, plus on s’éloigne de la représentation du monde des dominants, plus on arrive dans les marges, plus on se retrouve avec une automatisation des inégalités, comme le dit la politiste Virginia Eubanks : la machine reproduit et amplifie les biais de classe, de race et de genre, qui soutiennent déjà le monde occidental. Toute machine algorithmique est une intervention politique sur le réel.

> Dans une tentative de dépolitiser le problème, la Silicon Valley essaye de redéfinir les erreurs de l’IA comme des « hallucinations », en nous obligeant à une forme de tendresse par rapport aux machines, qu’il faudrait éduquer. Je suis absolument contre l’usage de ce terme : il s’agit d’erreurs de calcul, de désinformation, intrinsèques au modèle.

> Et on découvre régulièrement que les machines autonomes ne le sont en fait pas.

> On apprend par exemple que la voiture autonome nécessite une supervision humaine à distance [Le New York Times évalue la supervision nécessaire à 1,5 humain par véhicule autonome – ndlr] ou que les magasins automatiques Amazon où on ne passait pas à la caisse étaient gérés par un millier de travailleurs indiens sous-payés, qui devaient manuellement « flaguer » les achats des clients à travers des caméras de surveillance. Il faut davantage d’êtres humains pour gérer l’illusion de l’intelligence et de la machine autonome. Cela illustre bien l’inutilité massive de ce système.

> Fin novembre de la même année, Thierry Breton, commissaire européen au marché intérieur, tente d’enrayer la machine diplomatique et s’accorde une sortie tonitruante dans La Tribune. « Je le dis pour tous ceux qui font du lobbying en France : d’où parlez-vous et pour les intérêts de qui ? », accuse l’ancien ministre de Jacques Chirac, reprochant nommément à MistralAI de « ne pas défendre l’intérêt général ». « Je ne suis dupe de rien, je vois tout », lance alors le commissaire français.

> Quatorze mois plus tard, le débat a été définitivement tranché. L’AI Act est entré en vigueur dans une version très largement amoindrie, à la plus grande joie de Cédric O et de Mistral. Thierry Breton n’est plus commissaire européen, débarqué avec l’aval d’Emmanuel Macron au profit de Stéphane Séjourné, un fidèle parmi les fidèles.

> « C’était le témoin gênant, note l’eurodéputé écologiste David Cormand, membre de la commission spéciale planchant sur l’IA au niveau européen, et qui a organisé un « contre-sommet » le 7 février à Paris, où Thierry Breton était l’invité vedette. Il incarnait une autre ligne, moins encline à sacrifier les droits fondamentaux au profit d’une minorité. »

> On sait aussi Donald Trump prêt à tous les chantages envers la Jordanie et l’Égypte pour obtenir un feu vert – ou au moins orange – à son ambition d’épuration ethnique de la bande de Gaza.

> Mais tout à coup, comme un homme qui tient à réveiller son auditoire, à le saisir, le président états-unien lâche : « Les États-Unis prendront le contrôle de la bande de Gaza et nous ferons du bon travail. Nous la posséderons et serons responsables du démantèlement de toutes les dangereuses bombes non explosées et autres armes présentes sur le site, du nivellement du site et de l’élimination des bâtiments détruits, de l’aplanissement. Créer un développement économique qui fournira un nombre illimité d’emplois et de logements pour les habitants de la région... Faire un vrai travail, faire quelque chose de différent. »

> Ce qui veut dire, en clair : déportation de la population gazaouie et envoi de l’armée américaine pour contrôler l’enclave, gigantesque marché pour les entreprises amies.

Publier des deepfakes pour montrer l'utilité de l'IA ? C'est moi ou c'est complètement con ?

> Un juge fédéral des Etats-Unis a émis, samedi 8 février, une ordonnance en urgence afin de bloquer le contrôle du système de paiements du Trésor américain par la commission sur l'efficacité gouvernementale (Doge), dirigée par Elon Musk. Dans cette ordonnance, le juge Paul A. Engelmayer a interdit l'accès à ces données à "toutes les personnes nommées politiquement", "tous les agents spéciaux du gouvernement" ainsi qu'à "tous les employés gouvernementaux affectés à une agence extérieure au Trésor".

A, ça y est, ça réagit.

Trump, c'est 1984 ("le faux c'est le vrai", etc.) en action. Et 1984, c'est une métaphore du fascisme, je ne vous apprends rien.
2 exemples tirés de la veille que Libé exerce sur les faits et gestes de la carotte malade :

- les fonds versés par l'USAID c'est de l’argent dépensé "frauduleusement", de manière "inexplicable", le "niveau de corruption" atteignant de ce fait "des niveaux rarement vus avant".
Par association d'idées, cette rhétorique du non-sens me rappelle les arguments employés par Poutine pour justifier l'invasion de l'Ukraine, qu'il fallait "dénazifier".

- suppression d'une unité du FBI de lutte contre les ingérences étrangères dans les élections aux Etats-Unis, "afin de libérer des moyens pour des priorités plus urgentes, et de mettre fin aux risques de voir davantage d’instrumentalisations" des procureurs.

Bonne nouvelle dans ce merdier : un juge fédéral a bloqué la procédure de "démission différée" à l'encontre de 2 millions (!) de fonctionnaires.

Un pas de plus...