Putain, c'est vraiment de la merde les LLM : ça se contente de lire des blocs de texte. Et des instructions codées, c'est aussi des blocs de texte. Donc tout est imaginable, de débrider le chatbot jusqu'à l'exécution d’instruction malveillantes (extraction de données, etc.)

Pour moins de deux dollars de l’heure, les salariés avaient pour mission de labelliser des "dizaines de milliers de bribes de texte" inappropriés explique le Time. Un travail de fourmi qui a laissé les travailleurs traumatisés. "C'était de la torture", témoigne l’un d’entre eux au magazine. Plusieurs employés ont déclaré devoir lire entre 150 et 250 passages de texte par roulement de neuf heures, certains décrivant des scènes de pédophilie, de meurtre, de torture ou encore d'inceste. Un accompagnement par des conseillers en "bien-être" leur était proposé, mais ces séances étaient rares et peu effectives selon les salariés.

Une situation réfutée par Sama, l’entreprise sous-traitante en charge de la prestation, qui a néanmoins décidé de rompre précipitamment son contrat avec OpenAI quatre mois plus tard. Présente au Kenya, en Inde et en Ouganda, l’entreprise est spécialisée dans l’étiquetage des données pour les géants de la tech, comme Google ou Microsoft. Bien que Sama affirme fournir un "travail digne aux personnes qui en ont besoin", elle n’en est pas à son premier scandale. Le sous-traitant avait déjà été au centre d’une enquête du Time en février 2022. Le média avait alors dénoncé les conditions de travail éprouvantes des salariés, là aussi au Kenya, chargés de modérer et supprimer les contenus violents ou interdits du réseau social Facebook.

Derrière les technologies soit disant "intelligentes", il y a des humains, souvent mal traités et sous payés.
Rappelez-vous : les IA, les ordinateurs sont CONS. Ils ont besoin d'un cerveau humain pour corriger ce qu'ils piochent "sans filtre" sur internet.