Le chatbot ChatGPT d'OpenAI aurait été élaboré grâce aux contributions essentielles de travailleurs kényans externalisés et sous-rémunérés.
Le chatbot a été construit avec l'aide d'une équipe de data labeling basée au Kenya qui gagnait moins de 2 dollars de l'heure, selon une enquête du TIME.
Les employés kényans externalisés ont également été soumis à des contenus pornographiques pour nettoyer la plateforme de la violence et des discours haineux.
Les employés recevaient des bribes de texte à étiqueter provenant des "recoins les plus sombres de l'internet" et décrivant des contenus choquants tels que "l'abus sexuel d'enfants, la bestialité, le meurtre, le suicide, la torture, l'automutilation et l'inceste", rapporte le TIME.
Les employés auraient lu des centaines d'entrées de ce type chaque jour pour un salaire allant de 1 à 2 dollars de l'heure, soit un salaire mensuel de 170 dollars.
L'équipe kenyane était gérée par Sama, une entreprise basée à San Francisco, qui a déclaré que ses travailleurs pouvaient bénéficier de séances de thérapie individuelle et de groupe avec des "thérapeutes en santé mentale professionnellement formés et agréés".
Un travailleur chargé d'étiqueter du texte a raconté au TIME qu'il souffrait de visions récurrentes après avoir lu une description explicite d'un homme ayant des relations sexuelles avec un chien. "C'était de la torture", a-t-il dit.
Sama aurait mis fin à tous ses contrats de travail pour OpenAI en février 2022, soit beaucoup plus tôt que prévu.
En décembre de l'année dernière, ChatGPT s'est fait remarquer pour sa capacité "époustouflante" à répondre à toute une série de requêtes en produisant un texte semblable à celui d'un humain, les chercheurs du monde entier faisant l'éloge du modèle de langage général de l'IA.
Plusieurs utilisateurs ont également souligné le système apparemment efficace du chatbot, qui l'empêche de produire des contenus racistes ou violents.
Son lancement a donné lieu à de nombreuses spéculations selon lesquelles il pourrait révolutionner les industries et pourrait même remplacer des outils comme le moteur de recherche de Google.
Mais plusieurs institutions et universitaires ont également exprimé leur inquiétude quant à l'utilisation généralisée du chatbot IA, qui pourrait bouleverser le monde universitaire.
Le département de l'éducation de la ville de New York a déclaré qu'il s'inquiétait des impacts négatifs de ChatGPT sur l'apprentissage des élèves, au milieu de "préoccupations concernant la sécurité et l'exactitude du contenu."
"Il y aura des moments effrayants alors que nous nous dirigeons vers des systèmes de niveau AGI*, et des bouleversements significatifs, mais les avantages peuvent être si extraordinaires que cela vaut la peine de surmonter les obstacles pour y arriver", a écrit le chef d'OpenAI, Sam Altman, dans un fil de discussion sur Twitter.
"Au fil du temps, l'utilisation des technologies d'OpenAI posera des problèmes importants ; nous ferons de notre mieux, mais nous ne pourrons pas anticiper tous les problèmes", a-t-il ajouté.
Certaines entreprises, dont Google, avaient déjà prévenu que la diffusion d'une telle technologie d'IA à grande échelle pouvait présenter des risques en raison des préjugés et de la désinformation.
Mais M. Altman a soutenu que la technologie de l'IA serait nécessaire à l'humanité "pour comprendre pleinement l'univers".
OpenAI et Sama n'ont pas immédiatement répondu à plusieurs sollicitations de commentaires de The Independent.
* Artificial general intelligence ou intelligence artificielle générale est la capacité d'un agent intelligent à comprendre ou à apprendre n'importe quelle tâche intellectuelle qu'un être humain peut accomplir.
source :
https://www.independent.co.uk/tech/chatgpt-kenyan-workers-exploded-underpaid-b2265045.html