Derrière les prouesses inédites de ChatGPT se cachent peut-être des travailleurs maltraités et sous-payés. C'est ce que révèle un récent rapport sur OpenAI. L'entreprise se serait appuyée sur des travailleurs kényans externalisés, dont beaucoup auraient été payés moins de 2 dollars par heure, pour passer au crible certains des coins les plus sombres d'Internet afin de créer un système de filtre d'IA qui serait intégré à ChatGPT. Le filtre devrait permettre de scanner le chatbot à la recherche de signes des pires horreurs de l'humanité. OpenAI est vivement critiqué et accusé de s'engager sur la même voie que les géants de la Silicon Valley comme Apple, Amazon et Meta.Le monde apparemment simple, brillant et propre associé à la technologie semble inévitablement et presque toujours soutenu par quelque chose de plus sombre caché juste sous la surface. Il y a trois ans, Apple, Foxconn, et 81 autres grandes marques de technologie avaient été accusées d'être impliquées dans le travail forcé des Ouïghours en Chine. En mars 2020, l'ONG Australian Strategic Policy Institute (ASPI) a allégué dans un rapport qu'entre 2017 et 2019, plus de 80 000 Ouïghours ont été déplacés hors de Xinjiang, leur région d'origine, vers des camps de détention ou des usines pour y travailler de force pour des entreprises comme Apple.
Dernièrement, c'est OpenAI, le laboratoire américain d'IA à l'origine de ChatGPT, qui est accusé de "torture envers ses travailleurs externalisés". Alors que ChatGPT captive toutes les attentions depuis son lancement fin novembre, une nouvelle enquête du Time affirme qu'OpenAI a fait appel à des travailleurs kényans pour l'aider à mettre au point un outil qui marque les contenus problématiques. Le détecteur devrait se charger de filtrer les réponses de ChatGPT, qui compte à ce jour plus d'un million d'utilisateurs, pour le rendre acceptable par le grand public. Mais ces travailleurs auraient été payés à une modique somme inférieure à 2 dollars par heure.
En outre, le filtre aiderait à supprimer les entrées toxiques des grands ensembles de données utilisés pour former ChatGPT. Pendant que les utilisateurs finaux recevaient un produit poli et hygiénique, les travailleurs kényans agissaient essentiellement comme une sorte de gardien de l'IA, parcourant des bribes de texte qui décriraient des récits saisissants d'abus sexuels sur des enfants, tortures, meurtres, suicides et inceste, le tout avec des détails graphiques. En fait, pour apprendre à l'IA à reconnaître et à supprimer les contenus horribles, il fallait une base de données étiquetée de contenus horribles, et c'est en partie ce sur quoi ces employés ont travaillé.
OpenAI aurait travaillé avec une société américaine appelée Sama, mieux connue pour employer des travailleurs au Kenya, en Ouganda et en Inde pour effectuer des tâches d'étiquetage de données pour le compte de géants de la Silicon Valley comme Google et Meta. Sama était en fait le plus grand modérateur de contenu de Meta (Facebook) en Afrique avant que la société n'annonce ce mois-ci qu'elle avait cessé de travailler ensemble en raison du "climat économique actuel". Sama et Meta font actuellement l'objet d'un procès intenté par un ancien modérateur de contenu qui prétend que les entreprises ont violé la constitution kényane.
Dans le cas d'OpenAI, le rapport indique que les travailleurs kényans auraient gagné entre 1,32 et 2 dollars par heure. Selon certains analystes, ce montant est très faible pour une entreprise telle qu'OpenAI qui a levé des centaines de millions de dollars au cours de ces dernières années. Microsoft a investi plus d'un milliard de dollars dans la société en 2019 et les récents rapports indiquent que le géant de Redmond s'apprêterait de nouveau à injecter environ 10 milliards de dollars dans la société d'IA. D'autres investisseurs devraient également participer à ce tour de table. Si cela se produit, OpenAI devrait être évalué à 29 milliards de dollars.
Cependant, selon certains commentaires, le tarif payé par OpenAI aux travailleurs kényans serait en adéquation avec la réalité sur le terrain. « Pour mettre les choses en perspective, le revenu moyen au Kenya est d'environ 1,25 dollar par heure et, en tant que Kényan, je ne vois vraiment pas cela comme une mauvaise chose. Beaucoup de gens ici vivent dans une pauvreté abjecte, dans des situations que vous ne pouvez pas vraiment imaginer. Toute forme d'aide est donc la bienvenue », affirme un internaute qui se présente comme un Kényan. Toutefois, les analystes estiment qu'OpenAI pourrait mieux faire compte tenu des tâches des travailleurs.
Qu'il s'agisse de modérateurs de contenu souffrant de troubles mentaux qui passent au crible des torrents de messages Facebook infâmes ou d'enfants surmenés qui extraient le cobalt nécessaire à la fabrication de véhicules électriques de luxe et d'autres types d'appareils électroniques, l'efficacité sans friction a un coût humain. « Notre mission est de faire en sorte que l'intelligence artificielle générale profite à l'ensemble de l'humanité, et nous travaillons dur pour construire des systèmes d'IA sûrs et utiles qui limitent les préjugés et les contenus nuisibles », a déclaré le développeur du chatbot ChatGPT dans un communiqué au Time.
« Classer et filtrer les contenus nuisibles est une étape nécessaire pour minimiser la quantité de contenus violents et sexuels inclus dans les données d'entraînement et créer des outils capables de détecter les contenus nuisibles », a-t-il ajouté. Pourtant, la nature du travail a causé une détresse sévère pour certains étiqueteurs de données. Comme certains modérateurs de contenu, les travailleurs de Sama ont déclaré que leur travail restait souvent avec eux après qu'ils se soient déconnectés. L'un d'entre eux dit avoir eu des troubles récurrents de la vision après avoir lu la description d'un homme ayant des relations sexuelles avec une chienne.
« C'était une torture », a-t-il déclaré. Au total, les équipes de travailleurs étaient chargées de lire et d'étiqueter environ 150 à 250 passages de texte au cours d'une période de travail de neuf heures. Bien que les travailleurs aient eu la possibilité de consulter des conseillers en bien-être, ils ont néanmoins déclaré au Time qu'ils se sentaient mentalement marqués par ce travail. Sama a contesté ces chiffres, déclarant au Time que les travailleurs ne devaient étiqueter que 70 passages par poste. Sama a déclaré au Time qu'il offrait aux employés des conseils individuels en matière de santé mentale et des programmes de bien-être pour les déstresser.
Sama, qui aurait signé trois contrats avec OpenAI d'une valeur d'environ 200 000 dollars, a décidé de quitter entièrement l'espace d'étiquetage des données nuisibles, du moins pour l'instant. Plus tôt ce mois-ci, il aurait annoncé qu'il annulerait le reste de son travail avec le contenu sensible, à la fois pour OpenAI et d'autres pour se concentrer plutôt sur "les solutions d'annotation de données de vision par ordinateur". Les conclusions de l'enquête interviennent alors que les entreprises qui ont adapté l'IA pour améliorer leurs produits et services continuent de sous-traiter à des employés externalisés à bas salaire le travail de modération de contenu.
Certains contractants signalent régulièrement des impacts négatifs sur leur santé physique ou mentale. Des entreprises comme Amazon auraient embauché des réviseurs de vidéos en Inde et au Costa Rica pour regarder des milliers de vidéos. Cela aurait entraîné des maux physiques comme des maux de tête et des douleurs oculaires chez ces personnes. En 2019, après que certains contractants de Facebook ont déclaré souffrir de SSPT (syndrome de stress post-traumatique) à cause du travail de modération, le PDG Mark Zuckerberg a qualifié les rapports de ces plaintes d'"un peu trop dramatiques", minimisant ainsi les impacts sur la santé mentale des travailleurs.
Le rapport révèle, dans des détails explicites, les pénibles difficultés humaines qui sous-tendent le développement d'une telle technologie. Bien que les nouvelles technologies, apparemment sans friction, créées par les plus grandes entreprises technologiques du monde annoncent souvent leur capacité à résoudre de gros problèmes avec des frais généraux réduits, la dépendance d'OpenAI à l'égard des travailleurs kényans, comme la grande armée de modérateurs de contenu internationaux des entreprises de médias sociaux, met en lumière l'importance de la main-d'œuvre humaine souvent inséparable d'un produit final.
Source : Time
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous de la rémunération des travailleurs kényans ? Que dites-vous des accusations de torture des travailleurs qui visent OpenAI ? Que pensez-vous du sort réservé aux travailleurs externalisés employés par les entreprises de la Silicon Valley ? À votre avis, pourquoi ces conditions de travail perdurent malgré les dénonciations et les nombreux cas de dépressions des travailleurs ? Selon vous, qui est à blâmer ? Les gouvernements indien, chinois, kényan, etc. ou les grosses multinationales comme Apple ou Facebook ?Voir aussi
Apple, Foxconn, et 81 autres grandes marques sont impliquées dans le travail forcé des Ouïghours en Chine, d'après une ONG Une modératrice qui a regardé des heures de vidéos traumatisantes poursuit TikTok pour avoir échoué à protéger sa santé mentale Des travailleurs chinois décrivent des conditions extrêmement difficiles dans une usine de montage d'iPhone, mais Apple déclare qu'il n'en est rien 
Envoyé par Stéphane le calme
