L’intelligence artificielle, véritable domination | Humanité

Depuis plusieurs semaines, tout le monde s’agite sur cette nouvelle application d’intelligence artificielle, ChatGPT. Plus d’un million d’utilisateurs utilisaient déjà ce générateur de texte quelques jours après son lancement. Les plus désireux de s’emparer de ce nouvel outil étaient les élèves et étudiants qui, très astucieusement, ont demandé au robot de faire leurs devoirs. A tel point que j’ai fini par recevoir ce message du directeur de la formation et de la recherche à Sciences-Po : « Chers professeurs… L’utilisation de ChatGPT à Sciences-Po est pour le moment strictement interdite… »

Bon, si ce n’est qu’une question d’évaluation, ce n’est pas très sérieux, on va vite s’adapter à cette nouvelle technologie. D’autre part, c’est un instrument très puissant de l’impérialisme américain et de la reproduction des relations de domination postcoloniales. En effet, les intelligences artificielles ne sont pas et ne peuvent pas être neutres. Non seulement elles reposent sur des corpus de données qui reflètent des siècles d’inégalités et de discriminations, mais elles sont élaborées et impulsées par des acteurs situés, porteurs de représentations. Ainsi, les algorithmes produisent et reproduisent des discriminations et des relations de domination. C’était également le cas d’une version antérieure, GPT-3, qui générait des textes violents, racistes et sexistes.

A cela s’ajoute le problème des conditions de production de ces outils. Basée dans la Silicon Valley, l’entreprise dont la valeur est déjà estimée à 30 milliards de dollars, compte parmi les salariés les plus qualifiés du secteur de la haute technologie. Le créateur de ChatGPT (enfin, « créateur », plutôt le patron d’OpenAI), Sam Altman, s’est récemment réjoui sur Twitter : « Je sais que je ne suis pas censé me vanter d’OpenAI, mais la densité de talents à cette échelle (375 personnes) est stupéfiante. Et je pense que c’est sans précédent dans l’histoire récente de l’industrie. »

Mais la revue Temps nous apprend ainsi que, pour rectifier les problèmes de la première version, OpenAI a fait appel à des travailleurs payés moins de 2 dollars de l’heure au Kenya. Employés par une entreprise partenaire à San Francisco, Sama, la mission principale de ces employés kenyans était de réviser les textes problématiques et de former le robot pour qu’il soit plus sûr à utiliser. Une mission tellement traumatisante que certains ont fait état de cauchemars et de dépression. Si le secteur tech est capable de générer des milliards d’investissements et de revenus, c’est donc aussi parce qu’il repose sur l’exploitation d’une main-d’œuvre bon marché dans les pays du Sud et perpétue des relations de domination loin d’être artificielles.