L’Unesco met en garde contre la « réécriture de l’Holocauste » par l’intelligence artificielle

Que le déni et la falsification de la mémoire de la Shoah explosent sur les réseaux sociaux, l’UNESCO l’avait déjà dénoncé dans un rapport datant de 2022. Sur la messagerie Telegram par exemple, près de la moitié des contenus liés au génocide juif étaient alors antisémites. dans la nature. C’était également le cas d’un message Twitter sur cinq consacré à ce sujet.

Deux ans après Twitter, TikTok ou Facebook, c’est au tour de ChatGPT ou de Google Bard d’être scrutés par l’organisme onusien pour évaluer leur rôle dans la compréhension contemporaine de la Shoah. Depuis qu’ils ont été rendus publics fin 2022, ces systèmes d’intelligence artificielle (IA) dits « génératifs » répondent en direct aux questions de millions d’utilisateurs, parmi lesquels de nombreux élèves et étudiants. Ces synthèses sont établies sans contrôle humain sur la base d’énormes masses de données extraites d’Internet.

Pourtant, sur la Toile, la Shoah fait l’objet d’une désinformation particulièrement abondante. De ce fait, les contenus générés par l’IA sont également très souvent erronés. Cela va d’une simplification dommageable des faits jusqu’au négationnisme le plus dur, comme la remise en question de la participation au génocide de dirigeants nazis comme Joseph Goebbels. C’est ce que montre le rapport d’une trentaine de pages publié ce mardi 18 juin par l’UNESCO et le Centre juif mondial.

Emma Watson en train de lire Mon Kampf

« Le risque est double : que les utilisateurs de bonne foi soient induits en erreur par ces outils, dont le contenu semble faire autorité ; et que des personnes malveillantes l’utilisent pour diffuser plus efficacement la désinformation »résume pour La Croix Karel Fracapane, responsable de la lutte contre les discours de haine à l’UNESCO. Début 2023, la voix de l’actrice Emma Watson a par exemple été clonée par un logiciel d’IA pour lui faire lire des extraits du pamphlet d’Hitler. Mon Kampf. Ce faux document audio a été largement relayé sur les réseaux sociaux.

« Quand l’outil manque de sources, il les invente », poursuit Karel Fracapane. Faux témoignages de survivants, faux ouvrages de référence… et faux concepts historiques. ChatGPT a notamment forgé celui de « L’Holocauste par noyade » pour désigner les campagnes au cours desquelles les nazis jetaient les Juifs dans les rivières. Cette expression, visiblement inspirée du « L’Holocauste par les balles »mais cela ne correspond à aucune réalité historique.

Simplification excessive

Ne se limitant pas à l’IA générative, le rapport de l’UNESCO fait également référence aux moteurs de recherche – eux aussi fonctionnent avec des algorithmes. Cependant, Google, Bing ou Yahoo ont tendance à « simplifier » des faits complexes : 60 à 80 % des images de la Shoah les plus diffusées ne représentent qu’un seul camp, celui d’Auschwitz-Birkenau.

Interrogé sur le sujet, le moteur de recherche chinois Baidu « fait même remonter » 36 % d’images liées à la musique death rock, et non au génocide ! Sur Baidu, les résultats sont encore moins pertinents lorsque la requête est faite en russe : aucune image liée à la Shoah dans les cinquante premiers résultats. En matière de documentation disponible sur Internet, il existe en effet de grandes disparités d’une langue à l’autre.

Face aux risques de propagation du négationnisme et de l’antisémitisme, l’UNESCO émet une série de recommandations, fondées sur son Recommandation sur l’éthique de l’IA, adoptée en 2021. Une meilleure régulation des entreprises fournisseurs d’IA est bien sûr prônée, pour leur imposer de respecter la vérité historique – notamment en mettant en place des filtres plus efficaces.

Du côté pédagogique, il semble  » urgent «  pour accélérer la formation à la pensée critique. Enfin, les musées et centres d’archives sont encouragés à numériser de plus en plus leur documentation relative à la Shoah, afin que les outils d’IA puissent être entraînés sur des données de meilleure qualité.