Quand les internautes utilisent l’intelligence artificielle pour tenter de manipuler l’opinion

Cet été, une vidéo partagée par Elon Musk a été vue 135 millions de fois et a provoqué un scandale. Grâce à l’intelligence artificielle, la voix parfaitement imitée de Kamala Harris dit des choses énormes : « Si vous critiquez quoi que ce soit de ce que je dis, vous êtes à la fois sexiste et raciste. Joe m’a dit : règle numéro un, cachez votre totale incompétence. » Lorsqu’il a posté cette vidéo sur son réseau social X, anciennement Twitter, Elon Musk n’a pas précisé qu’il s’agissait d’un faux. En guise de commentaire, il a écrit un simple « c’est incroyable ».

C’est un certain M. Reagan qui a créé cette vidéo, en modifiant un véritable clip de campagne de Kamala Harris. Ce YouTubeur, fervent partisan de Trump, multiplie les ce qu’il présentées comme des parodies. Il tente d’influencer la campagne américaine depuis Bali, en Indonésie. Chris Kohls, de son vrai nom, a accepté de répondre à nos questions. Son objectif : contrer ce qu’il appelle la propagande des médias traditionnels.

Le plus important pour moi c’est de dire la vérité dans mes vidéos. Et c’est quelque chose qui manque cruellement dans les médias américains aujourd’hui.

Chris Kohls, YouTubeur pro-Trump

à l’Oeil de 20h

Pour lui, il ne s’agit pas de tromper les électeurs : tout le monde serait bien conscient que la vidéo est fausse. « Quiconque se plaint que cette vidéo est impossible à distinguer d’une vraie et que les gens vont se tromper est soit très stupide, soit n’a aucune confiance dans la pensée critique des électeurs. » il nous assure.

Mais est-il vraiment si facile de reconnaître que cette vidéo est truquée ? Nous l’avons montrée aux électeurs américains. « Joe Biden a finalement révélé sa sénilité lors du débat. Merci Joe », on l’entend dans l’extrait que nous leur jouons. Une première dame assez âgée, rencontrée devant la Maison Blanche, le croit : « Donc Kamala Harris avait des informations sur la sénilité de Joe Biden… mais elle ne les avait jamais révélées auparavant ! Lorsqu’on lui fait remarquer qu’il s’agit d’une fausse vidéo, elle explique qu’elle ne s’en est pas rendu compte. « C’est peut-être mon âge. »elle ajoute.

D’autres touristes américains à Washington n’y croient pas : « Quelqu’un a utilisé sa voix pour faire ça », ou même : »Je pense que tout cela est faux. » Un militant pro-Trump que nous avons rencontré lors d’un rassemblement de soutien ne sait pas quoi penser lorsque nous lui montrons la vidéo :

Je ne comprends pas bien ce que c’est. Je ne sais pas. Je ne peux pas dire si cette vidéo a été faite pour la soutenir, ou au contraire contre elle.

Un militant pro-Trump

à l’Oeil de 20h

La vidéo est clairement déroutante. Et le problème est que ce genre de montage est loin d’être isolé. De fausses images de fans de la star Taylor Swift montrant leur soutien à Donald Trump ont ainsi fait le tour du monde. Le candidat lui-même a relayé ce rallye inattendu. Avec un commentaire ravi : « J’accepte! » Il est impossible de savoir s’il y croyait ou non.

Originaire d’une petite ville du sud de la Californie, un blogueur pro-Trump tente d’influencer un autre enjeu crucial de l’élection : le vote afro-américain. Jusqu’à présent, la grande majorité des électeurs noirs soutiennent Kamala Harris. Pour tenter d’inverser la tendance, Sharika Soal a créé une image de Trump entouré de femmes noires . Il a été vu 4 millions de fois sur X. Devant son ordinateur, elle nous raconte : « J’utilise un logiciel d’intelligence artificielle pour créer des images et illustrer mes tweets. »

Sharika Soal n’est pas une professionnelle de l’informatique. Elle utilise un logiciel très simple. Il lui suffit de décrire l’image qu’elle souhaite inventer et l’intelligence artificielle s’occupe du reste. « Je vais écrire ‘Donald Trump avec de belles et élégantes femmes noires’… et voir ce que nous obtenons ! » Après plusieurs tentatives, elle est satisfaite : « Celui-ci c’est très bien, Donald Trump a l’air très heureux, il sourit toujours sur les photos. »

Elle a ensuite partagé les images avec ses 180 000 abonnés sur les réseaux sociaux. Sans préciser qu’elles étaient fausses. « Cela énerve vraiment les gens de gauche, et j’adore les énerver, alors je vais continuer. Ce n’est pas une vraie photo, car ce n’est qu’une illustration ! » dit-elle. Elle ajoute :

J’espère que cela influencera les gens et leur permettra de comprendre que les femmes noires soutiennent les républicains. C’est une réalité, ce n’est pas un mensonge.

Sharika Soal, blogueuse pro-Trump

à l’Oeil de 20h

Ces images sont majoritairement créées par des républicains, mais les internautes démocrates s’en mêlent également. Comme cette photo qui montre Donald Trump avec une mineure, aux côtés de Jeffrey Epstein, le milliardaire accusé de crimes sexuels.

Nous avons voulu tester par nous-mêmes les possibilités offertes par les logiciels disponibles en ligne. Certains ont mis en place des garde-fous, comme ChatGPT. Quand on essaie de créer une image de Trump, le logiciel refuse : « Je ne peux pas créer d’images de personnalités publiques spécifiques, comme Donald Trump. »

Le logiciel disponible sur X, Grok, impose bien moins de limites. Il est donc possible d’étayer toutes les rumeurs : Joe Biden mourant, Kamala Harris accro à la bouteille, ou encore faire s’embrasser des personnalités politiques.

Face à ce flot de photos trompeuses, les réseaux sociaux s’alarment. En février dernier, Facebook, Tiktok, Google et X ont même mis leurs rivalités de côté pour s’engager à empêcher l’IA de perturber les élections.

Mais la promesse est-elle vraiment tenue ? À Washington, Tim Harper est expert indépendant au Centre pour la démocratie et la technologie. Il suit l’impact des technologies numériques sur la démocratie. Il nous montre sur Facebook une image générée par l’IA de Kamala Harris dans une tenue légère. « Cette image ne comporte aucune indication permettant d’avertir qu’il a été manipulé et qu’il est trompeur, alors que cela devrait être mentionné », il explique.

Ceux qui diffusent cette fausse image prétendent que Kamala Harris est transgenre. Selon Tim Harper, les plateformes ne se donnent pas les moyens suffisants pour appliquer leurs propres règles.

Certains signes montrent que les réseaux sociaux investissent moins dans la modération de leur contenu depuis quatre ans.

Tim Harper, chercheur au Centre pour la démocratie et la technologie

à l’Oeil de 20h

Il ajoute : « Par exemple, les plateformes ont licencié des employés qui étaient chargés de la modération. » Le réseau social X semble être le champion du double langage. Voici ce que mentionnent ses conditions d’utilisation : « Vous n’êtes pas autorisé à partager du contenu artificiel ou manipulé qui pourrait tromper ou induire en erreur d’autres personnes. » Or, c’est sur X que l’on retrouve aujourd’hui la grande majorité des fausses images. Contacté, le réseau social ne nous a pas répondu.

En général, ces manipulations sont vite repérées par les médias… car elles présentent des failles visibles. Mais que se passera-t-il à l’approche des élections, lorsqu’il ne sera plus temps de les nier ? Des images de violences à proximité d’un bureau de vote ou de fraudes électorales pourraient ainsi laisser croire à un vol de l’élection. Dans un pays encore traumatisé par l’attaque du Capitole il y a quatre ans, à la suite de fausses accusations de fraude, la menace est prise très au sérieux.

Parmi nos sources :

Les géants de la technologie s’accordent sur l’IA

Le Centre pour la démocratie et la technologie

Règles d’utilisation de X