« Moi, Kamala Harris, je suis votre candidate démocrate à la présidence, car Joe Biden a finalement révélé sa sénilité lors du débat », déclare une voix générée par l’IA dans une vidéo vue plus de cent millions de fois.
Le patron de X se lance dans la désinformation. Elon Musk a diffusé vendredi 26 juillet une fausse vidéo modifiée par l’IA de la campagne présidentielle américaine, générée par l’intelligence artificielle. Les images, vues plus de cent millions de fois sur le réseau social du multimilliardaire, mettent en scène l’actuelle vice-présidente et possible candidate démocrate à l’élection présidentielle américaine, Kamala Harris, avec une voix plus vraie que nature, et pourtant complètement modifiée par l’IA.
« Moi, Kamala Harris, je suis votre candidate démocrate à la présidence parce que Joe Biden a finalement révélé sa sénilité lors du débat » contre Donald Trump, explique la voix générée par l’IA dans la vidéo. Dans cette campagne artificielle, on peut entendre la fausse Kamala Harris prétendre qu’elle est une « recrutement de la diversité »que d’exprimer la moindre critique à son encontre est « sexiste » Ou « raciste » et qu’elle ne savait pas « Rien à voir avec la gestion du pays ». La vidéo, qui présente le logo « Harris pour président », Elon Musk n’a jamais signalé que cette information était générée par l’IA.
Réagissant à la publication d’Elon Musk, fervent partisan de Donald Trump, la porte-parole de la campagne de Kamala Harris, Mia Ehrenberg, a déclaré à l’Associated Press : « Nous pensons que le peuple américain veut une véritable liberté, et c’est ce que la vice-présidente Harris lui offre, et non les mensonges d’Elon Musk et de Donald Trump. »
« Utilisation malveillante »
La vidéo devenue virale, publiée pour la première fois par un YouTubeur nommé M. Reagan – qui a lui-même précisé qu’il s’agissait d’une parodie – soulève la question de deepfakes qui sont devenues particulièrement faciles à réaliser ces dernières années. Ces manipulations numériques et ultra-réalistes, qui permettent d’attribuer des propos non-dits à une personnalité, sont de plus en plus utilisées dans les contextes électoraux à travers le monde.
En janvier dernier, un appel automatisé manipulé par l’intelligence artificielle a imité la voix de Joe Biden et a contacté les électeurs du New Hampshire pour les exhorter à ne pas voter. deepfakes Les récentes élections de Marine Le Pen et de Marion Maréchal avaient également suscité des craintes chez les intéressés. Jordan Bardella, président du RN, évoquait en avril dernier une « utilisation malveillante » de pratique, et avait appelé à une « régulation ».
En France comme aux États-Unis, il n’existe pas de législation sur l’utilisation des deepfakes Dans un contexte électoral, la loi n’a pas encore été adoptée. Mais plus d’un tiers des États américains ont créé leurs propres lois réglementant l’utilisation de l’IA dans les campagnes et les élections, selon l’Associated Press.
Autre question soulevée par la vidéo : la responsabilité des réseaux sociaux dans la viralité de ces contenus manipulés. Bien que X l’interdise « partager des médias synthétiques, manipulés ou hors contexte qui peuvent induire en erreur ou dérouter les gens et causer du tort »sauf les mèmes et la satire « à condition qu’ils ne créent pas de confusion significative quant à l’authenticité des médias »la vidéo était encore en ligne ce lundi soir.