La Moldavie se bat pour se libérer de la machine de désinformation russe alimentée par l’IA – POLITICO

Cet article fait partie d’une série, Bots et bulletins de vote : comment l’intelligence artificielle remodèle les élections dans le monde entierprésenté par Luminer.

CHIȘINĂU, Moldavie — Dans les derniers jours de 2023, la présidente pro-occidentale moldave Maia Sandu a fait quelque chose de bizarre : elle a interdit aux gens de boire un thé populaire infusé aux baies.

La vidéo granuleuse est apparue pour la première fois sur Telegram, puis rapidement sur Facebook, juste avant les célébrations du Nouvel An. Il aurait montré Sandu se moquant des pauvres du pays en interdisant la cueillette de l’églantier, une baie sauvage utilisée dans une boisson traditionnelle de Noël. La raison apparente de cette interdiction selon Sandu : la protection de l’environnement.

Cette annonce banale a attiré l’attention du public dans un pays où le salaire mensuel moyen est inférieur à 1 000 dollars. Beaucoup ici se souviennent encore des membres de leur famille cherchant de la nourriture dans la forêt à l’époque de la pauvreté soviétique. L’interdiction des cynorrhodons nous touche donc de près.

Pour ceux qui ont accusé Sandu d’être une marionnette occidentale, la vidéo était enfin la preuve qu’elle était prête à abandonner une tradition nationale qui lui était chère, tout cela au nom de son programme pro-Union européenne.

Il y avait juste un problême. La vidéo était un faux.

Elle a été créée, comme beaucoup d’autres qui ont ciblé l’homme politique de 51 ans, par des outils d’intelligence artificielle contrôlés par ses adversaires politiques – dont presque tous ont des liens étroits avec la Russie. C’était un deepfake.

« Ces deepfakes font partie d’une nouvelle étape de la guerre hybride de la Russie contre la Moldavie », a déclaré à POLITICO Stanislav Secrieru, conseiller à la sécurité nationale de Sandu, dans son bureau spartiate – décoré de quelques souvenirs seulement – ​​dans le palais présidentiel du centre de Chișinău, de l’autre côté de la frontière. la rue de l’imposant parlement du pays datant de l’ère soviétique.

Après que la vidéo deepfake soit devenue virale, Sandu a été obligée de démystifier le mensonge dans son discours du Nouvel An sur Facebook.

« Nous nous attendons à ce que cela se produise davantage dans les mois à venir », a ajouté Secrieru.

Ce petit pays d’Europe de l’Est – dont la population équivaut à peu près à celle de Paris ou de Chicago – est devenu le point zéro dans la bataille entre la désinformation, en grande partie alimentée par l’IA, et les élections.

Alors que d’autres démocraties craignent l’ingérence de gouvernements étrangers dans leurs affaires, pour la Moldavie, une telle ingérence est devenue une réalité quotidienne. Certains, comme Secrieru, le conseiller à la sécurité nationale du pays, craignent que les efforts d’ingérence en cours de la part de Moscou ne jettent les bases d’une éventuelle invasion russe à un moment donné.

Située à la frontière de l’Ukraine, avec une importante minorité russophone et un récent afflux de réfugiés ukrainiens, la Moldavie organise en octobre un double scrutin crucial : une élection présidentielle et un référendum sur l’adhésion à l’UE. Sandu, qui brigue un autre mandat de quatre ans, a exhorté les électeurs à soutenir le référendum. Des élections législatives auront également lieu au plus tard en juillet 2025.

Environ 60 pour cent des Moldaves soutiennent désormais des liens plus étroits avec l’Occident. L’UE, composée de 27 pays, représente déjà le plus grand partenaire économique du pays, tandis que des centaines de milliers de Moldaves détiennent déjà la citoyenneté européenne grâce à des liens familiaux étroits avec la Roumanie voisine. La présidente de la Commission européenne, Ursula von der Leyen, qui brigue un autre mandat de cinq ans à Bruxelles, a fait de la Moldavie – et de Sandu, diplômé de Harvard – l’affiche de la marche du bloc vers l’Est.

Cela n’est pas passé inaperçu auprès du Kremlin et de ses alliés locaux.

Les soldats russes ont une présence visible en Transnistrie, une enclave russophone qui s’est séparée officieusement de la Moldavie à la fin de la guerre froide. En Gagaouzie, une région autonome du sud du pays, des hommes politiques pro-Moscou ont courtisé le président Vladimir Poutine, qui s’est engagé à protéger la province rebelle de Moldavie.

Les partis politiques pro-Kremlin – en particulier ceux liés au milliardaire d’origine israélienne Ilan Shor, qui a été sanctionné par les États-Unis et l’UE pour ses efforts visant à saper la démocratie moldave – présenteront des candidats à l’élection présidentielle d’octobre. À l’approche de ce vote, des pirates informatiques liés à la Russie ciblent régulièrement les infrastructures critiques du pays, y compris une cyberattaque de 36 heures contre des sites Web gouvernementaux alors que POLITICO était en Moldavie pour rédiger cet article.

« J’ai dormi quatre heures hier parce que nous étions en réunion presque toute la nuit », a déclaré Alexandru Coreţchi, directeur du Service national des technologies de l’information et de la cybersécurité, au siège de son agence, en se frottant les yeux tout en répondant à des appels téléphoniques répétés pendant que son équipe nettoyait. la dernière attaque.

Dans ce cas précis, la Moldavie a été ciblée, a-t-il ajouté, car environ un million d’euros avaient été confisqués collectivement à des hommes politiques pro-russes alors qu’ils rentraient à Chișinău après un rassemblement à Moscou au début du mois d’avril. En Russie, ils préparaient le scrutin présidentiel et le référendum européen d’octobre.

« Quand nous avons commencé à déclarer notre intention de devenir membre de l’UE, les attaques sont devenues plus violentes et plus sophistiquées », a déclaré Coreţchi.

Nouvelles tactiques, même vieille stratégie

Assis dans un restaurant turc du quartier gouvernemental de la capitale moldave, Valeriu Pacha est presque blasé face à la menace qui pèse sur son petit pays.

Entre des bouchées de ragoût d’agneau et des gorgées de thé turc – avec une musique de club forte résonnant dans les haut-parleurs du restaurant – le trentenaire responsable du programme WatchDog.md, une organisation locale à but non lucratif qui traque la désinformation locale, a dressé une liste de ceux qui tentent de saboter le les prochaines élections du pays.

Des politiciens pro-russes colportant des mensonges directement à des électeurs sans méfiance. Le Kremlin et les 50 millions de dollars qu’il a dépensés l’année dernière pour saper la démocratie moldave. Presque aucune aide de la part des géants des médias sociaux comme TikTok et Telegram, dont les plateformes sont devenues le principal vecteur d’ingérence étrangère.

En plus de ces menaces existantes, Pasha en a ajouté une quatrième : les robots alimentés par l’IA.

En avril, Pacha et ses collègues ont enregistré, pour la première fois, des centaines de faux commentaires sur des pages Facebook, notamment celles du président Sandu, et même celle de leur propre organisation à but non lucratif, WatchDog.md.

Les postes pro-russes – presque exclusivement en faveur de Shor, le politicien sanctionné – se présentaient comme des citoyens moyens ; comprenait des images de profil réalistes, dont certaines ont été générées via des outils d’IA ; et contenait des erreurs grammaticales pour échapper à la détection.

Les messages des robots font écho à ceux promus par de vrais utilisateurs pro-russes des réseaux sociaux. Le président Sandu était corrompu. Son gouvernement pro-occidental poussait la Moldavie vers la guerre. Seuls des liens plus étroits avec Moscou, via l’élection d’hommes politiques ayant des liens avec le Kremlin, pourraient garantir l’avenir du pays.

Les robots basés sur l’IA sont un pilier sur des plateformes comme X (anciennement Twitter). Mais en Moldavie, les attaques politiques automatisées – via les commentaires générés par l’IA sur les pages Facebook – constituent une nouvelle menace.

« C’est une tactique simple, mais elle a un impact », a déclaré Pasha, ajoutant que la plupart des réseaux sociaux démystifient rarement les mensonges partagés via les commentaires. Sur la vingtaine de profils Facebook basés sur l’IA fournis par WatchDog.md à POLITICO, seuls deux étaient encore actifs au 30 avril. « Les robots ne sont pas nouveaux dans d’autres pays », a-t-il ajouté. « Mais en Moldavie, cela fait une semaine. »

Pour ceux qui luttent contre la désinformation en Moldavie – en particulier les mensonges financés ou promus directement par le Kremlin – l’IA ne représente pas un changement fondamental dans un combat de plusieurs années qui a commencé bien avant que ChatGPT et les deepfakes ne deviennent à la mode.

Au lieu de cela, la technologie s’appuie sur d’autres tactiques, notamment celles des chaînes de télévision locales pro-russes, des médias traditionnels également favorables à Poutine et d’un groupe de politiciens soutenant le Kremlin qui, selon les agences de sécurité nationale moldaves, sont à la solde de Moscou.

Plusieurs de ces chaînes et sites d’information ont été fermés, accusés de participer à des opérations d’influence russes. Les opposants de Sandu affirment que de telles sanctions entravent injustement leur droit légitime à la liberté d’expression.

Dans ce creuset de désinformation, l’IA a accéléré la façon dont les mensonges sont créés et partagés. Cela n’a pas complètement réécrit les règles.

Au début, par exemple, les fausses vidéos de Sandu – dont certaines la montraient exhortant les Moldaves à voter pour Shor, son rival pro-russe – étaient étranges, trompant même au début le président et ses collaborateurs. Mais à mesure que la population s’habituait à de telles attaques, dont beaucoup commençaient sur des chaînes Telegram favorables à la Russie, comme celles associées à la contrefaçon d’IA « Rose Hip » de décembre, les marchands de désinformation se sont tournés vers les soi-disant « cheapfakes » comme alternative moins coûteuse.

Ceux qui sont désormais largement partagés en Moldavie, sur la base de l’examen de ce contenu par POLITICO, incluent un acteur présentant une similitude passagère avec Sandu se présentant comme la présidente du pays. Dans ces vidéos, l’IA est utilisée pour refléter en quelque sorte la voix et l’apparence du politicien plutôt que de recréer un Sandu cloné à partir de zéro.

« L’intelligence artificielle est largement utilisée pour discréditer l’autorité de nos dirigeants », a déclaré Ana Revenco, ancienne ministre de l’Intérieur moldave qui dirige depuis octobre le nouveau Centre de communication stratégique et de lutte contre la désinformation du pays.

L’agence, située dans une maison de ville indescriptible à deux étages, à quelques minutes du bureau du président et à côté des services de sécurité moldaves, coordonne la manière dont le gouvernement, les groupes de la société civile et les alliés occidentaux réagissent aux mensonges visant à porter atteinte à l’intérêt national du pays.

La fin du jeu : des ressources épuisantes

Revenco se retrouve aux premières loges de cette guerre dite hybride. C’est un mélange de désinformation, de cyberattaques, de corruption politique et – si les choses tournent mal pour le gouvernement pro-européen – de troupes russes se dirigeant vers la Moldavie.

Elle reconnaît également les difficultés politiques de sa jeune agence.

Son équipe doit dénoncer les mensonges préjudiciables qui portent atteinte aux institutions démocratiques du pays. Mais Revenco ne peut pas être considéré comme prenant parti sur la politique intérieure. Elle ne peut pas non plus être perçue comme limitant le droit des individus à la liberté d’expression, que ce soit en ligne ou hors ligne. Même si cela implique de promouvoir les intérêts de Moscou. Au cours de sa conversation d’une heure avec POLITICO, Revenco a évité à plusieurs reprises ses opinions politiques personnelles.

« La Russie, malheureusement, était ici à Chișinău depuis des années », a-t-elle déclaré d’un ton neutre alors qu’elle était assise dans la salle de conférence de son agence par une chaude matinée de printemps d’avril. « La guerre d’agression qu’ils ont déclenchée il y a deux ans a accru de manière exponentielle la complexité et l’agressivité (des attaques de désinformation du Kremlin). »

Pour Secrieru, conseiller à la sécurité nationale de la Moldavie, Moscou et ses tactiques en constante évolution, y compris l’utilisation croissante d’outils d’IA pour semer la désinformation, ont un objectif clair : épuiser les ressources limitées de son pays pour riposter.

Avant le vote d’octobre, les analystes locaux et les experts occidentaux en matière de sécurité s’attendent à ce que le Kremlin double ses dépenses d’influence annuelles – pour les porter à environ 100 millions de dollars – en Moldavie et bombarde ce pays d’Europe de l’Est d’une cacophonie de mensonges sur les réseaux sociaux, de politiciens payés et de messages de la vieille école. mensonges via les médias traditionnels russophones.

Une récente vague de cyberattaques, notamment celles ciblant les services de santé et les systèmes de paie du gouvernement moldave, visaient à affaiblir la confiance de la population dans les services publics indispensables. Malgré les engagements publics visant à protéger les cycles électoraux mondiaux de 2024, les plus grandes plateformes ont également eu peu d’interactions avec les responsables du pays ou les groupes de la société civile, selon Secrieru et d’autres personnes interrogées pour cet article.

Meta a déclaré qu’elle répondrait aux rapports de désinformation des responsables moldaves « le plus rapidement possible ». TikTok a déclaré qu’il resterait vigilant sur la manière dont les mauvais acteurs utilisaient sa plateforme lors des élections. Un représentant de Telegram n’a pas répondu aux demandes de commentaires.

« En décembre, un deepfake du président a été largement partagé sur toutes les plateformes. Cela a été signalé. Des ONG l’ont signalé. Finalement, il a été retiré », a déclaré Secrieru.

« Mais le mal était fait. »

Cet article fait partie d’une série, Bots et bulletins de vote : Comment l’intelligence artificielle remodèle les élections dans le monde entier, présentée par Luminate. L’article est produit en toute indépendance éditoriale par les journalistes et rédacteurs de POLITICO. Apprenez-en davantage sur le contenu éditorial présenté par des annonceurs externes.