Cet article fait partie d’une série, Bots et bulletins de vote : comment l’intelligence artificielle remodèle les élections dans le monde entierprésenté par Luminer.
Lorsque j’ai commencé cette série sur l’intelligence artificielle, la désinformation et les élections mondiales, j’avais une idée assez claire en tête.
Cela se résumait à ceci : même si l’IA avait captivé l’imagination des gens – et que les deepfakes et autres mensonges générés par l’IA commençaient à faire surface – la technologie ne représentait pas encore un changement radical dans la façon dont les mensonges politiquement motivés, souvent diffusés via les médias sociaux, modifieraient le cycle méga-électoral qui engloutira le monde en 2024.
Aujourd’hui, après neuf reportages et voyages de reportages de Chișinău à Seattle, je n’ai rien vu qui puisse modifier cette vision initiale. Mais les choses, comme toujours, sont plus compliquées – et plus volatiles – que je ne le pensais au départ.
Ce qui est clair, sur la base de plus de 100 entretiens avec des décideurs politiques, des responsables gouvernementaux, des dirigeants du secteur technologique et des groupes de la société civile, c’est que la technologie – en particulier l’IA générative – progresse de jour en jour.
Au cours de mon reportage, on m’a montré de fausses vidéos, prétendument représentant des dirigeants mondiaux comme le président américain Joe Biden et son homologue français Emmanuel Macron, qui étaient impossibles à distinguer des vrais. Parmi eux figuraient des hommes politiques qui parlaient prétendument plusieurs langues et disaient des choses qui, si elles étaient vraies, auraient mis fin à leur carrière.
Ils étaient si réalistes qu’il en faudrait beaucoup pour convaincre quiconque sans expertise technique approfondie qu’un algorithme les avait créés.
Bien que je sois journaliste technique, je ne suis pas un fan de technologie. Mais la rapidité des progrès de l’IA et sa facilité d’utilisation par ceux qui ont peu ou pas de connaissances en informatique devraient nous inquiéter tous.
Le deuxième thème clé qui m’a surpris dans cette série était l’ampleur de la surveillance qui avait été sous-traitée à des entreprises – dont beaucoup étaient les mêmes qui avaient créé les systèmes d’IA susceptibles d’être utilisés à des fins nuisibles.
Plus de 25 géants de la technologie ont désormais signé les accords électoraux sur l’IA, des engagements volontaires d’entreprises telles que Microsoft, ByteDance et Alphabet à faire tout ce qu’elles peuvent pour protéger les élections mondiales de la menace posée par l’IA.
Compte tenu de l’expérience de bon nombre de ces entreprises en matière de protection des utilisateurs contre les préjudices existants, notamment le harcèlement et l’intimidation sur les réseaux sociaux, c’est un énorme acte de foi que de compter sur elles pour sauvegarder l’intégrité des élections.
Et cela malgré la bonne volonté légitime que j’ai perçue lors de multiples entretiens avec des dirigeants d’entreprises au sein de ces entreprises pour réduire autant que possible les préjudices politiquement motivés.
Le problème, à la mi-2024, est que les gouvernements, les régulateurs et les autres branches de l’État ne sont tout simplement pas préparés à la menace potentielle – et celle-ci demeure. potentiel – lié à l’IA.
Une grande partie de l’expertise technique réside au plus profond des entreprises. Les efforts législatifs, y compris la loi sur l’intelligence artificielle récemment adoptée par l’Union européenne, sont, au mieux, des travaux en cours. L’absence quasi totale de surveillance du fonctionnement des algorithmes basés sur l’IA des plateformes de médias sociaux rend impossible de s’appuyer sur quelqu’un d’autre que les géants de la technologie eux-mêmes pour contrôler la manière dont ces systèmes déterminent ce que les gens voient en ligne.
Alors que l’IA progresse plus rapidement que ce que l’on peut qualifier de « grand modèle linguistique » et que les gouvernements ont du mal à suivre le rythme, pourquoi suis-je encore prudent quant à l’annonce de cette année comme de l’année de la désinformation alimentée par l’IA, au moment même où des milliards de personnes se rendent aux urnes en 2024 ?
Pour l’instant, j’ai une croyance potentiellement naïve selon laquelle les gens sont plus intelligents que beaucoup d’entre nous ne le pensent.
Même s’il est facile de penser qu’un deepfake d’IA bien placé sur les réseaux sociaux peut changer l’avis d’électeurs sans méfiance, ce n’est pas ainsi que les gens font leurs choix politiques. Les opinions bien arrêtées sur des législateurs ou des partis spécifiques rendent difficile le changement d’opinion des gens. Le fait que les contrefaçons alimentées par l’IA doivent être considérées dans un contexte plus large – aux côtés d’autres publications sur les réseaux sociaux, des discussions avec les membres de la famille et des interactions avec les médias traditionnels – entrave également la capacité de tels mensonges à percer.
Cependant, je crois que nous nous dirigeons vers une ère « post-post-vérité », où les gens penseront que tout, et je veux dire tout, est inventé, en particulier en ligne. Pensez aux « fausses nouvelles », mais elles atteignent le niveau 11, où même le contenu apparemment le plus authentique ne peut être présumé être vrai à 100 %.
Nous voyons déjà des exemples de politiciens affirmant que les publications préjudiciables sur les réseaux sociaux sont des contrefaçons alors qu’en réalité elles sont légitimes. Alors que l’hystérie autour de l’IA dépasse souvent ce que la technologie peut faire actuellement – malgré les progrès quotidiens – il existe désormais une volonté généralisée de croire que tout le contenu peut être créé via l’IA, même lorsque ce n’est pas le cas.
Dans un tel monde, il est tout à fait rationnel de ne croire en rien.
Le point positif est que nous n’en sommes pas encore là. Si les neuf articles de cette série « Bots and Ballots » montrent quelque chose, c’est que oui, la désinformation alimentée par l’IA est à nos portes. Mais non, il ne s’agit pas d’une menace existentielle, et elle doit être considérée comme faisant partie d’un monde plus large de campagnes « à l’ancienne » et, dans certains cas, d’ingérences étrangères et de cyberattaques. L’IA est un outil agnostique, qui peut être utilisé pour le meilleur ou pour le pire.
Est-ce que cela va changer dans les années à venir ? Potentiellement. Mais pour le cycle électoral de cette année, le mieux est de rester vigilant, sans se laisser entraîner dans le train à la mode qu’est devenue l’intelligence artificielle.
Mark Scott est le correspondant technologique en chef de POLITICO. Il écrit un bulletin d’information hebdomadaire, Digital Bridge, sur l’intersection mondiale de la technologie et de la politique.
Cet article fait partie d’une série, Bots et bulletins de vote : comment l’intelligence artificielle remodèle les élections dans le monde entierprésenté par Luminer. L’article est produit en toute indépendance éditoriale par les journalistes et rédacteurs de POLITICO. Apprendre encore plus sur le contenu éditorial présenté par des annonceurs extérieurs.
