Quelle est cette nouvelle arnaque « deepfake » qui s’empare de célébrités comme Florent Pagny ?

C’est un phénomène en pleine expansion sur Internet. L’arnaque deepfake, un procédé rendu possible par l’intelligence artificielle qui permet à son utilisateur de se faire passer pour n’importe qui et de dire n’importe quoi. Ce lundi 12 août 2024, c’est le chanteur Florent Pagny qui a alerté sur ce danger après que de fausses vidéos de lui ont circulé sur Internet. Une de ses fans s’est également fait arnaquer « quelques centaines d’euros » par ce procédé. On vous en dit plus sur ce nouvel outil convoité par les arnaqueurs.

Lire aussi : Intelligence artificielle : six questions sur ces « deepfakes » pornographiques de plus en plus populaires

Pourquoi parle-t-on de « deepfake » ?

Les escroqueries Deepfake sont réalisées à l’aide de vidéos et de technologies de clonage vocal pour reproduire parfaitement la diction et le discours de la personne usurpée afin de se faire passer pour elle. « À partir d’une vidéo source, l’algorithme va dessiner une grille pour identifier les éléments essentiels comme le nez ou la bouche et la greffer à un texte créé sur mesure et au timbre de la voix »explique Gerald Holubowicz, journaliste spécialiste du sujet et maître de conférences à Sciences Po. « La synchronisation du son de la bouche se fait avec la piste audio. »

En bref, l’arnaque deepfake permet de détourner l’image d’une personne blessée et sert d’appât pour piéger les internautes. Les célébrités sont particulièrement ciblées, car des ressources les concernant sont profilées sur Internet et parce qu’elles incarnent une figure de confiance pour les victimes. C’est par ce procédé qu’une fan de Florent Pagny s’est laissée convaincre par une vidéo du chanteur. « Bonjour Catherine, j’espère que tu vas bien. Je réalise cette petite vidéo pour t’informer que c’est bien à moi que tu parles et non à ces pirates qui se font passer pour moi. »on peut l’entendre dans cette vidéo partagée par Florent Pagny. « C’est ma voix, c’est moi qui parle, mais je n’ai jamais filmé ça. C’est le film que j’ai fait en 2022 pour annoncer mon problème et annuler la fin de ma tournée. Avec l’intelligence artificielle, ils sont capables de faire ça. Ce sont des ordures. »il continue.

Le « deepfake » est-il une véritable menace ?

Si Florent Pagny précise que son admiratrice s’est fait arnaquer « quelques centaines d’euros »le niveau de réalisme de cette vidéo est tel qu’elle pourrait générer des sommes bien plus importantes. « Plus c’est sophistiqué, plus ça rapporte d’argent. »confirme Gerald Holubowicz.

D’autant que la production d’une vidéo « deepfake » représente une somme relativement abordable. « Cela demande certes un peu de technique, mais une bonne arnaque ne coûte pas cher à mettre en place », estime le spécialiste pour qui la production d’une telle vidéo coûte en moyenne autour de 75 €. La menace du deepfake repose principalement sur le ciblage minutieux des arnaqueurs pour trouver leurs victimes. C’est notamment sur Facebook ou par SMS que ces vidéos destinées à « un public pas toujours au courant des nouvelles technologies ».

Lire aussi : Comment les fausses nécrologies qui se multiplient sur Internet enrichissent les arnaqueurs

« Il n’y a pas de miracle »explique Gerald Holubowicz. Pour détecter l’arnaque, le spécialiste rappelle aux irréductibles de protéger leurs données personnelles : « Quel que soit le contenu et le destinataire, (vous) ne devez jamais donner d’argent à qui que ce soit sur Internet »dit-il, excluant les transactions commerciales sécurisées.

« Vous ne pouvez pas imaginer une seconde qu’un artiste, une personnalité publique, puisse vous donner, via les réseaux sociaux, un numéro de téléphone ou un contact »Florent Pagny l’avait évoqué plus fermement.