« Bonjour mon fils, c’est maman » : des escrocs ont tenté de piéger ce Charentais à la voix clonée

C’est la première fois qu’une telle arnaque visant un particulier est signalée en France.

En Charente, un quinquagénaire a été victime d’une tentative d’arnaque utilisant la voix de sa mère clonée par AI.

Il témoigne auprès de TF1.

C’est un appel téléphonique qu’il n’oubliera probablement pas. Il était 21 heures ce dimanche 22 septembre lorsqu’un habitant d’Angoulême (Charente) a reçu un appel masqué sur son téléphone. « J’entends ‘Bonjour mon fils, c’est maman’. C’était la voix de ma mère. » » précise le quinquagénaire, qui préfère garder l’anonymat, dans le reportage de TF1 en tête de cet article.

« Je lui dis ‘qu’est-ce qui se passe’, et elle m’explique qu’elle est à la gare, qu’elle a perdu son sac et son téléphone et elle me demande si je peux lui donner mon numéro de carte bancaire pour pouvoir prendre un train très, très vite », poursuit-il en expliquant avoir rapidement eu des doutes malgré cette voix extrêmement familière. « Au bout d’un moment, je lui pose des questions : quelle station ? Elle ne me répond pas »raconte-t-il au micro de TF1, évoquant « délais » entre les questions et les réponses, mais aussi « intonations fluctuantes ».

« Un temps de latence dans les interactions »

L’escroc à l’origine de ce mystérieux appel a finalement raccroché, mais comment a-t-il pu se faire passer pour la mère de la victime ? Selon les experts, il suffit d’un logiciel d’intelligence artificielle (IA) et de quelques clips vocaux. « Ces échantillons de voix sont généralement collectés sur les réseaux sociaux. Il va falloir dicter au logiciel ce qu’on veut dire pour qu’il le retranscrive, donc il y aura un temps de latence, il n’est pas immédiat dans les interactions que peut avoir l’arnaqueur avec sa victime », explique à TF1 Jean-Jaques Latour, directeur du site spécialisé dans l’expertise en cybersécurité, « cybermalveillance.gouv ».

Grâce aux progrès de l’IA, les tentatives d’escroquerie se multiplient. Le mois dernier, c’est le chanteur Florent Pagny qui dénonçait une manipulation. « C’est ma voix, c’est moi qui parle, mais je n’ai jamais filmé ça« , a-t-il assuré en montrant une vidéo de lui s’adressant à un fan. « Bonjour Catherine, je fais cette petite vidéo pour vous informer que c’est bien moi (…). Et j’ai fait cette vidéo pour te rassurer sur mon identité« , a déclaré l’artiste dans cette séquence dans laquelle son image a été détournée.

Dans cette affaire, les escrocs ont réussi à soutirer plusieurs centaines d’euros à l’un de ses fans.

• Lire aussi

  Florent Pagny victime d’un deepfake : « Il faut développer l’esprit critique »

Pour l’instant, une telle arnaque visant un particulier n’a jamais été signalée en France, comme nous l’assure Jean-Jacques Latour dans les colonnes de Charente libre qui a révélé cette affaire : « C’est la première fois en France que nous sommes publiquement alertés d’une cyberattaque de cet ordre.« , dit-il, ajoutant que cela ne veut pas dire que « ce n’est pas déjà arrivé« .

Toutefois, des cas ont déjà été enregistrés aux États-Unis. Au printemps 2023, une mère américaine a eu la peur de sa vie lorsqu’elle a répondu à son téléphone en affichant un numéro inconnu, et a entendu la voix de sa fille, alors en classe de neige, « qui a pleuré et sangloté ». Dans un reportage du 20H de TF1, elle est revenue sur cet appel au cours duquel on lui a demandé une rançon : « Elle disait ‘Maman, des gars m’ont kidnappée, aide-moi, aide-moi ! J’ai commencé à crier à l’aide’dit-elle. Dans cette affaire également, une intelligence artificielle capable de reproduire parfaitement sa voix avait été utilisée par des criminels. Localisé après l’appel, l’adolescent se portait très bien et n’avait pas été kidnappé.

Comment s’en protéger ?

En cas de doute au téléphone, les experts conseillent de poser une question personnelle dont seul le proche connaît la réponse, ou de le rappeler directement sur son téléphone.

• Lire aussi

  L’IA utilisée pour cloner votre voix et tromper vos proches, une arnaque de plus en plus courante

Dans une récente étude britannique réalisée par la banque Banque Starling, que nous relayons dans l’article lié ci-dessus, 28% des personnes interrogées déclarent avoir été victimes d’une telle arnaque au cours de l’année écoulée. Toutefois, 46 % des personnes interrogées déclarent n’avoir jamais entendu parler de ce type d’arnaque. « Il est plus important que jamais que les gens soient conscients de ce type d’escroqueries perpétrées par des fraudeurs et sachent comment se protéger et protéger leurs proches pour éviter d’en être victimes.« , déclare Lisa Grahame, responsable de la sécurité de l’information chez Starling Bank, dans un communiqué.