Contre les arnaques téléphoniques, un opérateur britannique crée une « grand-mère » générée par l’IA pour faire perdre du temps aux escrocs

L’opérateur O2 a dévoilé « Daisy », une intelligence artificielle qui imite une grand-mère bavarde pour garder les arnaqueurs au téléphone le plus longtemps possible, et ainsi les empêcher de piéger d’autres personnes.

Quel est le « pire cauchemar » des escrocs qui tentent de vous soutirer de l’argent par téléphone en se faisant passer pour votre banque, votre support technique, un livreur ou autre ? Peut-être une grand-mère qui aime un peu trop faire la conversation.

C’est l’idée de l’opérateur téléphonique britannique O2, qui a dévoilé jeudi 14 novembre un programme baptisé « Daisy » : une intelligence artificielle (IA) générative conçue pour imiter une grand-mère bavarde et tenir à distance les escrocs. fil le plus longtemps possible.

Dans une vidéo (évidemment illustrée à l’aide d’une autre IA générative), l’opérateur donne des exemples choisis d’utilisation de Daisy, dans lesquels le programme à la voix lente et assez monotone rend fous ses interlocuteurs. Daisy fait semblant de ne pas comprendre leurs instructions, les fait répéter, explique qu’elle veut « juste une petite conversation »…

Et « Pendant qu’ils sont occupés à me parler, ils ne peuvent pas t’arnaquer »explique le programme. L’opérateur précise dans son communiqué que Daisy a déjà « a gardé de nombreux escrocs au téléphone pendant 40 minutes ».

Comment les fraudeurs sont-ils identifiés et redirigés vers Daisy ? Contacté par franceinfo, O2 précise avoir travaillé avec des professionnels qui piègent eux-mêmes les arnaqueurs. L’exploitant explique avoir utilisé « plusieurs tactiques, dont le « numéro de répartition » » : laisser volontairement le numéro de Daisy figurer dans les listes de numéros utilisées par les escrocs (« mug lists »), pour qu’ils tentent de l’appeler… et se retrouvent pris à leur propre piège.

Comment fonctionne l’IA ? L’opérateur affirme que « Daisy » « combine plusieurs modèles d’IA qui fonctionnent ensemble pour écouter l’appelant et transcrire sa voix en texte. Les réponses appropriées sont ensuite générées à l’aide d’un grand modèle de langage »un programme comme ChatGPT, « doté d’une couche de ‘personnalité' » – probablement grâce à une instruction écrite (un « prompt ») qui lui demande d’adopter le point de vue d’une grand-mère concentrée sur la conversation.

Les réponses écrites sont ensuite « retour à un modèle de synthèse vocale IA personnalisé pour générer une réponse vocale »et ça « en temps réel »explique O2. Pour autant, l’IA n’est pas une panacée : pour minimiser les risques d’arnaques, l’opérateur vous encourage à transférer les appels et messages suspects vers un numéro local, et à appeler directement vos proches en cas d’usurpation d’identité. pour eux.