Un enseignant américain accusé d’avoir cloné la voix de son directeur avec une IA pour le faire licencier

Dans le comté de Baltimore, l’ancien directeur sportif d’un lycée aurait utilisé une IA pour créer un deepfake tenant des propos racistes et antisémites afin de nuire à son supérieur.

La police du comté de Baltimore, dans le Maryland aux Etats-Unis, a annoncé avoir arrêté jeudi 25 avril l’ancien directeur sportif du lycée de Pikesville (Baltimore). Ce dernier aurait utilisé une IA pour créer des deepfakes afin de se faire passer pour le directeur de l’école dans laquelle il a travaillé, Eric Eiswert.

La police affirme que le suspect, Dazhon Darien, s’est fait passer pour Eric Eiswert et a tenu des propos racistes et antisémites. Les experts d’IA en charge du dossier citent « des commentaires désobligeants à l’égard des étudiants noirs et de la communauté juive environnante », rapporte The Baltimore Banner.

«Des répercussions profondes»

Diffusé sur les réseaux sociaux en janvier, le deepfake a eu de « profondes répercussions », a souligné la police dans un communiqué.

«Cela a non seulement conduit au renvoi temporaire d’Eric Eiswert de l’école, mais a également déclenché une vague de messages haineux sur les réseaux sociaux et de nombreux appels à l’école.»

Les experts et la police ont pu certifier qu’il s’agissait d’un message audio fabriqué de toutes pièces. L’enregistrement avait « un ton plat, des bruits de fond inhabituellement clairs et un manque de bruits de respiration ou de pauses cohérents ».

Toujours selon la police, Dazhon Darien, aujourd’hui professeur d’éducation physique, aurait utilisé les ordinateurs de l’école « pour accéder aux outils OpenAI et aux services Microsoft Bing Chat ». Son identité a été retrouvée grâce à l’adresse e-mail et au numéro de téléphone associés au compte. La police n’a pas précisé de quelle IA il s’agissait.

Un phénomène mieux régulé ?

« Il semblerait que Dazhon Darien (…) ait réalisé cet enregistrement en représailles contre Eric Eiswert qui, à l’époque, poursuivait une enquête sur une potentielle mauvaise gestion des fonds scolaires », poursuit le communiqué, précisant que ce dernier avait été libéré. après avoir versé une caution et fait face à plusieurs accusations.

Depuis plusieurs semaines, le nombre d’arnaques aux deepfakes se multiplie. Sur Instagram, YouTube, Facebook et autres réseaux sociaux, les canulars malveillants et les fausses nouvelles piègent de plus en plus d’utilisateurs.

En France, la loi sur la sécurisation de l’espace numérique, qui prévoit de sanctionner plus lourdement les auteurs de deepfakes réalisés sans le consentement de la personne concernée, a été adoptée il y a quelques jours. Les utilisateurs de Deepfake risquent désormais jusqu’à trois ans de prison.