Ce prof utilise l’IA pour faire virer le proviseur de son lycée, les conséquences sont massives
Un professeur d’éducation physique a utilisé un outil d’IA pour générer un message haineux dans la voix de son directeur dans le but de lui faire perdre son emploi. Il a failli y parvenir, mais depuis, c’est tout l’establishment qui en subit les conséquences.
La création de contrefaçons profondes n’a jamais été aussi simple. La puissance croissante deintelligence artificiellecouplé à sa disponibilité au grand public, met le créer de fausses vidéos ou enregistrements à tout le monde. Parmi les fraudes constatées, ceux qui utilisent la voix de personnes que nous connaissons sont en hausse. Plus faciles à mettre en place, ils permettent de soutirer de l’argent en imitant les proches de la victime, par exemple. Malheureusement, ils ne se limitent pas à la sphère privée.
Les deepfakes audio pénètrent de plus en plus le monde du travail, soit pour tenter d’arnaquer les salariés d’une entreprise, soit pour nuire à un collègue. C’est ce qui est arrivé à Eric Eiswert, directeur du lycée de Pikesville, dans le Maryland, aux États-Unis. Début 2024, un enregistrement sonore de ce dernier circule sur les réseaux sociaux. On l’entend tenir des propos racistes et antisémites. Bien qu’il nie en être l’auteur, l’homme est suspendu pendant l’enquête. Rapidement, la police va se rendre compte que le coupable n’est pas celui qu’on croit.
Un enseignant utilise l’intelligence artificielle pour imiter la voix de son directeur et lui faire perdre son emploi
Parmi le personnel de l’école, Billy Burke, chef du syndicat représentant le directeur accusé, suggère que le message aurait pu être créé grâce à l’intelligence artificielle. Une piste que suivent déjà les autorités, constatant qu’elle présente certaines caractéristiques étranges : le ton de la voix est monotone, il n’y a étonnamment aucun bruit de fond et les pauses ou temps de respiration ne sont pas du tout naturels. Après analyse par différents experts et outils spécialisés, il s’avère qu’en effet, l’audio a été généré à partir de zéro. Reste désormais à trouver le coupable et son mobile.
A lire aussi – IA : créer un deepfake vous enverra bientôt en prison pour longtemps
Il ne faut pas longtemps pour comprendre ce qui s’est réellement passé. Dazhon Darien, 31 ans, était professeur d’éducation physique et directeur sportif au lycée de Pikesville au moment de l’incident. Il a de très bonnes raisons d’être en colère contre le principal Eiswert puisque ce dernier est à l’origine d’une enquête contre lui. L’enseignant est accusé d’avoir détourné une partie des fonds de l’établissement de donner environ 2 000 $ à une de ses connaissances, également entraîneure au secondaire.
Une adresse email et un numéro de téléphone associé permettent de le retrouver et de faire de lui le suspect numéro un de l’affaire. Dazhon Darien est finalement arrêté à l’aéroport de Baltimore parce qu’il a une arme sur lui. Inculpé de plusieurs chefs d’accusation en lien avec le faux message généré par AI, il a été libéré après avoir payé sa caution. En attendant son éventuel procès, le lycée de Pikesville doit faire face des répercussions allant bien au-delà du désir initial de vengeance.
Un faux enregistrement audio créé à l’aide de l’IA dérange plus de personnes que la victime initiale prévue
Si Dajon Darien, admettant qu’il était bien le coupable, voulait « simplement » faire virer le principal, l’establishment tout entier s’en est trouvé bouleversé. Les enseignants qui croyaient que le message était authentique pensaient que le lycée a caché des appareils d’enregistrement. Certains sont même allés jusqu’à téléphoner dans leur voiture pour s’assurer de leur sécurité. Eric Eiswert a reçu de nombreux appels et messages haineux suite à des propos qu’il n’a jamais tenus, tout comme Billy Burke, celui qui a avancé l’hypothèse de l’IA.
Les parents et les élèves ont également inondé le standard d’appels, empêchant ceux qui avaient besoin de contacter l’école d’être entendus. Les perturbations sont toujours présentes aujourd’hui. Dazhon Darien a déjà présenté sa démission, à compter du 30 juin de cette année.
Pour sa part, le directeur est toujours suspendu et ne reprendra pas ses fonctions avant la prochaine année scolaire dès que possible. Cette histoire démontre que les dangers de l’IA générative sont bien réels, surtout ceux qui imitent la voix. Ce n’est pas pour rien qu’OpenAI refuse actuellement de sortir son outil capable de faire cela avec quelques secondes d’enregistrement.
Source : La bannière de Baltimore
