Des deepfakes pornographiques de femmes et de mineurs sont échangés sur Telegram

Des collégiennes, des étudiants, des professeurs et même des militaires… Le journal sud-coréen « Hankyoreh » et l’agence de presse Yonhap ont révélé, lundi 26 août, l’existence de plusieurs centaines de salons de discussion Telegram dans lesquels des individus échangeaient des deepfakes à caractère sexuel, c’est-à-dire des montages photos ou vidéos de personnes dénudées.

Concrètement, les médias sud-coréens expliquent que des « geeks » prennent des photos de femmes et de jeunes filles mineures sur les réseaux sociaux (principalement sur Instagram) et, grâce à l’intelligence artificielle, les dénudent ou les mettent en scène dans un contexte sexuel. Ces photos trafiquées sont ensuite échangées dans différents salons de discussion, classés par thème, qui peuvent compter jusqu’à plus de 200 000 personnes.

Les noms de ces forums correspondent souvent à ceux des écoles : selon The Chosen Daily, 477 écoles primaires, collèges et lycées du pays étaient déjà concernés par ce phénomène deepfake, lundi 26 août à 18 heures. Mais il existe aussi des discussions dédiées aux femmes soldats. Celles-ci seraient alimentées par leurs collègues, qui utilisent des photos officielles de femmes soldats pour leurs astuces.

De nombreuses zones ciblées

L’un des salons de discussion de femmes militaires nues est actif depuis le 8 août et compte plus de 850 membres. Le message épinglé sur le canal rabaisse les femmes soldats, les qualifiant de « missiles », et demande aux membres d’envoyer les noms des femmes soldats, leurs grades, numéros de téléphone, pseudos Instagram, âges, photos d’elles en uniforme et de leur vie quotidienne pour créer des photos, en plus de commentaires sexuellement dégradants.

Hankyoreh affirme que de nombreuses autres professions sont touchées par ce phénomène, à commencer par l’enseignement, la police et les soins infirmiers. Les sportifs sont également ciblés dans au moins un de ses salons de discussion Telegram. Il existe également des salons de discussion appelés « Family Rooms », dans lesquels les auteurs ciblent les membres de leur propre famille, à commencer par leurs propres sœurs et cousines.

En règle générale, les deux premiers deepfakes sont gratuits, puis ils facturent 0,49 $ par photo, payable en crypto-monnaie.

Le président réagit avec fermeté

En réaction à ces révélations, la peur d’être potentiellement victime de ces montages photo s’est emparée de nombreuses filles et femmes, qui ont fait passer le message sur les réseaux sociaux : « Supprimez toutes les photos montrant votre visage. Le deepfake se propage », peut-on lire sur différents posts X et Instagram.

Face au scandale, le président sud-coréen Yoon Suk Yeol a demandé que « ces crimes sexuels en ligne » fassent l’objet d’une « enquête approfondie », rapporte Reuters. La Commission coréenne des normes de communication, l’organisme de régulation des médias d’État, organise demain, mercredi 28 août, une réunion de crise pour réfléchir aux mesures à prendre pour tenter d’endiguer le phénomène. Et une journée de sensibilisation est déjà prévue dans les écoles du pays le 6 septembre. Les différents ministères ont également promis d’aider les femmes à faire en sorte que ces montages odieux puissent être retirés le plus rapidement possible.

Ce scandale survient après l’arrestation de plusieurs créateurs de deepfakes qui étudiaient à l’université Inha, située à Incheon, à l’ouest de Séoul, et qui avaient ciblé des camarades étudiants. Mais surtout, après l’arrestation, en France, du fondateur de Telegram, Pavel Durov, qui est critiqué pour le manque de modération sur son réseau social, notamment en termes de la pornographie infantile et le trafic de drogue.