Les images de mineurs « agressés et maltraités » générées par l’IA se multiplient sur Internet
Le nombre d’images et de vidéos d’agressions sexuelles sur des enfants générées par l’intelligence artificielle (IA) augmente, une réalité « effrayante » qui remet en question les fondements de la surveillance d’Internet.
Une progression « glaçante ». Le nombre d’images et de vidéos d’agressions sexuelles sur enfants générées par l’intelligence artificielle (IA) explose, s’inquiète Internet Watch Foundation (IWF), une organisation britannique chargée de détecter et de supprimer ces contenus.
Ces vidéos de mineurs « agressés et maltraités » seraient de plus en plus réalistes, au point qu’il devient difficile de les distinguer des images d’enfants réels, affirme la fondation dans un communiqué publié ce vendredi 18 octobre.
des deep fakes sur des sites accessibles au grand public
En seulement six mois, les analystes de l’organisation estiment une augmentation de 6 % du nombre de rapports contenant du matériel d’abus sexuels sur enfants généré par l’IA. Dans le détail, l’IWF avait reçu 70 signalements entre avril 2023 et mars 2024, contre 74 signalements entre avril et septembre 2024 seulement.
Plus inquiétant encore, la quasi-totalité de ces images se trouvaient sur des sites facilement accessibles au grand public. « Ce contenu criminel n’est pas caché sur le Dark Web. Presque tous les rapports ou URL que nous avons traités et contenant du matériel d’abus sexuel d’enfants généré par l’IA ont été trouvés sur le Web », explique un analyste de l’organisation, sous couvert d’anonymat.
images réalisées à partir d’abus très réels
« Je trouve cela vraiment effrayant parce que j’ai l’impression que nous sommes à un point critique et que des organisations comme la police et nous-mêmes pourrions être submergées par des centaines et des centaines de nouvelles images, sans qu’on sache si un véritable enfant a besoin d’aide quelque part. »
D’autant que des images et vidéos de victimes réelles sont données et utilisées par l’intelligence artificielle pour générer ce contenu. « Pour atteindre le niveau de sophistication observé, les logiciels utilisés ont dû s’inspirer d’images et de vidéos réelles d’agressions sexuelles sur mineurs partagées sur Internet », a expliqué Derek Ray-Hill, directeur général par intérim de l’IWF, cité dans le communiqué.
Pour y faire face, ce dernier exhorte les députés britanniques à adapter les lois existantes « à l’ère du numérique » et à ses outils en constante amélioration.
l’ONU est inquiète
Alors que les géants de l’informatique se battent pour trouver l’IA la plus puissante du marché, cette nouvelle technologie semble prendre un tournant inquiétant à travers le monde.
En août, la Corée du Sud a été confrontée à une vague de faux contenus pornographiques, ciblant principalement les jeunes femmes et les filles mineures. Le président a alors appelé la police à agir immédiatement.
Jeudi 19 septembre, les Nations Unies se sont prononcées sur les dangers des abus de l’intelligence artificielle. « L’IA doit servir l’humanité de manière équitable et sûre (…) Si rien n’est fait, les dangers posés par l’intelligence artificielle pourraient avoir de graves implications pour la démocratie, la paix et la stabilité », a expliqué Antonia Guterres, porte-parole de l’ONU.
