Mickey Mouse sous l’emprise de la drogue, Elon Musk en tueur de masse… Grok, l’IA génératrice d’images qui laisse tout passer (ou presque)

La mécanique est connue : dès qu’un programme d’intelligence artificielle générative est mis en ligne, le grand jeu des internautes est de tenter de le faire dérailler. C’est ce qui s’est naturellement produit lorsque xAI, la société d’Elon Musk dédiée à l’intelligence artificielle, a sorti mardi 13 août la version 2.0 de son logiciel Grok. Accessible aux détenteurs d’un abonnement « premium » au réseau social X, ce chatbot peut générer du texte, mais aussi, désormais, des images. Les internautes ont depuis réussi, avec une facilité déconcertante, à lui faire produire des images violentes et autres deepfakes.

Une représentation d’Elon Musk dans un lycée, arme à la main, entouré de cadavres d’adolescents ; Barack Obama s’apprêtant à consommer de la cocaïne ; Donald Trump et Kamala Harris en maillot de bain… Tous les contenus que les autres générateurs d’images grand public interdisent généralement : Dall-E (OpenAI), en particulier, refuse les représentations de personnalités publiques ou d’activités illégales.

Ces programmes interdisent aussi, en théorie, la violation du droit d’auteur. Mais Grok génère sans difficulté des contenus mettant en scène Mickey Mouse, Mario ou Bob l’éponge, par exemple, voire les trois à la fois, comme sur cette image où ils partagent du cannabis avec Elon Musk. S’il semble aussi facile d’utiliser Grok pour générer des images de célébrités en sous-vêtements, le logiciel refuse néanmoins de créer des contenus pornographiques.

Elon Musk contre l’IA « éveillée »

Grok n’est pas le premier système d’IA à permettre la création de telles images. Cependant, les principaux outils commerciaux, aux restrictions strictes, nécessitent généralement l’utilisation de stratagèmes plus ou moins sophistiqués pour les contourner.

Le cas de Grok est particulier : Elon Musk a toujours vilipendé les programmes d’intelligence artificielle générative de ses concurrents, soumis selon lui au politiquement correct et à l’agenda « woke ». Il avait violemment critiqué Google en février, lorsque son logiciel Gemini avait mis en scène des personnes noires pour incarner des soldats allemands de la Seconde Guerre mondiale ou les pères fondateurs des États-Unis. « Le virus woke tue la civilisation occidentale »il a réagi en accusant Google de concevoir des programmes « raciste et anti-civilisationnel ».

Alors qu’il travaillait sur le lancement de Grok, il a déclaré à la chaîne américaine Fox News qu’il souhaitait développer un chatbot qui cherchait principalement à  » vérité « Lors de sa sortie en novembre, Grok, qui ne pouvait générer que du texte, n’incluait presque aucune des protections contre les abus qui étaient devenues la norme parmi ses concurrents.

Réagir à un message vantant l’apparence « non censuré » de Grok 2.0 et de son supposé respect pour  » liberté d’expression »Elon Musk a déclaré mercredi : « Grok est l’IA la plus amusante au monde ! »déclenchant les commentaires des internautes fans du multimilliardaire, multipliant en réponse les images générées par Grok et le montrant, dans des poses héroïques, aux côtés de Donald Trump, dont il soutient la campagne.

Il n’est pas certain que cette nouvelle version de Grok amusât les régulateurs, à quelques mois de l’élection présidentielle américaine, et alors que le réseau social X fait l’objet d’une enquête européenne : la Commission européenne le soupçonne de manquer à ses obligations en matière de modération des contenus illicites et de désinformation.