Donald Trump armé jusqu’aux dents, une bière Mickey à la main… Grok-2, l’IA d’Elon Musk, suscite la polémique
La nouvelle version du chatbot du milliardaire est capable depuis mercredi de générer des images comme Midjourney ou Dall-E. Mais son propriétaire semble avoir mis le moins de garde-fous possible sur cet outil.
A peine parue, et déjà de nombreuses polémiques. La nouvelle version du chatbot d’Elon Musk, Grok-2, censée concurrencer OpenAI ou Google, fait beaucoup parler d’elle depuis son lancement mercredi. Ouverte aux utilisateurs Premium et Premium+ de X (ex-Twitter), elle permet, outre des améliorations techniques, de générer des images à partir d’une simple commande écrite. Une fonctionnalité disponible depuis Midjourney ou Dall-E d’OpenAI. Contrairement à ces deux logiciels, Grok-2 ne semble toutefois pas intégrer beaucoup de contraintes dans la génération d’images.
LE TuteurUn utilisateur de ce logiciel explique avoir pu générer des images de Donald Trump pilotant un avion vers les tours du World Trade Center, de personnalités politiques ou culturelles (Kamala Harris, Taylor Swift, Alexandria Ocasio-Cortez) en lingerie. D’autres utilisateurs ont pu générer des images violentes, comme Elon Musk avec un fusil d’assaut à la main dans une université, ou Trump armé jusqu’aux dents. D’autres encore ont publié des images susceptibles de violer la loi sur le droit d’auteur, comme une image de Mickey Mouse avec une cigarette et une bière à la main.
A lire aussiElon Musk « part en guerre » contre les annonceurs qui se sont retirés de X
Fervent défenseur de la liberté d’expression, Elon Musk semble avoir pris soin de mettre le moins de garde-fous possible sur son algorithme. Ses pairs du marché, qu’il s’agisse de Dall-E ou de Midjourney, rendent impossible la génération d’images explicites, de personnages publics ou de contenus potentiellement violents. Google, de son côté, avait complètement suspendu la fonctionnalité de Gemini permettant la génération de visages après une polémique sur les biais racistes de cet outil.
Écarts possibles
Dans ses conditions d’utilisation, Grok-2 est pourtant très clair sur l’interdiction des contenus qui violent les droits de propriété intellectuelle, sont frauduleux, faux, trompeurs ou diffamatoires. C’est également le cas des contenus qui incitent à la haine, à la violence ou aux insultes envers des individus ou des groupes d’individus. Reste à savoir si les équipes de modération de Musk se chargeront de supprimer tous ses contenus publiés ces derniers jours sur le réseau social X et de suspendre l’utilisation du service pour les personnes à l’origine de ces montages.
En pleine campagne présidentielle américaine, cet outil pourrait être utilisé délibérément pour créer des images manipulées. Les dérives pourraient être nombreuses. Sur le réseau social X, un professeur d’informatique de Harvard en a parlé comme « l’une des implémentations d’IA les plus imprudentes et irresponsables » D’un point de vue juridique également, Musk risque plusieurs plaintes de la part des ayants droit.
A lire aussiÉmeutes en Grande-Bretagne, élection présidentielle américaine : Elon Musk déploie sa propagande très politique
Lancé en novembre dernier, Grok a réussi en l’espace de quelques mois à devenir un concurrent sérieux aux différents modèles de langage du marché. Pour continuer à soutenir son développement, Elon Musk a annoncé fin mai une levée de fonds de 6 milliards de dollars pour sa start-up xAI, qui héberge le robot conversationnel Grok-2. Depuis le lancement, le milliardaire souhaite en faire un outil de communication de premier plan. « L’intelligence artificielle la plus amusante au monde ».
