Pourquoi OpenAI refuse de publier son outil infaillible de détection de textes générés par ChatGPT ?
OpenAI a développé une technique de « tatouage numérique » pour le texte généré par ses modèles GPT. Très fiable, elle est prête depuis un an, mais l’entreprise a préféré ne pas la rendre disponible car elle peut être facilement contournée. Son existence a été révélée le 4 août par le Wall Street Journal, puis rapidement confirmée par OpenAI. L’entreprise précise que sa démarche en la matière est prudente et réfléchie car la situation est « complexe » et « son impact sur l’écosystème dépasserait OpenAI ».
Ce principe de « marquage » des textes générés consiste à y glisser des informations subtiles créant une sorte de signature invisible, détectable par un outil sachant quoi chercher mais pas par le commun des mortels. Une approche différente de celle des premiers « détecteurs » parus l’année dernière, qui n’étaient pas suffisamment fiables.
OpenAI n’est pas la première entreprise à concevoir un outil de ce genre, Google et Meta l’ont déjà fait par le passé pour la génération d’images et d’audio. Les enjeux ne sont cependant pas les mêmes puisque ChatGPT est de loin l’outil d’IA générative le plus utilisé au monde aujourd’hui.
Trop facilement contournable ?
OpenAI affirme que son système est « très précis et efficace contre les modifications localisées du texte, comme la paraphrase », mais qu’il est « moins robuste contre les modifications globales, comme l’utilisation de systèmes de traduction automatique, la reformulation du texte par un autre modèle linguistique ou l’insertion par le modèle d’un caractère spécial entre chaque mot, puis sa suppression ». En conséquence, l’entreprise affirme qu’il serait relativement facile de contourner le système.
Elle évoque aussi, sans convaincre, une inquiétude quant à la potentielle discrimination que cela pourrait engendrer parmi les personnes utilisant ChatGPT pour compenser leur faible niveau d’anglais. Gageons que cela pourrait surtout réduire une partie de l’usage fait de son chatbot, par exemple dans le milieu scolaire et académique, ou dans la recherche d’emploi. OpenAI dit néanmoins continuer à travailler sur la question en explorant d’autres approches.
Choisi pour toi
