Une publication scientifique australienne sous le feu des critiques après la publication d’articles générés par l’IA

« Cosmos », publié par une organisation soutenue par l’État australien, a utilisé GPT4 d’Open AI pour rédiger six articles, dont certains contiennent des inexactitudes et des inexactitudes.

En Australie, le magazine CosmosPublié par l’Agence nationale de la science, le titre est une référence en matière de publications scientifiques. Mais depuis qu’il a publié sur son site six articles générés par l’intelligence artificielle, le titre se retrouve au cœur d’une polémique, a expliqué le média local ABC mercredi 7 août. Cité par l’AFP, le président de l’Association des journalistes scientifiques, Jackson Ryan, pointe des simplifications, voire des erreurs, dans ce contenu généré par un outil qui utilise GPT4, l’IA de la firme américaine OpenAI.

L’un des articles générés par l’IA, intitulé « Qu’arrive-t-il à notre corps après la mort ? »explique notamment que les signes de rigidité cadavérique apparaissent trois à quatre heures après la mort. Toutefois, selon le spécialiste, la recherche scientifique est moins précise sur ce sujet. La description de l’autolyse, un processus au cours duquel les cellules sont détruites par leurs enzymes, est tout simplement inexacte, poursuit Jackson Ryan, craignant que ces inexactitudes puissent nuire à la confiance et à la perception des lecteurs.

Un porte-parole de l’Agence nationale des sciences a déclaré que le contenu de l’IA avait été vérifié par un « outil scientifique qualifié édité par l’équipe de publication « Cosmos » ». Selon un porte-parole de la maison d’édition, Cosmos cité par ABC, l’expérience est « en constante évolution ». Un processus qui, selon lui, « peut impliquer des changements dans la façon dont nous programmons l’outil (Et) dans l’usage que nous en faisons »ajoutant que ce sera également à eux de décider « si nous continuons à utiliser ou à développer cet outil après le projet ».

Le magazine Cosmos a également suscité des critiques pour avoir utilisé des subventions de l’industrie pour développer ses capacités en matière d’intelligence artificielle, car l’utilisation de l’IA devient un champ de bataille majeur pour les éditeurs, a déclaré le président de l’Association des journalistes scientifiques à ABC. « Finalement, (utiliser l’IA) est utilisé pour économiser de l’argent »estime Jackson Ryan, craignant que ces évolutions se fassent au détriment des journalistes.

L’utilisation de l’IA par les médias suscite également de sérieuses inquiétudes aux États-Unis. New York Times a récemment poursuivi OpenAI et Microsoft devant un tribunal américain, alléguant que les puissants modèles d’IA des entreprises utilisaient des millions d’articles à des fins de formation sans autorisation.