OpenAI dissout l’équipe de gestion des risques en matière d’intelligence artificielle

Après le départ de ses deux dirigeants, l’équipe OpenAI (ChatGPT) chargée de la sécurité d’une potentielle superintelligence artificielle (IA) a été dissoute et ses membres intégrés à d’autres groupes de recherche de l’entreprise. OpenAI a confirmé cette information vendredi 17 mai à l’AFP, précisant que le changement de structure avait commencé depuis plusieurs semaines. L’inventeur de ChatGPT assure que les chercheurs responsables de la sécurité des modèles d’IA pourront ainsi travailler de concert avec les ingénieurs qui développent ces modèles.

Mais les deux managers de l’ancienne équipe viennent de quitter l’entreprise star de la Silicon Valley. Jan Leike a expliqué vendredi sur X, anciennement Twitter, qu’il démissionnait en raison de désaccords fondamentaux avec la direction sur les priorités de l’entreprise : l’innovation ou la sécurité. « Nous avons atteint un point de rupture »a indiqué l’ingénieur qui dirigeait l’équipe chargée du « superalignement », c’est-à-dire de s’assurer qu’une future IA générale, aussi intelligente que l’humain, soit alignée sur nos valeurs.

« Il a raison, il nous reste encore beaucoup à faire »

Sam Altman, co-fondateur et PDG de la société basée à San Francisco, a déclaré « très triste de voir (Jan Leike) partir ». « Il a raison, nous avons encore beaucoup à faire (pour la recherche d’alignement et de sécurité)et nous sommes déterminés à le faire »» a-t-il ajouté, promettant un message plus long bientôt.

L’équipe du « superalignement » était également dirigée par Ilya Sutskever, co-fondateur d’OpenAI, qui a annoncé son départ mardi. Sur X, il se dit « convaincu qu’OpenAI construira une intelligence artificielle générale à la fois sûre et bénéfique. » Ancien scientifique en chef de l’entreprise, il a siégé au conseil d’administration qui a voté le limogeage de Sam Altman en novembre dernier, avant de faire marche arrière.

« Agir avec gravité »

Avec ChatGPT, OpenAI a lancé la révolution de l’IA générative (production de contenu sur simple requête dans le langage courant), qui passionne la Silicon Valley mais inquiète aussi de nombreux observateurs et régulateurs, de la Californie à Washington en passant par Bruxelles. Surtout quand Sam Altman parle de créer une IA généraliste, c’est-à-dire dotée de capacités cognitives équivalentes à celles des humains. OpenAI a présenté lundi une nouvelle version de ChatGPT qui permet désormais d’avoir des conversations orales et fluides avec ses utilisateurs, une étape supplémentaire vers des assistants IA toujours plus personnels et efficaces.

Jan Leike a appelé vendredi tous les employés d’OpenAI à « agir avec gravité » ce qui justifie ce qu’ils construisent. « Je pense que nous devrions consacrer beaucoup plus de temps à préparer les prochaines générations de modèles, sur la sécurité, les contrôles, la sûreté, la cybersécurité, l’alignement sur nos valeurs, la confidentialité des données, l’impact sociétal et d’autres sujets.», a-t-il énuméré.