Surnommé le « parrain de l’intelligence artificielle », Geoffrey Hinton n’a pas caché son antipathie pour le patron d’OpenAI.
Rares sont les lauréats du prix Nobel qui finissent par regretter leur travail. Geoffrey Hinton, co-lauréat avec John Hopfield du prix Nobel de physique pour leur contribution au domaine de l’intelligence artificielle, en fait partie. Surnommé le « parrain de l’IA », le chercheur ne cesse d’alerter sur les potentielles déviations des modèles.
Dans sa ligne de mire, le fléau de ceux qui critiquent la soudaine explosion de ChatGPT : Sam Altman, le patron d’OpenAI. Lors d’une série de questions-réponses avec l’Université de Toronto, le 8 octobre, le très vénérable Geoffrey Hinton a payé le tout-puissant patron d’une remarque cinglante.
«Je tiens à remercier mes élèves. J’ai eu particulièrement la chance d’avoir eu de nombreux étudiants brillants, bien plus brillants que moi », a-t-il déclaré. « Ils ont fait des choses incroyables. Et je suis particulièrement fier qu’un de mes étudiants ait viré Sam Altman. »
Il fait ensuite référence à Ilya Sutskever, l’un des fondateurs d’OpenAI, qui a tenté, en vain, de renverser Sam Altman l’année dernière. Bien que le conseil d’administration ait réussi à le licencier, il a finalement été contraint, sous la pression des salariés et des actionnaires, de le réintégrer. Ilya Sutskever a depuis quitté l’entreprise, comme beaucoup d’autres.
Les bénéfices plutôt que la sécurité
L’origine du conflit est résumée par Geoffrey Hinton : « Au fil du temps, il s’est avéré que Sam Altman était beaucoup moins préoccupé par la sécurité que par les profits. Et je trouve que c’est dommage. »
« OpenAI a été créé en mettant fortement l’accent sur la sécurité. Le premier objectif était de développer l’intelligence artificielle générale et de garantir sa sécurité », a-t-il souligné.
Fondée en 2015 par Sam Altman et Elon Musk, entre autres, OpenAI est passée d’une organisation à but non lucratif à une startup lucrative évaluée à 150 milliards de dollars, grâce à Sam Altman. Au point que de fortes dissensions apparaissent au sein de l’entreprise sur le niveau de sécurité mis en place.
« Ce qui me préoccupe, c’est que l’IA peut aussi conduire à de mauvaises choses », insiste Geoffrey Hinton. « Surtout quand nous rendons les choses plus intelligentes que nous-mêmes. Personne ne sait vraiment si nous serons capables de les contrôler. »