Pour Cédric Villani, « la superintelligence est un moyen de récupérer des super milliards »
C’est un superlatif qui est sur toutes les lèvres dans le secteur de l’intelligence artificielle (IA) : « superintelligence »promis par OpenAI. Cela pourrait émerger dans « seulement quelques milliers de jours »a récemment estimé Sam Altman, le patron de la société qui a créé ChatGPT. Le tout à l’occasion du lancement d’une nouvelle famille de modèles d’IA, dotés de capacités de raisonnement complexes et censés représenter un premier pas vers une IA autonome.
Le principe ? Les résultats s’améliorent et, à ce rythme, une superintelligence pourrait être atteinte rapidement, dépassant l’intelligence humaine, décrypte l’ancien député et auteur de la stratégie nationale sur l’IA, Cédric Villani. Déjà, « Sur certaines tâches, les intelligences artificielles s’en sortent bien mieux que les humains. Cela est vrai pour un diagnostic de cancer ou de fracture, ou dans une partie de go, bref, dans toutes sortes d’activités. »souligne le mathématicien.
Cependant, si, lorsqu’on parle d’intelligence, on se réfère à « un être qui a conscience d’être un être et qui prend une décision »le médaillé Fields affiche son scepticisme. « Il n’est pas évident que nous ayons avancé ne serait-ce que d’un pouce là-dedans « . Et de décider : « La superintelligence est un moyen de récupérer des super milliards ».
Au-delà du raisonnement analytique
« Le mot « intelligence artificielle » a été créé à une époque où l’intelligence humaine se réduisait à une intelligence analytique. »» déclare Aurélie Jean, médecin algorithmique et entrepreneure. Une vision qui ne correspond plus à celle de la psychologie et des neurosciences d’aujourd’hui, qui rendent compte des intelligences au pluriel – émotionnelle, créative ou pratique.
Dans ces conditions, si l’intelligence générale est capable de maîtriser, modéliser et simuler l’ensemble des tâches cognitives d’un être humain, elle doit donc inclure « le raisonnement analytique, bien sûr, mais aussi les émotions et la conscience »en déduit Aurélie Jean. Cependant, entraîner un algorithme reste un calcul d’optimisation, alimenté par des milliers de paramètres. Et si nous pouvions créer un agent conversationnel qui nous dirait » Je vous aime « – cela ne veut pas dire qu’il ressentira cette émotion… Alors, pour Aurélie Jean, il y a d’un côté les scientifiques qui ne croient pas à cette possibilité, et puis, « quelques-uns qui font du marketing et de la communication. Sam Altman en fait partie ».
Loin de la superintelligence générale
Echo similaire chez Edouard Grave, chercheur au laboratoire français de Kyutai. « Des concepts comme la conscience ou la volonté sont quelque chose qui, aujourd’hui, ne sont pas du tout présents dans les algorithmes utilisés ». Et si certains pensent qu’à terme, des comportements d’intelligence tels que nous comprenons pour les humains pourraient émerger, l’échelle qu’il faudrait atteindre est « délirant et probablement irréaliste »souligne ce spécialiste.
En outre, il estime nécessaire de distinguer la superintelligence de l’IA générale. « D’une certaine manière, nous avons déjà des superintelligences très spécifiques, comme le go et la détection du cancer »il confirme. Quant à l’IA générale, « on commence à avoir des algorithmes un peu plus généraux et pas seulement spécifiques, qui commencent notamment à être capables de réaliser des tâches pour lesquelles ils n’ont pas forcément été directement formés ». De là à parvenir à une superintelligence générale, donc, une machine qui serait capable de tout faire mieux qu’un humain, « on en est effectivement assez loin ».
Une « grande diversion »
Même si cela était possible un jour, serait-ce toujours souhaitable ? Une superintelligence serait « un fossé énergétique phénoménal ! »s’exclame Cédric Villani. Enfin, même en supposant que le problème énergétique soit résolu, la question de la finalité demeurerait. « Si quelqu’un parvient à créer une hyperintelligence, ce sera un projet pour dominer le monde »craint celui qui est également président de la Fondation Ecologie Politique.
Non sans humour, il imagine une mission extraterrestre en reconnaissance de ce qui se passe sur Terre, constatant que face à une situation critique sur la planète, avec un climat perturbé et des guerres, les humains construisent… des centres de données. « Il y a quelque chose qui ressemble à une très grosse diversion »plaisante-t-il. Une manière aussi de détourner l’attention des enjeux actuels de l’IA – « son impact environnemental et sociétal, la discrimination technologique, le travail numérique, ainsi que son effet sur la démocratie »ajoute Aurélie Jean.
Ce qui n’empêche pas, au contraire, de poursuivre les recherches sur la superintelligence. « Nous sommes à un moment unique dans l’histoire de l’humanité où nous allons pouvoir redéfinir ce qui est humain, une conscience, une émotion, le fait de penser et de réfléchir, grâce aussi, entre autres, à l’IA »continue-t-elle. En collaboration avec des linguistes et des neuroscientifiques, l’enjeu est donc de repousser les limites des modèles d’IA dans l’espoir de comprendre ce que nous sommes – contrairement à une machine.
