John Hopfield, prix Nobel de physique pour ses recherches sur l’intelligence artificielle, met en garde contre les récentes avancées « très inquiétantes » de l’IA.

Il est l’un des pionniers de l’intelligence artificielle, mais cela ne l’empêche pas d’observer son évolution avec une certaine anxiété. John Hopfield, scientifique américain qui vient de remporter le prix Nobel de physique pour ses travaux sur l’IA, a jugé, mardi 8 octobre, les récentes avancées technologiques dans ce domaine. « très inquiétant ».

Le chercheur a mis en garde contre une possible catastrophe si ces phénomènes ne sont pas maîtrisés. Professeur émérite à l’Université de Princeton, il a appelé à une meilleure compréhension du fonctionnement de ces systèmes, pour éviter qu’ils ne deviennent incontrôlables.

S’adressant à une réunion vidéo de l’Université du New Jersey depuis le Royaume-Uni, le chercheur de 91 ans a déclaré qu’au cours de sa vie, il avait été témoin de l’essor de deux technologies puissantes, mais potentiellement dangereuses : le génie biologique et la physique nucléaire. « Nous sommes habitués aux technologies qui ne sont pas seulement bonnes ou mauvaises, mais qui peuvent aller dans les deux sens »a-t-il déclaré.

« En tant que physicien, je suis très troublé par quelque chose qui n’est pas maîtrisé, quelque chose que je ne comprends pas assez bien pour savoir quelles limites on peut mettre à cette technologie »a ajouté le prix Nobel. « C’est la question que se pose l’IA »il a continué. Même si les systèmes d’IA modernes semblent être « des merveilles absolues »leur fonctionnement est encore mal compris, ce qui est « très, très inquiétant » selon lui.

« Des capacités au-delà de ce que vous pouvez imaginer »

«C’est pourquoi moi-même, tout comme je pense que Geoffrey Hinton (co-lauréat du prix Nobel), plaider fermement pour une meilleure compréhension » a-t-il poursuivi, ajoutant que le domaine serait « développer des capacités au-delà de celles que vous pouvez imaginer actuellement ».

Avec l’essor fulgurant de l’intelligence artificielle et la course acharnée entre les entreprises, les critiques soulignent que cette technologie évolue plus vite que les scientifiques ne peuvent le comprendre.

« On ne sait pas si quelque chose de spontané mais indésirable se cache dans l’œuvre »a noté John Hopfield. Il a évoqué l’exemple de « ice-nine », un matériau imaginaire inventé par l’auteur de science-fiction Kurt Vonnegut dans son livre de 1963. Le berceau du chat. Développé pour aider les soldats obligés de naviguer dans la boue, il provoque accidentellement la solidification des océans, entraînant la perte de la civilisation humaine.

« Je m’inquiète de tout ce qui dit ‘Je suis plus rapide que toi, je suis plus grand que toi' »dit John Hopfield.