L’IA générative, c’est aussi l’affaire des philosophes – Libération

Alors que le prix Nobel de physique vient d’être décerné aux deux pionniers du machine learning, dont l’un a alerté sur les dangers du développement de l’IA générative, quelle humanité voulons-nous ? Les philosophes doivent participer à une réflexion éthique globale aux côtés des informaticiens, des juristes et des économistes, selon la philosophe Elsa Godart.

Le prix Nobel de physique vient d’être décerné le 8 octobre 2024 à John Hopfield et Geoffrey Hinton pour leurs travaux sur le « machine learning » qui ont permis de développer le apprentissage profond – « deep learning » – qui caractérise les systèmes d’IA générative. « Dans les mêmes circonstances, je ferais la même chose (ses recherches, ndlr). Mais je crains que la conséquence globale de tout cela soit que des systèmes plus intelligents que nous finissent par prendre le contrôle. » » a admis Hinton lors de l’annonce de son prix. Après avoir travaillé une dizaine d’années chez Google (Google Brain), il quitte le cabinet en 2023 afin de pouvoir s’exprimer librement sur les risques engendrés par l’IA.

Dans une interview accordée à CBS le 25 mars 2023, il n’a pas hésité à affirmer « qu’il n’est pas inconcevable que l’IA puisse anéantir l’humanité. » En 2017, il avait déjà appelé à une interdiction internationale des armes létales autonomes. Et depuis, il continue de militer pour qu’une grande réflexion soit menée concernant le contrôle de l’IA générative. Dans le même mouvement d’inquiétude, le dialogue international sur la sécurité de l’IA (Idais) a été lancé en octobre 2023 par deux lauréats du prix Turing, Yoshua Be.