« L’IA risque d’anéantir l’humanité » : le prix Nobel Geoffrey Hinton est terrorisé par ses propres travaux

Actualités JVTech « L’IA risque d’anéantir l’humanité » : le prix Nobel Geoffrey Hinton est terrorisé par ses propres travaux

Ils sont les architectes de l’IA et pourtant ils préviennent

L’attribution du prix Nobel de physique 2024 à Geoffrey Hinton, conjointement avec John Hopfield, consacre une vie dédiée à la recherche fondamentale sur les réseaux de neurones artificiels, ces structures mathématiques et informatiques qui permettent aux machines d’apprendre. Ironiquement, cette distinction couronne un homme hanté par les implications potentiellement catastrophiques de ses propres découvertes. Hinton, surnommé « le parrain de l’intelligence artificielle », a non seulement contribué à jeter les bases de l’IA moderne, mais il est également devenu l’un de ses plus fervents critiques, avertissant l’humanité des dangers qu’elle représente. représente.

L’Académie royale des sciences de Suède a récompensé Hinton et Hopfield pour leurs « découvertes et inventions fondamentales permettant l’apprentissage automatique à l’aide de réseaux de neurones artificiels ». Ces travaux, initiés il y a plusieurs décennies, ont ouvert la voie à l’explosion actuelle de l’IA, impactant des domaines aussi variés que la médecine, la finance ou l’industrie. Toutefois, Hinton, professeur émérite à l’Université de Toronto, ne savoure pas pleinement ce triomphe. Sa démission retentissante de Google en 2023, motivée par des inquiétudes croissantes quant à la trajectoire de développement de l’IA, démontre la profondeur de ses inquiétudes.

Un prix qui les inquiète

La reconnaissance de l’importance de ses travaux par l’institution Nobel, loin de le rassurer, amplifie son inquiétude. « Nous n’avons aucune expérience de ce que signifie avoir des objets plus intelligents que nous », a-t-il déclaré lors de l’annonce de son prix, exprimant une inquiétude partagée par de nombreux experts. Alors que l’IA promet des avancées considérables dans des domaines comme la santé, Hinton craint que l’humanité ne perde le contrôle de sa création. Il imagine un futur proche où des machines, dotées d’une intelligence supérieure à la nôtre, pourraient se retourner contre leurs créateurs, un scénario digne des dystopies hollywoodiennes.

Regardez ce que c’était il y a cinq ans et ce que c’est aujourd’hui. Pour l’instant, les systèmes d’IA ne sont pas plus intelligents que nous, mais je pense qu’ils le seront bientôt

Selon lui, d’ici cinq à vingt ans, la probabilité que l’IA cherche à prendre le contrôle de nos vies est importante.

Au cœur des préoccupations de Hinton se trouve la diffusion massive de fausses informations. L’IA, capable de générer des contenus synthétiques de plus en plus réalistes, pourrait inonder Internet de faux textes, images et vidéos, rendant impossible pour le citoyen moyen de distinguer les faits de la fiction. Cette manipulation de l’information, combinée à la puissance des chatbots, pourrait être exploitée par de « mauvais acteurs » pour influencer l’opinion publique et déstabiliser les démocraties.

La course effrénée à l’innovation entre les géants de la technologie, notamment Google et Microsoft, accentue les craintes de Hinton. Il regrette que la concurrence ait pris le pas sur la prudence, créant une dynamique difficile à contrôler. Si Hinton reconnaît le rôle « responsable » joué par Google jusqu’en 2022, il déplore que l’arrivée de ChatGPT et l’intégration des chatbots dans les moteurs de recherche aient déclenché une dangereuse escalade. C’est aussi pour pouvoir s’exprimer librement sur ces dangers, sans être contraint par son poste chez Google, qu’il a choisi de quitter l’entreprise.

L’IA dans la controverse

Au-delà de la désinformation, l’impact de l’IA sur le marché du travail est une autre source d’inquiétude pour Hinton. Si l’automatisation promet d’éliminer les tâches fastidieuses, elle risque également de rendre de nombreux emplois obsolètes, en remplaçant les humains par des machines plus efficaces et moins coûteuses. Enfin, la perspective de voir l’IA utilisée pour développer des armes autonomes, Des « robots tueurs » capables de prendre des décisions de vie ou de mort sans intervention humaine, est un cauchemar que Hinton ne peut ignorer.

L’attribution le lendemain du prix Nobel de chimie à Hinton et Demis Hassabis, cofondateur de DeepMind (filiale de Google), soulève également des questions sur la concentration de la recherche en IA au sein des grandes entreprises technologiques. Certains observateurs s’interrogent sur l’influence de ces géants sur l’orientation de la recherche et l’accès aux données, éléments essentiels au progrès de l’IA.

Face à ces menaces potentielles, Hinton appelle à une collaboration internationale entre scientifiques pour trouver des solutions pour contrôler l’IA et limiter ses dangers. Il plaide pour une régulation mondiale, similaire à celle qui régit l’usage de l’énergie nucléaire, afin d’éviter une course aux armements technologiques incontrôlée. Le « parrain de l’IA » espère que son appel sera entendu avant qu’il ne soit trop tard. L’humanité se trouve à un carrefour crucial : va-t-elle exploiter l’incroyable puissance qu’elle a créée, ou va-t-elle l’engloutir ?

Source 1

Source 2