Sam Altman, créateur de ChatGPT et PDG d’OpenAI, exhorte le Sénat à réglementer l’IA

Le ton des audiences du Congrès mettant en vedette des dirigeants de l’industrie technologique ces dernières années peut être décrit comme antagoniste. Mark Zuckerberg, Jeff Bezos et d’autres sommités de la technologie ont tous été déguisés à Capitol Hill par des législateurs mécontents de leurs entreprises.

Mais mardi, Sam Altman, le directeur général de la start-up OpenAI de San Francisco, a témoigné devant les membres d’un sous-comité sénatorial et était largement d’accord avec eux sur la nécessité de réglementer la technologie d’IA de plus en plus puissante créée au sein de son entreprise et d’autres comme Google. et Microsoft.

Dans son premier témoignage devant le Congrès, M. Altman a imploré les législateurs de réglementer l’intelligence artificielle alors que les membres du comité affichaient une compréhension naissante de la technologie. L’audience a souligné le profond malaise ressenti par les technologues et le gouvernement face aux dommages potentiels de l’IA. Mais ce malaise ne s’étendait pas à M. Altman, qui avait une audience amicale parmi les membres du sous-comité.

L’apparition de M. Altman, un décrocheur de l’Université de Stanford et entrepreneur technologique de 38 ans, a été son baptême en tant que figure de proue de l’IA. M. Altman à l’allure enfantine a troqué son pull et son jean habituels contre un costume bleu et une cravate pour l’audience de trois heures.

M. Altman a également parlé de la technologie de son entreprise lors d’un dîner avec des dizaines de membres de la Chambre lundi soir et a rencontré en privé un certain nombre de sénateurs avant l’audience. Il a proposé un cadre lâche pour gérer ce qui se passera ensuite avec les systèmes en développement rapide qui, selon certains, pourraient changer fondamentalement l’économie.

« Je pense que si cette technologie tourne mal, elle peut mal tourner. Et nous voulons nous exprimer à ce sujet », a-t-il déclaré. « Nous voulons travailler avec le gouvernement pour empêcher que cela ne se produise. »

M. Altman a fait ses débuts publics à Capitol Hill alors que l’intérêt pour l’IA a explosé. Les géants de la technologie ont consacré des efforts et des milliards de dollars à ce qu’ils disent être une technologie transformatrice, même au milieu des inquiétudes croissantes concernant le rôle de l’IA dans la diffusion de la désinformation, la suppression d’emplois et un jour l’intelligence humaine.

Cela a propulsé la technologie sous les projecteurs à Washington. Le président Biden a déclaré ce mois-ci lors d’une réunion avec un groupe de directeurs généraux de sociétés d’IA que « ce que vous faites a un énorme potentiel et un énorme danger ». Les hauts dirigeants du Congrès ont également promis des réglementations sur l’IA.

Le fait que les membres du sous-comité sénatorial chargé de la protection de la vie privée, de la technologie et de la loi n’avaient pas prévu de griller grossièrement M. Altman était clair, car ils ont remercié M. Altman pour ses entretiens privés avec eux et pour avoir accepté de comparaître à l’audience. Cory Booker, démocrate du New Jersey, a fait référence à plusieurs reprises à M. Altman par son prénom.

M. Altman a été rejoint à l’audience par Christina Martin, responsable de la confidentialité et de la confiance d’IBM, et Gary Marcus, professeur bien connu et critique fréquent de la technologie de l’IA.

M. Altman a déclaré que la technologie de son entreprise pourrait détruire certains emplois, mais aussi en créer de nouveaux, et qu’il sera important que « le gouvernement détermine comment nous voulons atténuer cela ». Il a proposé la création d’une agence qui délivre des licences pour la création de modèles d’IA à grande échelle, des règles de sécurité et des tests que les modèles d’IA doivent réussir avant d’être rendus publics.

« Nous pensons que les avantages des outils que nous avons déployés jusqu’à présent l’emportent largement sur les risques, mais assurer leur sécurité est vital pour notre travail », a déclaré M. Altman.

Mais on ne savait pas comment les législateurs répondraient à l’appel à réglementer l’IA. Le bilan du Congrès en matière de réglementation technologique est sombre. Des dizaines de projets de loi sur la confidentialité, la parole et la sécurité ont échoué au cours de la dernière décennie en raison des querelles partisanes et de l’opposition féroce des géants de la technologie.

Les États-Unis sont à la traîne dans le monde en matière de réglementation de la vie privée, de la parole et de la protection des enfants. Il est également en retard sur la réglementation de l’IA. Les législateurs de l’Union européenne devraient introduire des règles pour la technologie plus tard cette année. Et la Chine a créé des lois sur l’IA conformes à ses lois sur la censure.

Le sénateur Richard Blumenthal, démocrate du Connecticut et président du panel sénatorial, a déclaré que l’audience était la première d’une série pour en savoir plus sur les avantages et les inconvénients potentiels de l’IA pour éventuellement « en rédiger les règles ».

Il a également reconnu l’incapacité du Congrès à suivre l’introduction de nouvelles technologies dans le passé. « Notre objectif est de démystifier et de tenir pour responsables ces nouvelles technologies afin d’éviter certaines des erreurs du passé », a déclaré M. Blumenthal. « Le Congrès n’a pas réussi à rencontrer le moment sur les réseaux sociaux. »

Les membres du sous-comité ont suggéré une agence indépendante pour superviser l’IA ; des règles qui obligent les entreprises à divulguer le fonctionnement de leurs modèles et les ensembles de données qu’elles utilisent ; et des règles antitrust pour empêcher des entreprises comme Microsoft et Google de monopoliser le marché naissant.

« Le diable sera dans les détails », a déclaré Sarah Myers West, directrice générale de l’AI Now Institute, un centre de recherche sur les politiques. Elle a déclaré que les suggestions de réglementation de M. Altman ne vont pas assez loin et devraient inclure des limites sur la manière dont l’IA est utilisée dans le maintien de l’ordre et l’utilisation des données biométriques. Elle a noté que M. Altman n’avait montré aucun signe de ralentissement du développement de l’outil ChatGPT d’OpenAI.

« C’est tellement ironique de voir une position sur la préoccupation des préjudices par des personnes qui libèrent rapidement à des fins commerciales le système responsable de ces mêmes préjudices », a déclaré Mme West.

Certains législateurs présents à l’audience ont tout de même affiché l’écart persistant de savoir-faire technologique entre Washington et la Silicon Valley. Lindsey Graham, républicaine de Caroline du Sud, a demandé à plusieurs reprises aux témoins si une protection contre la responsabilité de la parole pour les plateformes en ligne comme Facebook et Google s’appliquait également à l’IA

M. Altman, calme et imperturbable, a tenté à plusieurs reprises de faire la distinction entre l’IA et les médias sociaux. « Nous devons travailler ensemble pour trouver une approche totalement nouvelle », a-t-il déclaré.

Certains membres du sous-comité ont également montré une réticence à sévir trop fortement contre une industrie très prometteuse économiquement pour les États-Unis et qui concurrence directement des adversaires comme la Chine.

Les Chinois créent une IA qui « renforce les valeurs fondamentales du Parti communiste chinois et du système chinois », a déclaré Chris Coons, démocrate du Delaware. « Et je suis préoccupé par la façon dont nous promouvons l’IA qui renforce et renforce les marchés ouverts, les sociétés ouvertes et la démocratie. »

Certaines des questions et des commentaires les plus difficiles envers M. Altman sont venus du Dr Marcus, qui a noté qu’OpenAI n’a pas été transparent sur les données qu’il utilise pour développer ses systèmes. Il a exprimé des doutes quant à la prédiction de M. Altman selon laquelle de nouveaux emplois remplaceront ceux tués par l’IA

« Nous avons ici des opportunités sans précédent, mais nous sommes également confrontés à une tempête parfaite d’irresponsabilité des entreprises, de déploiement généralisé, de manque de réglementation adéquate et de manque de fiabilité inhérent », a déclaré le Dr Marcus.

Les entreprises technologiques ont fait valoir que le Congrès devrait être prudent avec toutes les règles générales qui regroupent différents types d’IA. Lors de l’audience de mardi, Mme Martin d’IBM a appelé à une loi sur l’IA similaire à la réglementation proposée par l’Europe, qui décrit différents niveaux de risque. Elle a appelé à des règles qui se concentrent sur des utilisations spécifiques, et non sur la technologie elle-même.

« À la base, l’IA n’est qu’un outil, et les outils peuvent servir à différentes fins », a-t-elle déclaré, ajoutant que le Congrès devrait adopter une « approche de réglementation de précision de l’IA ».