le responsable IA de Meta tacle les IA génératives actuelles, et promet bien mieux

Ray Richardil y a 2 semaines

122 6 minutes de lecture

Meta, l’éternel outsider qui parie sur le long terme pour l’IA : lors d’une matinée dédiée à l’IA, le groupe de Mark Zuckerberg a expliqué comment il comptait devenir leader dans le secteur de l’intelligence artificielle. Et sans surprise, l’IA générative ne fait pas partie de ses priorités… à long terme. L’entreprise qui regroupe WhatsApp, Facebook et Instagram mise sur son exploration dans la recherche fondamentale en IA, avec pour résultat de futurs agents personnels qui serviront d’intermédiaires entre nous et le monde numérique.

Comme un air de déjà vu, avec le métaverse ? Mercredi 10 avril, la presse était conviée à une matinée dédiée à l’intelligence artificielle chez Meta France, la maison mère d’Instagram, Facebook et WhatsApp. L’heure n’était pas aux annonces grandioses, mais plutôt à l’éducation sur sa stratégie en matière d’IA. Et comme il l’a déjà fait pour le métaverse, misant envers et contre tout sur cet univers parallèle au point de changer son nom en Meta, le groupe de Mark Zuckerberg joue aussi, en matière d’IA, la carte de l’outsider.

Il faut dire que l’entreprise, comme les autres, a été dépassée et surprise par la vague ChatGPT en novembre 2022. » On ne s’attendait évidemment pas à un tel engouement du public, surtout pour une technologie vieille de deux ans. », a reconnu lors de la conférence Yann LeCun, la star française de l’IA qui dirige aujourd’hui la politique scientifique de Meta en matière d’IA. De quoi faire réagir le groupe qui, dans les mois suivants, prend le virage vers l’IA générative, cette technologie qui permet de générer du texte, du code ou de la vidéo. Il a lancé pour la première fois son grand modèle de langage Llama 2 en juillet dernier. Elle a également regroupé ses activités de recherche en IA fondamentale et en IA générative, lui permettant de passer plus rapidement de la recherche à l’industrie, a expliqué Joëlle Pineau, vice-présidente à la recherche en IA, lors de la conférence. Mais au fond, l’entreprise américaine aurait choisi un « chemin » différents de ceux adoptés par ses concurrents, a ajouté le chercheur québécois.

Meta aurait pris une « trajectoire » différente

A court terme, la stratégie de Meta, qui vit principalement de ses revenus publicitaires, ne changera pas, a-t-elle précisé lors d’une des tables rondes organisées après la conférence. L’entreprise reste concentrée sur ses plateformes (Facebook, Instagram, WhatsApp) et ses deux produits de réalité virtuelle et augmentée, les Quest et les Ray-Ban Meta – lunettes portées par le chercheur français Yann LeCun lors de cette matinée. L’idée est d’appliquer les fonctionnalités de l’IA à ses réseaux sociaux. » Si vous allez sur Facebook ou Instagram, une grande partie de ce que vous voyez est recommandée par nos algorithmes, construits sur des systèmes d’IA. « . Mais à plus long terme, les choses vont évoluer, a déclaré Joëlle Pineau, interrogée sur ce point.

Comment ? En jouant – comme elle l’a fait pour le métaverse – la carte de l’outsider. Pour ce faire, le groupe continue de s’appuyer sur son approche open source – » dans l’ADN » du groupe – même si l’accès en question a été critiqué par une partie de la communauté, car il serait soumis « avec conditions « . Et Llama 3, la 3ème version multimodale du LLM (large language model) qui » sera publié très prochainement », devrait être publié en open source. » C’est notre objectif » a déclaré prudemment Chris Cox, directeur produit de Meta, lors de la conférence – une approche devenue rare dans le monde de l’IA, où la majorité des entreprises proposent des modèles fermés et propriétaires comme le GPT-4 d’OpenAI. ou Gemini de Google (anciennement Bard).

Mais le groupe a surtout mis en avant ses investissements dans la recherche fondamentale – Meta » investit dans l’écosystème de l’IA depuis des années « . Elle a créé un réseau de centres de recherche en IA, FAIR, en 2013 – en commençant par un centre à Paris. Et elle compte bien continuer. Ce choix de l’IA sur le long terme n’est pas sans rappeler celui fait pour le métaverse. Car l’objectif ici n’est pas de lancer un ChatGPT plus efficace ou plus sexy, bien au contraire : « nous devons nous éloigner des modèles génératifs », a lancé Yann LeCun avant de se lancer dans une longue explication sur l’IA générative actuelle.

Les LLM aujourd’hui incapables de raisonner

Ces « les systèmes peuvent manipuler le langage très rapidement, ce qui nous donne l’impression qu’ils sont intelligents, mais en réalité, ils ne le sont pas si intelligents », a taclé le lauréat du prix Turing 2018. Le sexagénaire rappelle ainsi que les LLM « faire des erreurs stupides. Ils hallucinent. Ils manquent de bon sens, et de quatre tâches essentielles : comprendre le monde physique, avoir une mémoire persistante, donc se souvenir des choses importantes, être capable de planifier des séquences d’actions complexes pour atteindre un objectif particulier, et être capable de raisonner. « .

« Les LLM ne peuvent pas, par exemple, planifier et raisonner. Lorsqu’on leur demande d’élaborer un plan, comme planifier des vacances au Costa Rica, ils vous donneront une liste d’endroits à visiter, car ils régurgitent ce sur quoi ils ont été formés. « . Mais ils ne peuvent pas vraiment programmer un parcours de A à Z, a insisté le vice-président qui gère l’IA au sein de l’entreprise américaine.

Aujourd’hui, nous n’en sommes même pas au stade du chat domestique

Meta s’appuie-t-il alors aussi sur ce que nous appelons « IA générale », un concept mal défini qui ferait référence à l’idée d’une super intelligence dépassant l’intelligence humaine ? En janvier dernier, Mark Zuckerberg expliquait, à nos confrères américains de Le bord qu’il entendait atteindre cet idéal – comme d’autres PDG du secteur avant lui. Ce Graal reste très lointain, a reconnu Yann Lecun qui préfère l’idée « d’intelligence artificielle avancée » ou AMI.

Parce qu’aujourd’hui, nous n’avons pas la capacité de construire des systèmes dotés d’une intelligence surhumaine. » « Nous ne savons pas comment construire des machines intelligentes au même niveau que… – oubliez les humains – au même niveau qu’un chat domestique », a insisté le chercheur français. L’occasion pour celui qui est considéré comme l’un des pionniers de l’IA de rappeler que le spectre d’une technologie qui anéantirait l’humanité reste un scénario de science-fiction.

« C’est comme si chacun de nous allait devenir le patron d’un groupe de personnes virtuelles intelligentes qui travaillent pour nous »

Au lieu de cela » phénomène imaginaire », a expliqué Yann LeCun pendant de longues minutes, son « approche par objectifs « , ce qui nous permettra à terme de développer un super assistant personnel avec lequel on communiquera en portant des lunettes connectées ou autres » appareils de ce type, qui peuvent tenir dans votre poche. Et à terme, ces systèmes deviendront aussi intelligents que nous. Nous avons besoin qu’ils soient intelligents, car il serait très frustrant de parler à un système stupide qui ne pourrait pas répondre à une question. En fait, nous voulons qu’ils aient une intelligence surhumaine si nous voulons vraiment qu’ils nous aident dans notre vie quotidienne. C’est donc comme si chacun de nous allait devenir un peu le patron d’un groupe de personnes virtuelles intelligentes qui travaillent pour nous. Et ils ne vont pas nous remplacer parce qu’on va leur fixer des objectifs « , il expliqua.

Pour construire ces futurs modèles » qui ne ressemblera pas du tout à ceux que nous avons actuellement », explique Yann LeCun à partir d’un « architecture d’IA axée sur les objectifs « . Une partie de ce travail a abouti à JEPA (Joint Embedding Predictive Architecture) – un modèle rendu public en 2022, et dont une deuxième version a été publiée l’année dernière.

Il ne s’agit pas de prédire « tous les détails », mais l’essentiel

Concrètement, ce serait « développer des modèles qui ne tentent pas de prédire tous les détails imprévisibles d’une scène, comme le mouvement des feuilles ou les mouvements de l’eau sur un lac « . A l’inverse, ces derniers se concentreraient sur l’essentiel, ne retenant que ce qui est » prévisible et pertinent « . Cette technologie serait basée » sur une représentation abstraite de données vidéo « .

En attendant ces travaux de très long terme, Meta compte investir dans ses infrastructures et ses semi-conducteurs, tout en poursuivant son exploration en recherche fondamentale. » Nous prévoyons que notre feuille de route ne sera pas linéaire. Si nous visons trop de prévisibilité, nous perdons de vue la possibilité de prendre des risques plus importants. Et je pense que nous devrons faire de grands pas pour parvenir à l’intelligence artificielle générale. « , a concédé Joëlle Pineau.

Ces ambitions connaîtront-elles le même sort que celles, pour l’instant avortées, du métaverse ? Pas si sûr. Pour Meta, demain nous passerons tous par des intermédiaires, des agents avec lesquels nous discuterons, pour accéder au Web ou à un monde virtuel. Mais le chemin pour atteindre ce Graal sera long, voire très long, a prévenu Yann LeCun. Et si » beaucoup de gens pensent que d’un coup nous aurons cette intelligence artificielle générale « , ils ont tort. Le processus sera continu, nous aurons des modèles » de plus en plus intelligent », comme l’histoire de l’évolution. Et ça tombe bien : dans cette lente progression, Meta a de quoi se raccrocher, grâce à ses revenus publicitaires. Le géant a réalisé un excellent 4ème trimestre, a rappelé Joëlle Pineau… De quoi remplir les caisses pendant plusieurs années, le temps d’avancer dans ces mille et une recherches et qui sait, de trouver l’IA et l’application qui seront adoptées. par tous?