« Il n’y a pas de mur. » Cette phrase prononcée sur Si certaines menaces obscurcissent l’avenir, les géants du secteur avancent leurs solutions. Explications.
Ces menaces qui planent sur l’IA
Business Insider J’ai discuté avec 12 experts pour y voir plus clair. Globalement, le développement de ces technologies pourrait être freiné par les difficultés d’obtention de puces spécialisées. En fait, Nvidia a parfois du mal à répondre à la demande tellement elle est massive.
De même, les entreprises technologiques ont une autre grande préoccupation : les données de formation. Ils ont allègrement puisé (trop au vu de certains médias et artistes qui ont lancé des poursuites) dans l’information publique disponible sur cet Internet.
Ce manque de matière première risque d’être préjudiciable et pourrait donc conduire à une stagnation des modèles. Ici, nous atteindrons le mur pour de bon. Ainsi, selon le cabinet Epoch AI, les données textuelles exploitables devraient être épuisées d’ici 2028.
Comment s’en sortir ?
Pour s’en sortir, les entreprises envisagent notamment d’ajouter des données multimodales à leurs bases de données. Ainsi, des sources d’information visuelles et sonores viendraient s’ajouter aux textes disponibles en ligne.
Les données privées pourraient également aider à former l’IA. C’est en ce sens que des entreprises comme OpenAI et Google multiplient les partenariats avec des médias ou certains sites dédiés aux développeurs, comme Stack Overflow.
Pour continuer à améliorer leurs modèles, les entreprises n’ont d’autre choix que de tenter de récupérer des sources de qualité. Pour ce faire, ils pourraient notamment se tourner vers les données synthétiques elles-mêmes générées par l’IA. Pour éviter les erreurs, l’encadrement humain restera indispensable en la matière selon les sources interrogées.
Cité par Business Insider, un ancien employé de Google DeepMind ajoute : « Les Gémeaux ont changé de stratégie. Je pense qu’ils ont réalisé qu’il est en fait très coûteux de servir des modèles aussi grands, et qu’il est préférable de les spécialiser pour diverses tâches grâce à une meilleure formation plus tard. ».
Enfin, une autre piste est explorée pour atteindre de nouveaux niveaux. L’idée est simplement de donner plus de temps à l’IA pour raisonner. Sivesh Sukumar souligne à ce propos que les réponses formulées en quelques millisecondes : « Cela n’a pas vraiment de sens. Si l’on réfléchit au fonctionnement du cerveau humain, même les personnes les plus intelligentes prennent le temps de trouver des solutions aux problèmes. »
La question énergétique reste sans réponse
OpenAI s’est également positionné sur cette problématique en lançant o1 à l’automne dernier. Ce dernier est censé réfléchir quelques secondes à un problème avant de vous apporter une réponse.
A ces problèmes techniques majeurs s’ajoutent les entreprises qui doivent répondre au défi énergétique. Les datacenters, indispensables à leur fonctionnement, consomment beaucoup d’électricité, à tel point que certains doutent bruyamment de la pérennité de ces innovations par ailleurs très coûteuses en eau. Pour en savoir plus, n’hésitez pas à relire notre précédent article ici.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google News et WhatsApp.
