Un nouveau réseau de supercalculateurs pourrait accélérer son développement

SingularityNET, une société spécialisée dans l’IA décentralisée, prévoit d’accélérer le développement de l’IA générale (GAI) en construisant un réseau mondial de supercalculateurs puissants. L’objectif est d’établir un réseau informatique à plusieurs niveaux capable d’héberger l’architecture nécessaire à l’IA générale. Le premier module devrait être mis en place d’ici septembre prochain et le réseau devrait être pleinement opérationnel au début de l’année prochaine.

L’AGI est une forme d’IA qui pourrait égaler ou surpasser l’intelligence humaine dans presque toutes les disciplines. Alors que les IA actuelles excellent dans des domaines spécifiques en fonction des données sur lesquelles elles ont été initialement formées, l’AGI serait beaucoup plus polyvalente et les surpasserait de loin en matière de raisonnement et de prise de décision. En d’autres termes, elle serait capable d’effectuer ou d’apprendre n’importe quelle tâche (d’où le terme « IA de niveau humain »).

Alors qu’il y a quelques années, l’AGI était considérée comme un concept hypothétique qui ne pouvait se concrétiser qu’à très long terme, les développements actuels suggèrent qu’elle pourrait voir le jour bien plus tôt qu’on ne le pensait. D’autre part, le développement de la technologie est récemment devenu un domaine d’investissement très actif.

Microsoft a par exemple investi près de 10 milliards de dollars dans OpenAI, dont l’un des principaux objectifs est le développement de l’AGI. De son côté, Mark Zuckerberg, PDG de Meta, a investi un montant équivalent pour mettre en place une infrastructure de formation de modèles d’IA avancés qui pourraient potentiellement aboutir à l’AGI.

SingularityNET vient de son côté d’investir 53 millions de dollars pour construire un supercalculateur modulaire dédié à l’AGI décentralisée. Une structure en réseau permettrait d’accélérer considérablement le développement de la technologie en fournissant le support nécessaire aux calculs intensifs qu’elle requiert.

 » Ce supercalculateur constituera une avancée majeure dans la transition vers l’IA générale. Si les nouvelles approches d’IA neuronale-symbolique développées par l’équipe d’IA de SingularityNET réduisent quelque peu les besoins en données, en traitement et en énergie par rapport aux réseaux neuronaux profonds standards, nous avons toujours besoin d’importantes installations de calcul intensif. « , a déclaré le PDG de SingularityNET, Ben Goertzel, à LiveScience. La société affirme que le premier module pourrait être opérationnel d’ici la fin de cette année ou début 2025, en fonction des délais de livraison des fournisseurs.

Optimiser les structures des systèmes d’IA avancés

La phase initiale du projet nécessitera 26,5 millions de dollars pour exploiter des centres de données modulaires Ecoblox et du matériel haute performance fourni par des entreprises spécialisées. Le premier module du supercalculateur sera notamment équipé d’unités de traitement graphique (GPU) Nvidia L40S et de puces AMD Instinct et Genoa. Des racks de serveurs Tenstorrent Wormhole équipés de GPU Nvidia H200 ainsi que des systèmes GB200 Blackwell de ce dernier seront également utilisés. Ces composants comptent parmi les plus puissants actuellement disponibles et sont spécifiquement conçus pour l’IA.

D’autre part, le supercalculateur vise à optimiser les structures supportant les systèmes d’IA avancés, facilitant ainsi l’apprentissage et l’auto-amélioration pour la transition vers l’IA générale. Ces structures comprennent des réseaux neuronaux profonds imitant les fonctions cérébrales humaines, des modèles de langage à grande échelle (LLM) et des systèmes multimodaux traitant les comportements humains.

 » La mission de la machine informatique que nous créons est d’assurer une transition de phase entre l’apprentissage sur le big data et la reproduction ultérieure des contextes de la mémoire sémantique du réseau neuronal, ainsi qu’une pensée machine non imitative basée sur des algorithmes de raisonnement à plusieurs étapes et une modélisation dynamique du monde, basée sur la mise en correspondance de modèles inter-domaines et la distillation itérative des connaissances.  » explique Goertzel.