L’armée de l’air américaine a réalisé le premier combat aérien IA contre pilote humain dans le monde réel

De la simulation à la réalité. L’armée de l’air américaine a organisé en septembre 2023 un combat aérien réel entre un avion de combat biplace F-16 piloté par intelligence artificielle (nommé X-62A) et un pilote humain. L’avion robot du constructeur Lockheed Martin avait bien un pilote humain dans le cockpit, pour des raisons de sécurité, mais l’exercice était entièrement contrôlé par l’intelligence artificielle.

Quel a été le résultat du match ? Une victoire pour la sécurité de l’appareil, se réjouit la Darpa, l’agence du ministère américain de la Défense dédiée au développement de technologies de pointe. Parce que les pilotes de l’avion robot n’auraient jamais eu à actionner l’interrupteur de sécurité pendant le combats aériens. « Intégrer une machine qui va contrôler un avion dans la vraie vie est un casse-tête, car la machine accède alors aux commandes de contrôle et peut la pousser jusqu’à l’endommager », explique Bill Gray, pilote d’essai à l’US Air Force.

Le comportement suicidaire de l’IA dès la première rencontre

Un combat aérien avait déjà eu lieu entre l’homme et la machine en août 2020. Une IA, développée par le spécialiste américain de défense Heron Systems, avait alors réussi l’exploit de battre un pilote de l’armée de l’air américaine. La rencontre a ensuite été entièrement simulée, le pilote humain portant un casque de réalité virtuelle.

L’expérience a révélé les difficultés de placer une IA aux commandes d’un avion réel. La stratégie de la machine lors de la simulation était principalement basée sur la charge de l’ennemi, risquant une collision. Cependant, prendre le risque de perdre un avion valant plusieurs millions de dollars n’est pas acceptable pour une armée. L’IA avait également tendance à pousser l’avion dans ses retranchements (vitesses maximales ou minimales), ce qui représente un autre risque important de décrochage.

Une brique de sécurité a été ajoutée à l’IA

Les développeurs d’IA ont donc ajouté un composant au programme appelé Safety trips, permettant d’éviter les comportements mettant l’appareil en danger dans la vie réelle. Au total, l’avion X-62A a effectué 21 vols d’essai depuis la base aérienne d’Edwards, en Californie, au cours de trois périodes de tests distinctes entre décembre 2022 et septembre 2023. Au cours de ces tests, plus de 100 000 lignes de code auraient été modifiées, avant de passer à autre chose. au vrai combat. Baptisée Vista (Variable-stability In-flight Simulator Test Aircraft), l’IA a été développée par le spécialiste de l’intelligence artificielle Shield AI, qui a depuis acquis Heron Systems, vainqueur du match 2020.

Un avion autonome basé sur le machine learning

Mission lunaire Apollo, vol autonome d’un hélicoptère Black Hawk en 2021… Les vols autonomes ne sont pas une nouveauté. Ces systèmes de vol sont basés sur des règles de type : si une condition donnée est remplie, alors l’avion a le comportement suivant. « C’est un système très robuste dans de bonnes conditions », souligne Daniela Rus, directrice de recherche à l’institut MIT.

La tâche s’avère néanmoins herculéenne dans le cas d’un combat aérien : impossible pour les développeurs d’anticiper toutes les situations possibles. L’avion X-62A intègre un système basé sur l’apprentissage automatique. Ce système permet à la machine de prendre en compte son historique pour prendre de nouvelles décisions basées sur la situation présente et future. « Il s’agit d’un système extrêmement puissant dans un environnement et des situations où les conditions de vol fluctuent rapidement, ce qui rend difficile la détermination de règles claires et robustes », explique Daniela Rus. Le système X-62A Vista a peut-être plus de points communs avec AlphaGo, la machine de jeu Go, qu’avec le système d’hélicoptère autonome Alias.

Choisi pour toi