Recommandations de sécurité pour un système d’IA générative

L’engouement récent pour les produits et services d’Intelligence Artificielle (IA) générative, dont certains sont rendus facilement accessibles au grand public, a donné lieu à des réflexions au sein des organisations publiques et privées afin d’étudier les possibles gains de productivité qui pourraient en être réalisés. résultat.

Si cette technologie offre de nouvelles perspectives, il convient d’adopter une posture prudente lors de son déploiement et de son intégration dans un système d’information existant.

Le guide de recommandations de sécurité pour un système d’IA la recherche générative de l’ANSSI s’intéresse aux sécuriser une architecture système d’IA générative. Il vise à pour sensibiliser administrations et entreprises risques liés à l’IA générative ainsi que de promouvoir bonnes pratiques à mettre en œuvre depuis la phase de conception et de formation d’un modèle d’IA jusqu’à la phase de déploiement et d’utilisation en production.

Les questions de sécurité liées à la qualité des données et aux performances d’un modèle d’IA d’un point de vue métier ne sont pas abordées dans ce document, tout comme les questions telles que l’éthique, la confidentialité ou encore la protection des données personnelles.