L’IA prend-elle le contrôle de nos pensées ? Des chercheurs alertent sur le « système 0 » qui se met en place
En déléguant une partie de notre raisonnement à l’intelligence artificielle, toute la pensée humaine s’en trouve modifiée. Des chercheurs italiens ont baptisé ce niveau de pensée « système 0 », en référence aux styles de pensée du psychologue Daniel Kahneman.
L’arrivée de l’intelligence artificielle entraînerait des changements bien plus profonds que prévu, au point de changer la façon de penser des humains. Selon le psychologue et prix Nobel d’économie Daniel Kahneman, il existe deux modes de pensée. Le premier, qu’il a baptisé système 1, est intuitif et rapide. Le second, le système 2, est plus lent et participe à la résolution de problèmes complexes.
Dans un article publié dans la revue Comportement humainDes chercheurs italiens proposent un troisième mode, qu’ils ont baptisé système 0. Ce nouveau mode est rendu possible grâce à l’utilisation de l’intelligence artificielle. Cela correspondrait à une externalisation du raisonnement, ajoutant un nouveau circuit au cerveaucerveau humain. L’IA peut traiter de grandes quantités de données, mais ne peut pas leur attribuer de sens. L’humain délègue le traitement des données à l’IA et doit alors décider du sens des résultats. C’est le système 0.
L’intelligence artificielle pourrait interférer avec la pensée humaine
Cependant, les chercheurs soulignent le risque de devenir dépendant du système 0. » Le risque est de trop s’appuyer sur le système 0 sans faire preuve d’esprit critique. Si nous acceptons passivement les solutions proposées par l’IA, nous risquons de perdre notre capacité à penser de manière indépendante et à développer des idées innovantes. Dans un monde de plus en plus automatisé, il est crucial que les humains continuent de remettre en question et de contester les résultats générés par l’IA. », ont indiqué les chercheurs.
De plus, des études ont montré que les IA souffrent de nombreux préjugés, notamment racistes et sexistes, qui pourraient à leur tour influencer la pensée humaine. Les chercheurs plaident pour l’élaboration de lignes directrices éthiques et responsables pour l’utilisation de l’intelligence artificielle, basées sur transparencetransparenceresponsabilité et formation aux outils numériquenumérique.
