L’intelligence artificielle est une opportunité mais peut faire des machines esclaves de l’homme

Salvatore Cernuzio – Vatican City

L’intelligence artificielle ne doit pas être considérée comme une personne, elle ne doit pas être déifiée, elle ne doit pas remplacer les relations humaines, mais doit être utilisée « Seulement comme un outil complémentaire de l’intelligence humaine ». Les avertissements du pape sur l’intelligence artificielle de ces dernières années sont le cadre deAntiqua et Nova (En référence au « sagesse», Ancienne et nouvelle), une note sur les relations entre l’intelligence artificielle et l’intelligence humaine, le fruit d’une réflexion commune entre la dicastéry pour la doctrine de la foi et la dicastérie pour la culture et l’éducation. Un document qui s’adresse aux parents, aux enseignants, aux prêtres, aux évêques et à tous ceux qui sont appelés à éduquer et à transmettre la foi, mais aussi à ceux qui partagent le besoin de développement scientifique et technologique « Au service de la personne et du bien commun » (5). Publié le mardi 28 janvier, la note a été approuvée par le Saint-Père. En 117 paragraphes, Antiqua et Nova Souligne les défis et les opportunités de développement de l’intelligence artificielle (IA) dans les domaines de l’éducation, de l’économie, du travail, de la santé, des relations internationales et interpersonnelles et des contextes de guerre. Dans ce dernier domaine, par exemple, le potentiel de l’IA – a prouvé la note – pourrait augmenter les ressources de guerre « Bien au-delà de la portée du contrôle humain »accélération « Une course aux armements déstabilisateurs avec des conséquences dévastatrices pour les droits de l’homme » (99).

Dangers et progrès

Plus en détail, le document énumère avec un équilibre raisonné les dangers de l’IA mais aussi des progrès, qu’il encourage comme « Une partie de la collaboration » de l’homme avec Dieu « Pour apporter la création visible à la perfection » (2). La préoccupation est cependant grande pour toutes les innovations dont les effets sont encore imprévisibles, même pour ce qui semble pour le moment aussi inoffensif que la génération de textes et d’images.

Distinguer l’IA de l’intelligence humaine

Les considérations éthiques et anthropologiques sont donc au cœur du reflet des deux dicasés qui consacrent plusieurs paragraphes à la distinction « Décisif » Entre l’intelligence artificielle et l’intelligence humaine. Celui qui « Exercice dans la relation » (18), façonné par Dieu et « Modélisé par une myriade d’expériences vécues dans la corporation ». IA « N’a pas la capacité d’évoluer dans ce sens » (31). C’est un « Vision fonctionnaliste »où les gens ne sont évalués que par leur travail et leurs réalisations, et où la dignité humaine est inaliénable et reste toujours intacte, même en « Un enfant de naissance », « Une personne inconsciente » Ou « Une personne âgée souffrant » (34). C’est donc « trompeur » Pour utiliser le mot « intelligence » En référence à l’IA: ce n’est pas un « Forme d’intelligence artificielle »mais « Un de ses produits » (35).

Le pouvoir entre les mains de quelques-uns

Et comme tout produit de l’ingéniosité humaine, l’IA peut également être orientée vers « Des fins positives ou négatives », souligner Antiqua et Nova. Sans nier que l’intelligence artificielle peut présenter « Innovations importantes » Dans divers domaines (48), il risque également d’aggraver les situations de marginalisation, de discrimination, de pauvreté, « Divide numérique » et les inégalités sociales (52). Le fait que « La majeure partie de la puissance des principales applications d’IA est concentrée entre les mains de quelques entreprises puissantes » (53) soulève « Préoccupations éthiques », de sorte que cette technologie finit par être manipulée à des fins « Personnel ou commercial » ou pour « Orient l’opinion publique au sens des intérêts d’un secteur » (53).

IA et guerre

La note examine ensuite les différentes sphères de la vie par rapport à l’IA. La référence à la guerre est inévitable. LE « Capacités analytiques » L’IA pourrait être utilisée pour aider les nations à rechercher la paix et la sécurité, mais des armes autonomes mortelles capables « Identifier et frapper des cibles sans intervention humaine directe » constituer « Une sérieuse source de préoccupation éthique » (100). Le pape a lancé un appel urgent pour interdire leur utilisation, comme il l’a déclaré lors du sommet du G7 dans le sud de l’Italie le 14 juin 2024: «Aucune machine ne devrait jamais choisir de prendre la vie sur un être humain. Les machines capables de tuer avec une précision autonome et d’autres personnes capables de destruction massive constituent une réelle menace pour la survie de l’humanité ou des régions entières » (101). Ces technologies « Donnez à la guerre un pouvoir destructeur incontrôlable, affectant de nombreux civils innocents, sans même sauver des enfants », dénoncer Antiqua et Nova. Pour empêcher l’humanité de tomber « Spirales d’auto-destruction »il est donc nécessaire de « Clairement, prenez position contre toutes les applications de la technologie qui menacent intrinsèquement la vie et la dignité de la personne humaine. »

Relations humaines

En ce qui concerne les relations humaines, le document note que l’IA peut, bien sûr, « Promouvoir les connexions » Mais, en même temps, conduit à un « Isolement préjudiciable » (58). « L’anthropomorphisation de l’IA pose également des problèmes spécifiques à la croissance des enfants, qui sont encouragés à comprendre les relations humaines de manière utilitaire », Comme c’est le cas avec les chatbots (60). « Il est donc » faux « de représenter l’IA en tant que personne et c’est une grave violation éthique » de le faire à des fins frauduleuses «  (60). Ainsi que « L’utilisation de l’IA pour tromper dans d’autres contextes – comme l’éducation ou les relations humaines, y compris la sphère de la sexualité – est profondément contraire à l’éthique et nécessite une vigilance particulière » (62).

Économie et travail

La même vigilance consiste à mettre dans la sphère économique et financière. Dans le domaine des travaux en particulier, il est à noter que si, d’une part, l’IA a un « potentiel » Pour augmenter les compétences et la productivité ou créer de nouveaux emplois, en revanche, il peut « Désqualifier les travailleurs, les soumettre à une surveillance automatisée et les reléguer à des fonctions rigides et répétitives » (67), au point de« Petit » Toute capacité d’innovation. « Nous ne devons pas essayer de remplacer de plus en plus le travail humain par le progrès technologique: cela nuirait à l’humanité elle-même », souligne la note (70).

Santé

Un grand espace est consacré au champ sanitaire. Bien qu’il présente un énorme potentiel dans diverses applications dans le domaine médical (par exemple, une assistance diagnostique), si l’IA devait remplacer la relation médecin-patient, laissant les machines à interaction, elle risquerait « Aggraver la solitude qui accompagne souvent la maladie ». L’optimisation des ressources ne devrait pas « Pénaliser les plus fragiles » ou créer « Formes de préjugés et de discrimination » (75) qui conduirait à renforcer un « Médecine des riches », Dans lequel les personnes ayant des moyens financiers bénéficieraient d’outils de prévention avancés et d’informations médicales personnalisées, tandis que d’autres prendraient pour accéder aux services les plus élémentaires.

Éducation

Les risques sont également mis en évidence dans le domaine de l’éducation. S’il est utilisé avec prudence, l’IA peut améliorer l’accès à l’éducation et offrir un « Retour immédiat des informations » aux étudiants (80). Le problème est que de nombreux programmes « Soyez content de fournir des réponses au lieu d’encourager les étudiants à les trouver par eux-mêmes ou à écrire eux-mêmes des textes »ce qui entraîne une perte de formation dans l’accumulation d’informations ou le développement de l’esprit critique (82). Sans parler de la quantité de« Désactiver ou fabriquer des informations » ou « Contenu inexact » que certains programmes peuvent générer, légitimant ainsi le « Fake News » (Fausses nouvelles) (84).

Fake News et Deepfake

Concernant « Fake News », Le document rappelle le risque grave que l’IA « Génère du contenu manipulé et de fausses informations » (85) pour nourrir un « hallucination » AI, avec un faux contenu qui semble réel. Ce qui est encore plus inquiétant, c’est quand ce contenu fictif est intentionnellement utilisé à des fins de traitement. Par exemple, lorsque de fausses images, vidéos et sons (représentations modifiées ou générées par des algorithmes) sont intentionnellement disséminées pour « Double ou mal » (87). L’appel est donc toujours « Prenez soin de vérifier la véracité » de ce qui est divulgué et pour éviter, dans tous les cas, de « Partagez des mots et des images dégradants pour les êtres humains »sauf « Ce qui nourrit la haine et l’intolérance, dégrade la beauté et l’intimité de la sexualité humaine, et exploite les faibles et les sans défense » (89).

Confidentialité et contrôle

En ce qui concerne la confidentialité et le contrôle, la note souligne que certains types de données peuvent affecter l’intimité d’une personne, « Peut-être même sa conscience » (90). Les données sont désormais acquises avec un minimum d’informations et le danger est que tout devient « Une sorte de spectacle qui peut être espionné, surveillé » (92). Et « La surveillance numérique peut être utilisée pour exercer un contrôle sur la vie des croyants et l’expression de leur foi » (90).

La maison commune

Dans le domaine de la création, les applications d’IA pour améliorer le rapport à la maison commune sont jugées « Prometteur ». Il suffit de penser aux modèles de prévision des événements climatiques extrêmes, de la gestion des services d’urgence ou du soutien à l’agriculture durable (95). Dans le même temps, les modèles d’IA actuels et l’équipement qui les soutiennent nécessite « De grandes quantités d’énergie et d’eau et contribuent de manière significative aux émissions de CO2, tout en étant gourmand dans les ressources ». Ils pèsent donc lourdement sur l’environnement: « Le développement de solutions durables est essentielle pour réduire leur impact sur la maison commune ».

La relation avec Dieu

« La présomption de remplacer Dieu par une œuvre par ses propres mains est une idolâtrie »: la note cite les saints entrées pour avertir que l’IA peut être « Plus attrayant que les idoles traditionnelles » (105). Elle se souvient donc qu’elle n’est que « Réflexion pâle » de l’humanité: « Ce n’est pas l’IA qui est déifié et adoré, mais l’être humain, de devenir ainsi l’esclave de son propre travail ». D’où une recommandation finale: « L’IA ne doit être utilisée que comme un outil complémentaire à l’intelligence humaine et ne doit pas remplacer sa richesse » (112).