Amnesty International alerte sur les menaces liées aux technologies, notamment l’intelligence artificielle

L’ONG craint notamment que le recours à l’intelligence artificielle n’accélère l’effondrement de l’État de droit et n’entraîne de plus grandes violations des droits humains. Elle recommande d’accélérer la régulation de ces nouvelles technologies.

Dans son rapport annuel, Amnesty International alerte, mercredi 24 avril, sur le « menaces liées aux technologies existantes et nouvelles, dont l’intelligence artificielle ». L’ONG regrette que rien ne soit « conçu pour éviter que l’intelligence artificielle, qui se développe à une vitesse vertigineuse, ne crée un terrain fertile pour le racisme, la discrimination et la division ».

Amnesty International considère cette question d’autant plus importante que 2024 est une année « des élections majeures » avec l’élection présidentielle russe, les élections européennes et l’élection présidentielle américaine. Les réseaux sociaux sont particulièrement ciblés par l’organisation, notamment en raison de leurs algorithmes qui « amplifier la haine, la discrimination et la désinformation ». « Ils créent une boucle de rétroaction infinie et dangereuse », fustige la secrétaire générale de l’organisation Agnès Callamard. Il souligne également le fait que « Les outils d’aujourd’hui peuvent générer des images virtuelles, des enregistrements audio et des vidéos en quelques secondes, ainsi que cibler des publics spécifiques dans des groupes entiers. ».

L’État de droit et les droits de l’homme menacés

L’ONG estime que « l’effondrement de l’État de droit risque de s’accélérer avec le développement rapide de l’intelligence artificielle ». Il craint que cette évolution« couplé à la domination des géants de la haute technologie » ne mène pas « une augmentation des violations des droits de l’homme si les réglementations sont à la traîne ».

« Dans un monde de plus en plus insécurisé, la prolifération et le déploiement non réglementés de technologies telles que l’IA générative, la reconnaissance faciale et les logiciels espions sont en passe de devenir un ennemi pernicieux, entraînant une augmentation sans précédent des violations de données. droits de l’homme et droit internationalcraint Agnès Callamard, secrétaire générale d’Amnesty.

Amnesty International pointe du doigt « l’utilisation incontrôlée de technologies nouvelles ou familières », « couramment utilisée comme arme par des acteurs militaires, politiques et corporatifs ». L’ONG considère également que cela a favorisé « mépris de la loi, discrimination et impunité dans les conflits et ailleurs ». Si elle accuse certains « des plateformes de géants technologiques (pour alimenter) les conflits »l’organisation veille à ce que les gouvernements « déployer des outils automatisés ciblant les groupes les plus marginalisés de la société ».

« Les technologies, nouvelles et anciennes, sont de plus en plus utilisées par ces forces politiques répressives pour propager la désinformation, dresser les communautés les unes contre les autres et attaquer les minorités. »

L’organisation souligne également « l’utilisation massive des technologies existantes pour soutenir des politiques discriminatoires ». Elle mentionne notamment « Argentine, Brésil, Inde et Royaume-Uni ». Elle précise, dans son rapport, que ces Etats « se tournent de plus en plus vers les technologies de reconnaissance faciale pour contrôler les manifestations et les événements sportifs et pour discriminer les populations marginalisées, en particulier les migrants et les réfugiés. ».

La menace change d’échelle

Amnesty International déplore l’absence de réglementation des logiciels espions qui, insiste-t-elle, « entraîner des violations des droits fondamentaux, visant notamment les militants en exil, les journalistes et les défenseurs des droits humains ». L’ONG évoque ainsi le cas de « Le logiciel espion Pegasus utilisé contre des journalistes et des militants de la société civile » en Arménie, en Inde, en République dominicaine et en Serbie. « D’ici 2023, l’évolution rapide de l’IA générative a accru la menace posée par la gamme de technologies déjà existantes – des logiciels espions à l’automatisation des services publics en passant par les algorithmes incontrôlables des réseaux sociaux. »ajoute l’organisation.

L’ONG salue néanmoins l’adoption, en février, par l’Union européenne de « Réglementation des services numériques ». Elle considère que ce règlement « C’est le signe que les législateurs européens commencent à agir ». « Bien qu’imparfait et incomplet, ce texte a eu le mérite d’ouvrir un débat essentiel sur la régulation de l’IA »soutient Amnesty.