Quand l’algorithme joue au jeu masculiniste

Un algorithme pourrait-il devenir féministe un jour ? Peut être. En tout cas, pour l’instant, celle de Facebook et Instagram (du groupe Meta) est misogyne et sexiste. Ceci s’explique par une étude de plusieurs journalistes australiens qui se sont penchés sur le sujet. Et la conclusion est plutôt inquiétante.

Afin d’analyser l’impact des algorithmes sur notre utilisation des réseaux sociaux, un groupe d’étude a décidé de créer plusieurs faux profils de jeunes hommes de 24 ans sur Instagram et Facebook. L’intention était d’observer quel type de contenu serait initialement présenté à ces nouveaux utilisateurs totalement neutres.

Ces comptes imaginaires n’ont pas été en premier contact avec les plateformes. Les chercheurs ont utilisé des téléphones portables non liés à des comptes précédents. Et les résultats sont sans appel : pour ces primo-utilisateurs d’Instagram et de Facebook, l’algorithme leur propose en trois jours des contenus stéréotypés, puis sexistes et misogynes. Et tout cela, gratuitement et sans effort.

« Leurs propres choix »… Ou pas

Dans sa soumission à l’enquête du Parlement fédéral sur les médias sociaux, Meta a déclaré qu’elle utilisait « une gamme d’algorithmes différents » pour aider à classer le contenu affiché dans les flux sur Facebook et Instagram, certains aidant « à comprendre quel contenu est le plus significatif pour les gens afin que nous puissions peuvent le commander en conséquence dans leurs flux », comme indiqué Le Gardien.

Meta a déclaré que ce que les gens voient est « fortement influencé par leurs propres choix et actions » et que « le flux de chaque personne est hautement personnalisé et spécifique ». « Notre système de classement personnalise le contenu de plus d’un milliard de personnes et vise à montrer à chacun d’entre eux le contenu que nous espérons le plus précieux et le plus significatif, chaque fois qu’il visite Facebook ou Instagram. »

Un amplificateur de réalité

Pourtant… Selon des tests réalisés en Australie, l’algorithme part d’un biais sexiste dès l’inscription. Sur Instagram, la rubrique « explorer » n’attend pas de connaître les goûts de l’utilisateur pour montrer des images de femmes nues ou des profils dégradant l’image de la femme. Mais le groupe Meta n’est pas le seul, TikTok et YouTube diffusent également des contenus plus préjudiciables pour certains groupes : les minorités.

TikTok, Instagram et Facebook reflètent la société et exacerbent les problèmes : ils sont dominés par des hommes blancs, mis en évidence grâce à des algorithmes. L’algorithme reflète souvent des préjugés sociétaux persistants et renforce les stéréotypes existants. « Les réseaux sociaux sont un amplificateur de société. S’il y a de plus en plus de jeunes femmes progressistes, il y a aussi de plus en plus de jeunes garçons rétrogrades », explique Anaïs Loubère, spécialiste des réseaux sociaux.

Mais pour diffuser du contenu sexiste, il faut du contenu sexiste, alors… à qui la faute ? L’œuf ou la poule ? « Les mas ont bien compris comment buzzer sur le dos des femmes, et l’algorithme cherche à vendre… donc on va mettre en avant des contenus qui font réagir et malheureusement ce ne sont que rarement des publications mignonnes et sympas qui ne font de mal à personne. Entre les récits sexistes et l’algorithme, c’est finalement un effet boule de neige. Et derrière, il y a les utilisateurs qui en profitent », résume Emmanuelle Patry, fondatrice de Social Media Lab.

Il faut alors aussi éduquer les algorithmes en plus des garçons pour faire avancer la société et non pas la reculer.