Alerté de certains résultats étranges, voire dangereux, Google modifie son moteur de recherche

Google a pris des mesures pour faire évoluer son nouveau moteur de recherche AI ​​Overviews, alimenté par l’intelligence artificielle (IA) générative, après que des personnes ont signalé des réponses étranges ou potentiellement dangereuses. Le groupe a déclaré vendredi à l’AFP avoir « agi rapidement lorsque cela était justifié par nos réglementations en matière de contenu ».

Le blogueur Dare Obasanjo a notamment montré que, interrogé sur le nombre de présidents musulmans que les États-Unis ont eu, AI Overviews a répondu que Barack Obama était « considéré par certains comme le premier président musulman ». Faisant référence à cet exemple, un porte-parole de Google a expliqué que ce résultat « a violé nos politiques et nous l’avons supprimé ».

Des réponses inhabituelles et dangereuses

Un autre internaute, via son compte baptisé PixelButts sur X (ex-Twitter), a posté une capture d’écran présentant la réponse à la requête “le fromage ne colle pas à la pizza”. AI Overviews suggère, en plus de mélanger le fromage avec la sauce, d’ajouter de la colle « non toxique » avec du fromage pour le rendre plus collant. La journaliste indépendante Kristi Hines a affirmé sur X que cette réponse était inspirée d’un commentaire posté sur le réseau social Reddit il y a plus de dix ans.

Le nouveau patron du site satirique The Onion a mis en avant le lien entre certaines réponses et des contenus humoristiques mis en ligne sur sa plateforme. Parmi les exemples, AI Overview affirme que la CIA a officiellement admis avoir utilisé des surligneurs noirs. Le moteur de recherche exploite abusivement un article satirique de The Onion, selon lequel les passages illisibles dans les documents de l’agence seraient le résultat d’une erreur et non d’une volonté de cacher certains contenus.

Google « utilise ces exemples pour développer des améliorations de notre système, dont certaines ont déjà été mises en œuvre », a commenté le porte-parole. Mi-mai, Google a présenté AI Overviews, qui propose du texte écrit en réponse à une recherche et non plus seulement des liens vers des sites, comme c’était le cas jusqu’à présent. Les liens n’ont pas disparu, mais sont relégués en dessous du texte dont le contenu est à lui seul de nature à satisfaire la curiosité des utilisateurs.