Le monde du recrutement automatisé est bouleversé par cette découverte. Des chercheurs de l’Université de Washington ont mis au jour des biais importants dans le traitement des candidatures par ChatGPT, une IA largement utilisée dans le tri des CV. Cette révélation soulève des questions cruciales sur l’équité et la fiabilité de ces technologies dans le processus de recrutement.
Android 6.0.1 Marshmallow disponible pour Motorola Moto X Style
L’étude a révélé que ChatGPT classe systématiquement les CV mentionnant un handicap en dessous de la moyenne. Les chercheurs ont utilisé divers termes liés au handicap pour tester cette hypothèse. Les résultats montrent une discrimination persistante même avec des qualifications équivalentes.
Les chercheurs ont modifié un CV de référence en y ajoutant des distinctions et des honneurs qui suggéraient un handicap. ChatGPT a systématiquement dévalorisé ces CV modifiés. Ce résultat est alarmant pour ceux qui comptent sur l’IA pour un processus de recrutement juste et équitable.
Sur 60 tests, le CV original est classé premier dans 75% des cas. Ce biais favorise les CV sans mention de handicap. Cela pose un dilemme aux candidats handicapés : mentionner ou non leur handicap sur le CV ?
iPhone 12 Pro vs Samsung Galaxy Note 20 Ultra : quel est le smartphone le plus rapide ?
En effet, même dans un processus de sélection anonymisé et automatisé, des biais persistent. Cette situation est préoccupante pour l’inclusion et l’équité dans le monde du travail.
| 🔍Résumé | Détails |
|---|---|
| 📉 Biais de classement | Les CV mentionnant un handicap sont systématiquement dévalorisés par ChatGPT |
| 🔬 Méthodologie | Utiliser des CV modifiés pour tester les réactions de l’IA |
| 📊 Résultats | Le CV original sans mention de handicap est privilégié dans 75% des cas |
ChatGPT peut « halluciner » des justifications capacitistes. Ces hallucinations peuvent nuire à la candidature en basant les jugements sur des hypothèses erronées concernant les capacités d’un candidat.
Google I/O 2016 : le tirage au sort commence aujourd’hui
Les chercheurs ont noté que ces biais peuvent être atténués en ajustant les instructions de l’IA. Cependant, des résultats variables persistent selon le handicap mentionné, soulignant la complexité du problème.
Pour résumer l’étude :
Ce n’est pas une première pour les modèles GPT d’OpenAI. Une précédente enquête avait déjà montré de nettes préférences raciales dans le tri des CV. OpenAI avait alors contesté en affirmant que les tests ne reflétaient pas les usages pratiques.
Cette nouvelle étude confirme que les biais ne sont pas anecdotiques. Ils mettent en évidence un problème systémique dans l’utilisation de l’IA pour des tâches aussi cruciales que le recrutement.
Les résultats de cette étude devraient inciter les entreprises à reconsidérer l’utilisation de l’IA dans leurs processus de recrutement. Comment garantir un système plus juste et plus inclusif pour tous les candidats ?
Football : Brest domine le Sturm Graz et remporte sa première victoire en Ligue des ChampionsL'équipeBrest-Sturm Graz : pour son…
Avec la baisse des températures et l'arrivée de la pluie vendredi, le Portugal espère mettre un terme aux incendies qui…
Ce mardi 17 et mercredi 18 septembre, plusieurs centaines d'appareils de transmission (bipeurs et talkies-walkies) ont explosé au Liban et…
L'AS Monaco a battu le Barça (2-1) ce jeudi en match d'ouverture de la Ligue des champions. Un succès décroché…
Par Caroline Perrin | Journaliste L'Obélix de la presse people, elle est tombée dedans quand elle était petite et n'a…
La nouvelle ravira les consommateurs, mais pas les épargnants : gelé depuis plus d'un an, le taux d'intérêt annuel du…