Après la CAF, critiquée pour son algorithme de notation des allocataires jugé discriminatoire, c’est au tour de France Travail de voir son nouveau système d’évaluation des demandeurs d’emploi remis en cause. La Quadrature du Net monte au créneau.
France Travail utilise désormais des algorithmes pour gérer les candidatures. Ce système basé sur l’IA utilise des scores de suspicion et des scores d’employabilité, censés évaluer l’honnêteté et l’attractivité des chômeurs sur le marché du travail. Cette méthode de profilage algorithmique vise, selon Pôle emploi, à optimiser le travail des conseillers.
Il convient de noter que le score d’employabilité est défini comme la capacité d’un individu à progresser de manière autonome sur le marché du travail, en fonction de ses connaissances, de ses qualifications et de son comportement professionnel. De son côté, le score de suspicion sert à évaluer les chômeurs sur la base d’un score de suspicion de fraude utilisant des éléments tels que les heures de travail, les salaires perçus, les condamnations, ainsi que les sanctions administratives ou pénales.
Mais cette méthode basée sur l’utilisation croissante d’algorithmes est vivement critiquée par l’association de défense des droits numériques, estimant qu’elle soulève de graves questions éthiques. Représentant une forme de surveillance de masse, cette méthode peut entraîner un risque de déshumanisation dans le traitement des candidatures à un emploi, estime La Quadrature du Net, qui ajoute que dans ce processus de recherche d’emploi, les chômeurs sont considérés et traités comme des ensembles de données, plutôt que comme des citoyens dotés de droits.
L’association exprime également ses vives inquiétudes quant aux conséquences de l’utilisation de l’IA et de ses classifications automatiques sur les demandeurs d’emploi. Cela pourrait, explique-t-elle, conduire à une stigmatisation et une uniformisation de l’accompagnement des chômeurs.
Ce système de catégorisation des personnes en situation de « perte de confiance », « ayant besoin de revitalisation » ou « à risque de dispersion » peut conduire à une simplification excessive de la complexité des parcours individuels. Pour La Quadrature du Net, c’est la personnalisation de l’accompagnement, nécessaire à l’efficacité de l’aide apportée, qui doit primer sur ces étiquettes algorithmiques déterminant les opportunités et le type d’assistance proposée, plutôt que les besoins réels et spécifiques de chacun.
France Travail se défend et estime que sa méthode ne remplacera pas le travail des conseillers
De son côté, réagissant aux critiques de La Quadrature du Net, le directeur général de France Travail, Thibaut Guilluy, explique que le recours aux algorithmes vise à accompagner et non à remplacer le travail des conseillers. Ces mécanismes doivent permettre une aide à la décision, libérant ainsi du temps pour un accompagnement personnalisé. Thibaut Guilluy a également évoqué une charte éthique dont l’objectif est de garantir un cadre de confiance respectueux des valeurs de France Travail.
Une charte qui ne convainc pas la Quadrature du Net, qui estime que son efficacité reste à prouver sur le terrain, avec notamment la nécessité de distinguer la mission légale de contrôle de la surveillance à outrance. Cela appelle à une vigilance constante pour éviter des intrusions excessives dans la vie des personnes, relève l’association de défense des droits numériques.
La Quadrature du Net critique également les nouvelles méthodes de sanction évoquées par le directeur de France Travail, comme la « suspension remobilisation ». Cette automatisation des décisions de sanction appliquées sans discernement humain, même présentée sous forme de méthodes de motivation, risque d’avoir un impact néfaste sur les populations en situation de précarité.
