Quinze associations soulignent que vous avez plus de chances d’être contrôlé si vous êtes au chômage, bénéficiaire du RSA ou de l’allocation adulte handicapé. La Caisse d’allocations familiales plaide pour un risque d’erreur accru pour ces groupes aux histoires de vie complexes.
Publié
Mis à jour
Temps de lecture : 2min
Ils dénoncent des logiciels discriminatoires. Quinze associations ont annoncé mercredi 16 octobre avoir saisi le Conseil d’Etat pour faire interdire un algorithme utilisé par la Caisse nationale d’allocations familiales (Cnaf), censé détecter les fraudes chez les allocataires.
Les quinze associations requérantes, dont La Quadrature du Net, Amnesty International France et la Ligue des droits de l’Homme, rappellent dans leur communiqué que dans le but de lutter contre la fraude, l’algorithme de la Cnaf « attribue à chaque destinataire un score de suspicion. (…) Plus il est élevé, plus grande est la probabilité d’être contrôlé. »
Cependant, après avoir eu accès au « code source » d’une version de cet algorithme, utilisée entre 2014 et 2018, les associations affirment que « parmi les facteurs qui augmentent un score de suspicion, on retrouve notamment le fait d’avoir de faibles revenus, d’être au chômage, de bénéficier du revenu de solidarité active (RSA) ou de l’allocation adulte handicapé (AAH) ». « Les personnes en difficulté se retrouvent (DONC) surcontrôlée par rapport au reste de la population »dénoncer les requérants. Les associations ont demandé en juillet à la Cnaf de cesser d’utiliser cet algorithme, sans réponse.
Pour démontrer que l’algorithme de la Cnaf est illégal et obtenir son interdiction, les associations présentent plusieurs arguments juridiques. Selon eux, le volume de données traitées est disproportionné par rapport à la finalité de l’algorithme (ce qui violerait la règlement général sur la protection des données), l’algorithme est « traitement de données personnelles prenant des décisions automatisées » (également interdit) et il « a un effet de discrimination indirecte » envers certains groupes, résume la Ligue des droits de l’Homme dans son dossier.
Pour le directeur général de la Cnaf, Nicolas Grivel, le logiciel ne cherche qu’à « des retards de paiement importants et répétés » parmi les bénéficiaires les plus susceptibles de commettre des erreurs dans leur déclaration. Les bénéficiaires de certains minima sociaux, comme le RSA ou la prime d’activité, dont les revenus varient souvent, doivent remplir des déclarations fiscales trimestrielles aux formulaires complexes et risquent davantage de commettre des erreurs. « Si une juridiction devait prendre position pour (…) développer le système »La Cnaf démarrerait « en conformité »a assuré Nicolas Grivel à l’AFP.