Mauvaise Note

Association incontournable du paysage numérique français, la Quadrature du Net mène un certain nombre d’actions militantes pour défendre les droits fondamentaux des usagers français d’internet. 
Dernière action en date, la publication du code source de l’algorithme de notation utilisé par la Caisse d’Allocation Familiale pour évaluer la probité des usagers du service public. 

Des effets concrets sur les précaires. 
L’association a entamé son action depuis 2021 en travaillant notamment sur « les effets de la dématérialisation et de l’utilisation du numérique par les administrations » qu’elle considère être une forme de contrôle social. D’après la Quadrature, l’étude de l’algorithme montre que des critères discriminants sont employés dans l’algorithme pour cibler des publics particulièrement précaires supposément plus enclins à la fraude que d’autres publics.

Entre autres, le fait d’avoir de faibles revenus, d’habiter dans un quartier défavorisé, d’avoir un loyer trop élevé par rapport à ses revenus, ou même de bénéficier de l’Allocation Adulte Handicapé (AAH) tout en travaillant peut pénaliser les demandeurs d’aide. Les familles monoparentales (dont 80 % sont des femmes) sont également particulièrement impactées par le dispositif. 

Toujours d’après l’association, les critères associés au calcul des « scores de risques » ne sont jamais détaillés et restent opaques pour la plupart des contrôleurs qui semblent se laisser porter par l’algorithme. 

Risques de dérives
Cet algorithme, loin d’être neutre, révèle, selon la Quadrature, une politique sécuritaire, intrusive et biaisée qui s’immisce dans la vie des populations les plus faibles pour « détecter des fraudes ». Même si sur l’année 2021-2022, celles-ci ont augmenté de 14 %, elles ne représenteraient que 351 millions*¹ d’euros contre un minimum de 5,5 milliards pour la fraude réalisée par les entreprises. Par ailleurs, ces algorithmes ne sont pas exsangues de problèmes. L’an dernier aux pays bas, un algorithme a ruiné des dizaines de milliers de famille en réclamant des sommes indues, souvent précaires. L’état serait incapable de réparer les dommages. 

1. Pour rappel 1 million de secondes correspond à 11,5 jours et 1 milliard de secondes correspond 31,4 ans ↩︎