La preuve est faite. Après deux ans d’efforts, de recherches approfondies et de collaborations entre diverses associations de défense des droits sociaux, le collectif Changer de Cap et la Quadrature du Net, ont mis au jour les rouages de l’algorithme de notation des CAF (Caisse d’Allocations Familiales). Cet algorithme cible certaines catégories d’allocataires, notamment les allocataires des minimas sociaux (RSA), les familles monoparentales et les personnes handicapés. Il leur attribue un haut score de risque. Plus ce score est élevé, plus les contrôles, souvent intrusifs, se multiplient. Cette méthode conduit à une présomption systématique de fraude envers les personnes concernées.

Cette révélation n’est pas totalement inattendue.

Ces préoccupations avaient déjà été soulevées par des observateurs et des militants de l’association « Changer de Cap » dès le printemps et l’été 2022. Néanmoins, la confirmation technique de ces pratiques discriminatoires était jusqu’ici hors de portée. Malgré les réponses publiques apportées par la CNAF en début d’année 2023, le collectif et La Quadrature du Net ont persisté dans leur démarche.

La Quadrature du Net a consacré plus d’un an à obtenir d’anciennes versions de l’algorithme en question, puis a consacré plusieurs mois à son déchiffrement. Le fruit de ce travail a été rendu public le 27 novembre dans un article complet intitulé « Notation des allocataires : l’indécence des pratiques de la CAF désormais indéniable ». La publication a suscité un tollé, atteignant plus de 428.000 vues sur les réseaux sociaux. En réponse, la CNAF s’est contentée d’adresser un communiqué à l’AFP et de réagir en mode gestion de crise sur les réseaux sociaux, qualifiant les révélations de « contre-vérités et d’approximations ».

Une « inquisition numérique »

L’affaire a pris une nouvelle tournure le 4 décembre dernier lorsque le journal Le Monde a publié une enquête en quatre volets. Les journalistes se sont penché sur les conséquences de l’algorithme de notation sur la vie des allocataires. Les contrôles de la CAF entraînent souvent une suspension automatique des droits, ce qui a souvent des répercussions graves sur le quotidien des personnes qui vivent avec des minima sociaux.

Le site international Lighthouse Report, reconnu pour son journalisme collaboratif de qualité, a également enquêté sur cette affaire, qualifiant la situation de « l’inquisition numérique en France ». L’enquête conjointe Le Monde-Lighthouse Report a nécessité six mois de travail pour les journalistes. Bien que la direction de la CNAF ait été interrogée, le ministère des Solidarités, l’une de ses tutelles, a refusé de recevoir les auteurs de l’enquête.

Comment fonctionne l’algorithme ? (...)

En conséquence, des critères pourtant protégés par la loi, tels que l’âge, le handicap ou la situation familiale, sont utilisés dans l’algorithme, conduisant à un ciblage systématique des populations les plus vulnérables.

Jusqu’à présent les parents isolés subissaient 36 % des contrôles à domicile. Portant ils ne représentent que 16 % des foyers recevant des aides. (...)

Tous les foyers qui consacrent plus de 35 % de leurs revenus à leur loyer ont un score qui augmente – qu’ils soient riches ou pauvres. La CNAF se défend de cibler les plus vulnérables. Pourtant, Les journalistes du Monde ont découvert qu’au moins sept des trente-six critères choisis pénalisent les foyers les plus précaires (...)

Pour des algorithmes publics et transparents

Cette affaire met en évidence la nécessité de revoir les pratiques entourant les algorithmes publics, y compris ceux utilisés pour le calcul des prestations sociales. Une proposition de résolution transpartisane est déjà en cours d’élaboration à l’Assemblée nationale, ce qui constitue un premier pas vers une meilleure réglementation de l’utilisation des algorithmes dans le secteur public.

La transparence des algorithmes publics, désormais considérés comme des documents administratifs, devient un impératif auquel les administrations, y compris la CAF, ne peuvent plus échapper. De plus, les allocataires doivent être clairement informés du traitement algorithmique appliqué à leur dossier, conformément au RGPD et au Code des relations entre le public et les administrations.

Il est évident que la CNAF et d’autres organismes ne peuvent plus justifier l’utilisation de tels algorithmes. (...)

La défenseure des droits saisie

Stéphane Troussel, président du Conseil départemental de la Seine-Saint-Denis, s’est appuyé sur les résultats de l’enquête du journal Le Monde pour saisir la Défenseure des Droits. (...)

ATD Quart Monde dénonce l’utilisation d’algorithmes pauvrophobes

Dans un communiqué, ATD Quart Monde souligne de son côté le fonctionnement de ces « algorithmes pauvrophobes » utilisés par la CNAF. (...)

Les conséquences de ces erreurs sont loin d’être anodines. Les familles les plus défavorisées, déjà en proie à des difficultés financières, se retrouvent injustement pénalisées. Cette situation alimente le cycle de la pauvreté et de l’exclusion sociale, allant à l’encontre des principes fondamentaux de justice sociale et d’équité.
Un appel à réformer le système

ATD Quart Monde appelle à une réforme urgente de l’utilisation des algorithmes par la CNAF. (...)