Algorithme de la CAF : un crédit social digne de la Chine ?

Vous êtes un parent isolé, êtes au chômage, bénéficiez de l’AAH tout en travaillant, habitez un quartier défavorisé, alors vous êtes suspect.

Après plusieurs mois de bataille, les associations et collectifs la Quadrature du Net, Stop Contrôles et Changer de Cap ont obtenu le code source de deux modèles algorithmiques utilisés par les Caisses d’Allocations Familiale entre 2010 et 2018. La Quadrature l’a rendu public.

Les associations dénoncent l’usage de tels modèles, qui traitent les données de près de la moitié de la population française pour assigner ensuite aux bénéficiaires d’aides sociales ce que la Quadrature qualifie de « score de suspicion ».

Le but, pour la Caisse Nationale d’allocation familiale : estimer quel allocataire est susceptible de frauder, et effectuer les contrôles qui permettent d’éviter les paiements indus.

En pratique, le système assigne à chaque allocataire un score variant de 0 à 1. Lorsque celui-ci dépasse un certain seuil, en se rapprochant du 1, il déclenche une procédure de contrôle. Or, l’analyse des algorithmes révèle que certains éléments sont plus susceptibles que d’autres de faire grimper le score de risque : le fait d’être au chômage, au RSA, le quartier d’habitation (s’il est « défavorisé »), le fait d’être un parent isolé – ce qui, dans 80 % des cas, concerne des femmes – augmentent significativement le risque d’être suspecté de fraude. Enfin, l’un des éléments susceptibles de faire grimper le plus fortement le score est le fait de bénéficier de l’Allocation Adulte Handicapé (AAH) alors que la personne exerce un emploi.

https://next.ink/118023/les-questions-soulevees-par-lalgorithme-de-notation-de-la-caf/