CAF et numérique : des algorithmes qui prêtent à débat

Bonjour,

Alors que la généralisation des démarches en ligne s’accompagne avant tout d’une réduction des capacités d’accueil physique, mode de contact pourtant essentiel pour les personnes en situation de précarité, c’est à un algorithme que la CAF laisse le soin de prédire quels allocataires seraient dignes ou pas de confiance.

La CAF a recours à un algorithme de scoring qui donne une note à chaque allocataire en fonction du risque qu’il bénéficie indûment d’aides sociales. 

Ainsi, nourri des centaines de données dont la CAF dispose sur chaque allocataire, l’algorithme en question évalue en continu leur situation afin de les classer, les trier, via l’attribution d’une note -le score de risque-, qui, mise à jour mensuellement, est ensuite utilisée par les équipes de contrôle de la CAF pour sélectionner quels allocataires devront faire l’objet d’un contrôle approfondi.

Parmi les éléments que l’algorithme associe à un risque élevé d’abus, et impactant donc négativement la note d’un allocataire, on trouve le fait : 

– D’avoir des revenus faibles,

– D’être au chômage ou de ne pas avoir de travail stable,

– D’être un parent isolé (80% des parents isolés sont des femmes), 

– De dédier une part importante de ses revenus pour se loger,

– D’avoir de nombreux contacts avec la CAF (pour ceux qui oseraient demander de l’aide).

D’autres paramètres comme le lieu de résidence, le type de logement (social…), le mode de contact avec la CAF (téléphone, mail…) ou le fait d’être né hors de l’Union Européenne sont utilisés sans que l’on ne sache précisément comment cela affecte la note.

Ne serait-ce pas discriminant ?

De plus,  le numérique a modifié en profondeur le contrôle lui-même, désormais tourné vers l’analyse des données personnelles des allocataires, dont le droit d’accès octroyé aux contrôleurs est devenu tentaculaire : accès aux comptes bancaires, données détenues par les fournisseurs d’énergie, les opérateurs de téléphone, les employeurs, les commerçants et bien sûr les autres institutions (Pôle emploi, les impôts, les caisses nationales de la sécurité sociale…): le contrôle s’est transformé en une véritable mise à nu numérique.

Article entier

ça me semble une bonne idée d'avoir des outils de contrôle

ça dépasse de légitimes controles !!

ça ressemble plus à un systéme totalitaire !

il y a 22 minutes, Doïna a dit :

Ne serait-ce pas discriminant ?

l'algorythme ne fait que détecter mécaniquement ce que nous détections "à la main" avant (j'ai bossé 43 ans en caf).

Et malheureusement, on tombait à 60 % juste; fraudes, oublis, etc... donc indus;

je sais pas ce que détecte l'algomachin au niveau fraude, mais nous on "sentait" : il y avait (contrairement à l'idée reçue) pas mal de contrôles à la suite de nos détections.

il y a une heure, Doïna a dit :

Ne serait-ce pas discriminant ?

Bien sûr que c'est discriminant. Etablir des profils à contrôler, par définition c'est déjà discriminer. Tout comme choisir quelqu'un à embaucher, c'est déjà discriminer (puisqu'on fait des choix selon des critères). Discriminer c'est établir une différence entre des personnes sur des critères.

Tant que les critères restent dans la mesure du possible objectifs, je ne vois pas le problème. Contrôler les gens de manière aléatoire, sans "discriminer",  c'est totalement inefficace. Il y a plus de 10 millions d'allocataires de la caf et infiniment, infiniment, infiniment moins de contrôleurs. A un moment, il faut dégager des profils si tu veux choper plus de tricheurs.

Tu te doutes bien que des cadres en couple gagnant très bien leur vie, avec un emploi stable, ont beaucoup moins tendance à chercher à gruger pour quelques centaines d'euros. Il y en a, c'est sûr.
Mais beaucoup moins que d'autres catégories. Pas parce qu'ils sont plus honnêtes, mais simplement parce qu'ils n'en ont pas besoin.

Quelque part, il est normal que la CAF fasse des contrôles pour lutter contre la fraude car des fraudeurs, il y en a c'est indéniable. Tous les gens qui habitent dans des logements collectifs en connaissent car certains ne sont pas discrets. Là où le bât blesse c'est quand c'est la CAF qui fabrique les fraudeurs. mais nous on "sentait" nous explique @BELUGAseulement voilà, le pifomètre n'est pas un instrument de mesure. Huit ans, c'est le temps que ça m'a pris pour que la CAF se foute le pif dans le cul. Sans jamais prononcé ni écrire le mot fraudeur, j'ai été traité comme tel car il y a un traitement particulier pour les fraudeurs, des retenues qui sont normalement interdites, le sont en cas de fraude avérée. J'ai fini par les coller au tribunal avec un argumentaire qui a du les laisser béats. Je dénonçais toutes les violations de lois dont ils ont usé. Ils sont allés, outre leurs mensonges éhontés, les tentatives d'intimidation même au téléphone, jusqu'à faire de la rétention de courrier. Ils ne se sont même pas déplacés au tribunal et ils ont donc perdu. La seule ouverture qu'ils avaient c'était de m'attaquer sur le fond c'est à dire qu'il aurait fallu qu'ils écrive le mot fraudeur. Ils ne le feront pas, les délais sont passés.

Discriminante la CAF, ô que oui. J'ai trouvé une discrimination au niveau des APL et des retraités et ça dans l'algorithme de calcul. Dans ce document d'une bonne centaine de pages, pas une fois, il n'est fait référence à des termes comme retraite, pension etc. Pourtant, vous pouvez le constater vous-même, vous faites le calcul de l'APL sur leur simulateur avec des ressources assez basses. Vous le faites une fois en ayant 40 ans et une fois en ayant 65 ans avec les mêmes ressources etc. La différence entre les deux résultats est assez édifiante.

J'ai pas mal discuté avec le délégué du Défenseur des Droits à Montreuil et il m'a expliqué une chose. Mon cas est loin d'être isolé et ne se cantonne pas à la CAF 93. Ils comptent sur l'épuisement des allocataires qui, dans plus de 80% des cas n'osent pas se défendre. Parmi ceux qui se défendent, beaucoup cèdent en cours de route et c'est tout bénef pour eux. Ça fait gonfler leur taux de réussite dans la chasse aux fraudeurs.

J'oubliais une petite remarque qui vaut son pesant d'or. Si la CAF vous réclame un indu que vous estimez injustifié, faites une réclamation. Une dame ou un monsieur charmant va vous recevoir et sera très attentif à votre demande, elle ou il sera même suffisamment compréhensif vous vous faire faire une demande de remise gracieuse partielle ou totale de l'indu. Ne le faites surtout pas. Si vous signez ça, au regard de la loi vous reconnaissez avoir une dette envers la CAF et vous êtes piégé. Cette demande de remise équivaut légalement à une reconnaissance de dette.

il y a 35 minutes, Frank_N a dit :

La différence entre les deux résultats est assez édifiante.

sauf que ce ne sont pas les caf qui décident de ce qu'elles paient, mais l'état qui décrète les taux et les calculs à apposer aux allocataires; les caf, elles appliquent, bêtement...

Il y a 2 heures, Doïna a dit :

Parmi les éléments que l’algorithme associe à un risque élevé d’abus, et impactant donc négativement la note d’un allocataire, on trouve le fait : 

– D’avoir des revenus faibles,

– D’être au chômage ou de ne pas avoir de travail stable,

– D’être un parent isolé (80% des parents isolés sont des femmes), 

– De dédier une part importante de ses revenus pour se loger,

– D’avoir de nombreux contacts avec la CAF (pour ceux qui oseraient demander de l’aide).

D’autres paramètres comme le lieu de résidence, le type de logement (social…), le mode de contact avec la CAF (téléphone, mail…) ou le fait d’être né hors de l’Union Européenne sont utilisés sans que l’on ne sache précisément comment cela affecte la note.

Ne serait-ce pas discriminant ?

Le but d’un système de contrôle c’est d’être discriminant . Sinon il est inefficace.

Une étude statistique permet facilement de faire une liste des paramètres pertinents , ou une base d’apprentissage.

Bonjour

En fait ? l'IA " intelligence artificielle" devra " s'humaniser"? elle sera certainement capable de tout faire, mais comprendre les sentiments?

Bonne journée

il y a 28 minutes, BELUGA a dit :

sauf que ce ne sont pas les caf qui décident de ce qu'elles paient, mais l'état qui décrète les taux et les calculs à apposer aux allocataires; les caf, elles appliquent, bêtement...

Dans ma diatribe contre la CAF, je ne visais en aucun cas l'ensemble du personnel qui, j'en suis convaincu, fait son travail correctement. Par contre, il y a quelques zélateurs qui font que la CAF, dans son ensemble, passe pour une machine à broyer.

La CAF a toujours eu des problèmes informatiques parce qu'ils s'y prennent comme des manches. On parle toujours du logiciel de la CAF alors qu'en fait il y en a plusieurs qui ne sont pas fichus de communiquer entre eux. Quand un employé de la CAF rentre une information dans le système, celle-ci ne sera pas forcément répercutée aux différents services concernés. Si ce type de dysfonctionnement affecte les allocataires, il en va de même pour le (ou les) logiciels qui gère(nt) le personnel. La faute à qui? A quelques décisionnaires qui ont préférés confier le développement à plusieurs sociétés qui ont bossé chacune de leur côté sans se soucier de ce qui pouvait se passer à côté. Pour bien faire, il faudrait remettre à plat tout le système ce qui coûterait une fortune. A chaque décision politique impactant le mode de calcul, on colle des emplâtres qui, à force, rende le système ingérable. La CAF ne dispose pas d'un service informatique digne de ce nom ce qui est dommageable.

Il y a 1 heure, Frank_N a dit :

La CAF a toujours eu des problèmes informatiques parce qu'ils s'y prennent comme des manches.

tout à fait d'accord: depuis que les caf utilisent l'informatique (j'ai connu les dossiers "papiers"..), c'est du grand n'importe quoi, et apparemment ça n'a pas changé.

Il y a 1 heure, Frank_N a dit :

Dans ma diatribe contre la CAF, je ne visais en aucun cas l'ensemble du personnel qui, j'en suis convaincu, fait son travail correctement. Par contre, il y a quelques zélateurs qui font que la CAF, dans son ensemble, passe pour une machine à broyer.

Absolument. On retrouve ça, aussi, dans les rapports aux collègues. Ce ne serait pas (trop) grave si ça se jouait seulement en interne, mais il se trouve que ça a un impact très négatif sur le service rendu aux allocataires. Forcément.

Bref, pour résumer, la CAF contrôle davantage ceux... qui dépendent le plus de la CAF.

Par contre des fraudeurs qui profitent à droite à gauche mais sont moins dépendants, eux, ont bien davantage de possibilité de passer au travers des mailles du filet.

Bref, mécaniquement, on contrôle les plus précaires. Mais le plus choquant, c'est qu'on ne contrôle du coup quasiment qu'eux. Alors que socialement, c'est peut être ceux pour qui une fraude est presque plus "tolérable".

Personnellement, je trouve la démarche du profilage peu éthique. Il vaudrait davantage se baser sur des types de fraude, et voir des critères qui font ressortir les comportements de ce type. Mais pas directement sur le profil de l'assuré dans l'absolu.

Est-ce qu'avant il n'y avait pas déjà des algorithmes pour décider qui toucherait ou non des allocations ? Sauf que ces algorithmes, au lieu d'être numériques étaient fait d'employés de la CAF qui cochaient des cases selon des critères précis. Critères sans doute pondérés qui produisaient une note finale permettant d'attribuer plus ou moins d'allocation à chaque demandeur.

Il y a 3 heures, Pheldwyn a dit :

Mais le plus choquant, c'est qu'on ne contrôle du coup quasiment qu'eux. Alors que socialement, c'est peut être ceux pour qui une fraude est presque plus "tolérable".

encore la culture de l'excuse si chère à la gauche

Il y a 16 heures, Pheldwyn a dit :

Personnellement, je trouve la démarche du profilage peu éthique. Il vaudrait davantage se baser sur des types de fraude, et voir des critères qui font ressortir les comportements de ce type. Mais pas directement sur le profil de l'assuré dans l'absolu.

Tout à fait ok avec toi.

Il y a 16 heures, Placid88 a dit :

encore la culture de l'excuse si chère à la gauche

Ce que tu appelles excuse est de l'humanisme.

Ensuite, en l'occurrence, là on parle d'un système qui laisse volontairement filer certains puisqu'il ne cible qu'une catégorie. Tu approuves ?

il y a 8 minutes, Pheldwyn a dit :

Ensuite, en l'occurrence, là on parle d'un système qui laisse volontairement filer certains puisqu'il ne cible qu'une catégorie. Tu approuves ?

oui, j'approuve les contrôles et les sanctions si il y a fraude

il y a 5 minutes, Placid88 a dit :

oui, j'approuve les contrôles et les sanctions si il y a fraude

Ce n'est pas la question que je te posais et ce n'est pas le sujet.

Approuves tu que les contrôles ne concernent qu'un profil d'assurés, les plus précaires, et laisse tranquille de fait d'éventuel fraudeurs qui ne correspondent pas à ces profils ?