"Organiser, en toute impunité, la répression de populations entières, et en particulier des plus vulnérables": France Travail teste un outil d'IA, déjà décrié, pour savoir quels chômeurs contrôler en priorité

Publié aujourd'hui à 13h42

L'association La Quadrature du Net a eu accès à un document révélant que France Travail développe un algorithme de profilage pour prédire quels chômeurs sont susceptibles de manquer à leurs obligations de recherche d'emploi.

Un secret que France Travail aurait sans doute bien aimé garder pour lui. L'association La Quadrature du Net a partagé le 20 juillet un document révélant que l'ancien Pôle Emploi développe un algorithme de profilage des chômeurs à des fins de contrôle. Conçu pour "identifier les dossiers nécessitant un examen approfondi" et "alimenter automatiquement de contrôle de la recherche d'emploi", il a été présenté au comité d'éthique IA de l'organisme le 10 décembre dernier.

Autrement dit, cet algorithme prédit quels chômeurs sont susceptibles de manquer à leurs obligations de recherche d'emploi, en se basant sur la construction de profils "suspects/non suspects". Cette construction repose elle-même sur l'analyse de 60.000 contrôles passés. France Travail a ainsi reconstruit les parcours des chômeurs à partir de 26 variables relatives aux "activités déclarées", l"'historique des manquements" (reports de rendez-vous, absence à une prestation...) ou encore l'"ancienneté d'inscription".

Ces informations sont exploitées par l'algorithme qui assigne un profil "suspect" ou "non suspect" à chaque personne inscrite. Dans le premier cas, le demandeur d'emploi est alors placé sur une liste de personnes prioritaires à contrôler.

Biais de sélection amplifiés

Si La Quadrature du Net a eu accès à la liste de ces variables, elle déplore le fait de ne pas connaître les règles utilisées dans la construction des profils. "Nous ne sommes donc pas en mesure de déterminer, via des simulations, quelles populations sont les plus ciblées par cet outil", a précisé l'association.

Une information qui aurait été utile, surtout au vu des éléments partagés par France Travail dans son document. Après avoir testé son algorithme, l'organisme a remarqué qu'il amplifiait des biais de sélection à cause de certaines variables. "Nous avons identifié que le modèle pouvait favoriser le contrôle des demandeurs d'emploi ayant les plus faibles revenus", révèle-t-il. Raison pour laquelle il a retiré la variable "Salaire journalier de Référence". France Travail indique également avoir corrigé "un biais existant sur la variable 'Niveau de formation'".

Automatiser toute la chaîne de contrôle de l'emploi

Le manque de transparence concernant les règles de classification de l'outil n'est cependant pas le seul problème. "Ces algorithmes sont dangereux en eux-mêmes, car ils sont des outils particulièrement efficaces pour organiser, en toute impunité, la répression de populations entières, et en particulier des plus vulnérables", pointe La Quadrature du Net, faisant référence aux systèmes similaires utilisés par la Caisse nationale d'allocations familiales (Cnaf) et la Caisse nationale de l'Assurance maladie (Cnam).

France Travail se targue pourtant de supprimer les a priori en proposant "des dossiers à contrôler sur la base de critères objectifs" grâce à l'IA. "Ce que l'on observe ici c'est la transformation d'un problème politique - le choix des critères de sélection des personnes à contrôler - en un problème purement technique. Cette dépolitisation s'accompagne d'une délégitimation de la critique des politiques de contrôle, puisque ces dernières sont désormais censées être 'neutres' et 'objectives'', a dénoncé La Quadrature du Net.

placeholder video

L'association reproche également à France Travail d'avoir ignoré toutes ses demandes d'accès au code des IA qu'il utilise. L'outil de profilage s'ajoute en effet à d'autres systèmes sur lesquels l'organisme mise déjà pour proposer des offres d'emplois à des usagers par message ou aider ses conseillers dans leurs tâches quotidiennes.

"Ce qui se dessine, c'est la volonté d'automatiser l'ensemble de la chaîne de contrôle afin de répondre aux objectifs gouvernementaux de massification des contrôles, dont le nombre est passé de 200.000 en 2017 à 730.000 en 2025. En 2027, l'objectif fixé par le gouvernement est d'en réaliser 1,5 million", a alerté l'association.

"Mais c'est du côté de l'IA générative que les risques les plus importants existent aujourd'hui", a-t-elle fait valoir. Car avec France Travail qui a de plus en plus recours à l'IA, le risque est de finir avec un système qui suggère aux contrôleurs quelle décision prendre. "Ce serait une étape décisive vers une automatisation totale du contrôle de la recherche d'emploi et la possibilité de massifier, à moindre coût, le contrôle et la surveillance des millions de personnes inscrites à France Travail", met en garde La Quadrature du Net, exhortant l'organisme à changer de politique.

En attendant, l'algorithme a été testé sur les profils de personnes en situation de rupture conventionnelle, mais l'ancien Pôle emploi veut étendre son utilisation à d'autres publics afin "d'alimenter automatiquement l'outil de contrôle et transmettre chaque mois des listes de contrôle ciblés", a fait savoir l'association. Avec toutes les personnes inscrites au RSA, qui sont tenues de s'inscrire depuis le 1er janvier, plus de six millions d'individus courent ainsi le risque d'être profilé chaque mois par l'algorithme.