Photo : agence France Travail de Nantes Malakoff, Kalepom, CC0, via Wikimedia Commons.
Utiliser une IA pour lire plus vite un dossier, pourquoi pas. L'utiliser pour contrôler 400 000 chômeurs de plus sans un agent de plus, c'est autre chose : c'est confier à une machine qui se trompe la première lecture de la vie de millions de personnes. France Travail doit ralentir, publier ses règles et attendre que le droit européen soit prêt.
Ce que l'on sait
Jeudi 23 octobre, La Quadrature du Net, association de défense des libertés numériques, a publié un document interne de France Travail. On y apprend que l'opérateur public de l'emploi teste une IA générative, du même type que ChatGPT, pour les équipes chargées du contrôle de la recherche d'emploi. Ce contrôle vérifie qu'une personne inscrite cherche bien du travail, et il peut aboutir à une suspension des allocations, voire à une radiation.
Concrètement, l'outil avale le dossier d'une personne contrôlée (situation administrative, comptes rendus d'entretiens, pièces fournies) et en tire une synthèse avec des points d'attention. Pour l'instant, il ne déclenche pas de contrôle et ne contacte personne : c'est le conseiller qui décide. Mais l'objectif chiffré est clair. France Travail vise 1,5 million de contrôles en 2027, contre environ 1,1 million en 2026, à effectifs constants. Et le document évoque, d'ici 2030, la « systématisation des contrôles ».
Ce n'est pas un cas isolé. En juillet, la même association avait déjà révélé un algorithme de profilage, entraîné sur des dizaines de milliers de contrôles passés, qui classe les inscrits selon leur probabilité de ne pas chercher assez. Or depuis le 1er janvier 2026, les allocataires du RSA sont eux aussi inscrits à France Travail : plus de six millions de personnes sont potentiellement concernées.
Le camp des optimistes : l'IA comme copilote
La défense de France Travail tient en trois mots : gagner du temps, harmoniser, tracer. Un contrôleur passe une bonne partie de sa journée à reconstituer un dossier éparpillé dans plusieurs logiciels. Si une machine fait ce travail de collecte en quelques secondes, l'agent peut se concentrer sur l'échange avec la personne. Le ministère du Travail rappelait d'ailleurs en septembre, en réponse à un sénateur, que le contrôle sert aussi à remobiliser des demandeurs en décrochage, pas seulement à sanctionner.
Cet argument a des appuis sérieux. Ethan Mollick, professeur à la Wharton School et l'un des observateurs les plus suivis de l'IA au travail, a co-signé en 2023 une étude avec le Boston Consulting Group : des consultants équipés de GPT-4 allaient plus vite et produisaient un travail de meilleure qualité sur les tâches que l'IA maîtrise bien. Résumer des documents, structurer une information dispersée, c'est exactement le terrain où ces outils brillent. Vu sous cet angle, refuser l'IA dans l'administration reviendrait à condamner les agents à la paperasse.
Le camp des sceptiques : la frontière invisible
Sauf que la même étude contient l'avertissement le plus important. Sur les tâches situées juste au-delà de ce que l'IA sait faire, les consultants assistés se trompaient plus souvent que ceux qui travaillaient seuls. Mollick parle d'une frontière irrégulière : de l'extérieur, rien ne permet de voir où elle passe. Une synthèse de dossier fluide et bien rédigée peut omettre l'élément décisif, un arrêt maladie, une formation en cours, un enfant à charge, sans que rien ne le signale.
Gary Marcus, chercheur en sciences cognitives et critique constant des grands modèles de langage, répète depuis des années que ces systèmes produisent des textes plausibles plutôt que vrais, et qu'on ne peut pas prévoir quand ils inventent. Arvind Narayanan et Sayash Kapoor, chercheurs à Princeton, vont plus loin dans leur livre AI Snake Oil : selon eux, les outils qui prétendent prédire le comportement des individus pour décider de leurs droits figurent parmi les usages les moins fiables de l'IA. Ici, les deux briques sont réunies : un algorithme qui désigne les suspects et une IA générative qui prépare leur dossier.
Il y a enfin le biais d'automatisation, bien documenté : face à une recommandation produite par une machine, un humain pressé a tendance à la valider. Si un contrôleur doit traiter un tiers de dossiers en plus sans renfort, la décision humaine risque de se réduire à un clic de validation.
Notre position : pas de contrôle de masse sans garde-fous
Nous ne sommes pas contre l'IA dans les services publics. Une IA qui aide un conseiller à préparer un rendez-vous, à retrouver une offre adaptée ou à remplir un formulaire à la place d'un usager perdu, ce serait un vrai progrès. Le problème n'est pas l'outil, c'est l'usage qu'on en fait et la cible qu'on lui fixe.
Quand l'objectif affiché est d'augmenter de plus d'un tiers le nombre de contrôles sans embaucher, l'IA n'est plus un copilote. Elle devient un multiplicateur de soupçon. Et les personnes visées sont celles qui ont le moins de moyens pour contester une erreur : perdre une allocation d'un mois, c'est parfois ne plus payer son loyer.
Les Pays-Bas nous ont déjà montré où mène ce chemin. Dans l'affaire des allocations familiales, des dizaines de milliers de familles ont été accusées à tort de fraude, en partie à cause de systèmes de détection automatisés ; le gouvernement a démissionné en janvier 2021. Un an plus tôt, le tribunal de La Haye avait jugé que SyRI, un système néerlandais de détection de la fraude sociale, violait le droit au respect de la vie privée. La France n'a aucune raison de refaire la même expérience.
Le calendrier européen rend le projet encore plus discutable. Le règlement européen sur l'IA, l'AI Act, classe à haut risque les systèmes utilisés par les autorités publiques pour évaluer le droit à une aide sociale ou pour la réduire ou la retirer. Ces systèmes devront être documentés, évalués, surveillés par des humains formés et enregistrés dans une base européenne. Mais depuis le report voté cet été, ces obligations ne s'appliquent qu'à partir du 2 décembre 2027. Autrement dit, France Travail vise son objectif de 2027 avant que les règles faites pour ce genre d'outil n'entrent en vigueur. C'est exactement le contraire de ce qu'on attend d'un service public.
Ce que nous demandons
- La publication du document de conception de l'outil, de ses données d'entrée et des résultats du pilote, y compris son taux d'erreur.
- L'avis public de la CNIL, l'autorité française de protection des données, avant toute extension au-delà du test.
- L'application volontaire, dès maintenant, des règles haut risque de l'AI Act, sans attendre décembre 2027.
- Une information claire de chaque personne contrôlée quand une IA a préparé son dossier, et le droit d'obtenir la synthèse produite.
- L'abandon de l'objectif de 1,5 million de contrôles à effectifs constants : un gain de temps doit d'abord servir à mieux accompagner.
L'IA peut rendre l'administration plus humaine, à condition qu'on lui demande d'aider les gens, pas de les trier. Le choix que fait France Travail aujourd'hui dira quel modèle la France veut suivre.
Et vous, accepteriez-vous qu'une IA prépare le dossier qui décide de vos allocations, si un humain garde le dernier mot ? Dites-nous en commentaire.
Publié par l'équipe Serey avec l'aide de l'IA.
#intelligenceartificielle #francetravail #aiact #cnil #cerveau
0.00 SRY