Issuu

SOMMAIRE INTRODUCTION

QUELLES SONT LES RISQUES ET LES MENACES DE L’UTILISATION DE L’IA DANS LA SÉCURITÉ SOCIALE

1. RISQUE DE DISCRIMINATION

2. OPACITÉ ET AFFAIBLISSEMENT DU RECOURS

3. GLISSER VERS UNE LOGIQUE DE SUSPICION

4. LA TENTATION DE LIMITER L’USAGE DE L’IA DANS LA SÉCURITÉ SOCIALE À LA LUTTE CONTRE LA FRAUDE

QUELS SONT LES OPPORTUNITÉS QUE L’IA OFFRE À LA SÉCURITÉ SOCIALE ?

1. AMENER DES GAINS D’EFFICACITÉ ET DE PRODUCTIVITÉ

2. AMÉLIORER L’ACCÈS AU SERVICE

3. UNE MEILLEURE ALLOCATION DES RESSOURCES PUBLIQUES

4. ÊTRE UN OUTIL D’APPUI À L’ÉVALUATION ET À LA DÉCISION

UN NOUVEAU PARADIGME STRATÉGIQUE POUR LA SÉCURITÉ SOCIALE

1. VERS UNE ADMINISTRATION PLUS PRÉVENTIVE ET PROACTIVE

2. UNE MEILLEURE COORDINATION ENTRE ADMINISTRATIONS ET RÉGIME DE SÉCURITÉ SOCIALE

3. UNE PROFESSIONNALISATION DE LA GOUVERNANCE PUBLIQUE DE L’IA

LES FAIBLESSES STRUCTURELLES DE L’IA

LES RISQUES DE L’USAGE DE L’IA DANS LA SÉCURITÉ SOCIALE

1. LES RISQUES SYSTÉMIQUES

2. RISQUES JURIDIQUES

3. RISQUES SOCIÉTAUX

4. RISQUES ORGANISATIONNELS ET POLITIQUES

DES RETOURS D’EXPÉRIENCE BELGES ET ÉTRANGERS

1. BELGIQUE

2. FRANCE

3. PAYS-BAS

4. ROYAUME-UNI

QUELLE DOCTRINE POUR L’IA DANS LA SÉCURITÉ SOCIALE ?

CONCLUSION : COMMENT DÉPLOYER L’IA DANS LA SÉCURITÉ SOCIALE ?

ANNEXES & BIBLIOGRAPHIE

INTRODUCTION Cette étude examine l’impact de l’intelligence artificielle sur la sécurité sociale à partir de six axes complémentaires : les arguments favorables, les arguments défavorables, les opportunités, les faiblesses, les écueils et les risques. Elle compare ensuite plusieurs expériences belges et étrangères, avant de proposer un plan de déploiement progressif d’une IA éthique dans une institution de sécurité sociale.

En Belgique, les productions de l’ONSS sur ce sujet illustrent bien cette tension entre modernisation et prudence : l’institution souligne à la fois les gains possibles de l’IA pour l’accueil, le traitement des dossiers, la détection de fraude et l’automatisation de tâches répétitives1, tout en montrant que ces outils s’inscrivent dans une transformation numérique plus large. Le SPF Sécurité sociale a également ouvert le débat sur l’usage de l’IA dans la sécurité sociale dans le sens d’un usage « éthique et responsable »2, ce qui confirme que la question n’est plus marginale mais bien structurelle pour les administrations sociales.

L’enjeu n’est pas seulement technologique. Dans la sécurité sociale, l’IA touche à l’accès aux droits, à la lutte contre la fraude, à l’évaluation des situations individuelles, à l’organisation du travail administratif et à la confiance entre les citoyens et l’institution. C’est pourquoi plusieurs usages publics de l’IA sont considérés comme à haut risque dans le cadre européen, notamment lorsqu’ils concernent l’éligibilité à des prestations, le profilage ou l’appui à des décisions administratives affectant les droits fondamentaux.

Dans le même temps, les expériences étrangères rappellent qu’un usage mal conçu peut provoquer des effets graves : ciblage disproportionné de publics vulnérables, suspicion automatisée, faible explicabilité, difficultés de recours, atteintes à la vie privée et contentieux massifs.

La sécurité sociale peut recourir à l’IA, mais selon une doctrine stricte reposant sur la finalité de service public, la proportionnalité, l’interdiction des décisions purement automatisées pour l’octroi ou la suppression de droits, le contrôle humain effectif, la transparence, l’auditabilité, la gouvernance des données et l’évaluation continue des impacts sociaux.

La sécurité sociale dispose de volumes massifs de données et de processus complexes, ce qui fait de l’IA un levier potentiel de modernisation et de productivité : automatisation des tâches répétitives, aide à l’analyse des dossiers, détection de signaux faibles et amélioration du service aux usagers. Mais avec l’essor de l’IA générative, l’enjeu dépasse désormais la simple efficacité administrative. Il faut distinguer les usages d’assistance, relativement maîtrisables, des usages susceptibles d’influencer l’évaluation, le ciblage, l’éligibilité ou la décision concernant les droits sociaux. Plus l’IA intervient directement dans ces décisions, plus les exigences de transparence, de contrôle humain, de fiabilité et de protection des droits doivent être élevées.

L’enjeu n’est pas seulement technologique. Dans le champ de la sécurité sociale, l’IA peut intervenir sur l’accès aux droits, la détection de fraude, l’évaluation de situations individuelles, l’orientation des dossiers, l’organisation du travail administratif et la relation de confiance entre le citoyen et l’institution. À ce titre, certains usages publics relèvent du régime des usages à haut risque au sens du droit européen lorsqu’ils affectent l’accès à des prestations, le profilage ou l’aide à la décision administrative.

Cette note part donc d’une hypothèse simple : l’IA peut être utile à la sécurité sociale, mais seulement si elle reste subordonnée à la finalité de service public, au respect des droits fondamentaux et à une gouvernance robuste.

QUELLES SONT LES RISQUES ET LES MENACES DE L’UTILISATION DE L’IA DANS LA SÉCURITÉ SOCIALE 7

RISQUE DE DISCRIMINATION Dans la sécurité sociale, les conséquences sont très concrètes : contrôles supplémentaires, justificatifs, retards dans l’accès aux droits, non-recours et sentiment d’être constamment suspecté. L’IA ne doit donc pas devenir une machine à soupçonner les plus fragiles. Elle peut aider l’administration à mieux fonctionner, mais elle ne peut se substituer au jugement humain lorsqu’il s’agit de décider qui mérite d’être contrôlé ou, surtout, qui a droit à quoi. Cela suppose des audits réguliers des biais, une véritable supervision humaine, de la transparence et un droit effectif à la contestation.

Le principal danger de l’IA dans la sécurité sociale est qu’elle peut reproduire et amplifier des discriminations déjà présentes dans les données et les pratiques administratives. Un algorithme ne part jamais d’une page blanche : s’il apprend à partir d’historiques de contrôles ou de décisions biaisés, il risque de transformer ces biais en critères apparemment objectifs et donc plus difficiles à identifier et à contester. Le risque est particulièrement important lorsque l’IA sert à cibler les contrôles ou à prédire un risque. Elle peut finir par considérer la précarité, l’instabilité administrative ou la complexité d’un dossier comme des signaux de suspicion, et concentrer ainsi les contrôles sur les mêmes publics. Le problème n’est alors plus seulement que l’algorithme puisse se tromper : il peut organiser systématiquement la manière dont l’administration regarde certains citoyens. Et ce qui était hier un choix politique ou administratif devient demain une simple « sortie du modèle ». 8

OPACITÉ ET AFFAIBLISSEMENT DU RECOURS En sécurité sociale, cette opacité peut avoir des conséquences très concrètes : retard ou suspension d’un droit, contrôles intrusifs, multiplication des démarches ou aggravation de la précarité. La transparence n’est donc pas une exigence bureaucratique supplémentaire : elle est une condition du droit au recours et du contrôle démocratique. Une IA acceptable doit permettre de comprendre pourquoi un dossier a été signalé, quelles données ont compté et surtout où se situe la responsabilité humaine dans la décision finale.

Le deuxième risque majeur est l’opacité. Si un algorithme cible un contrôle, classe un dossier ou influence une décision sans que l’usager puisse comprendre pourquoi, il devient pratiquement impossible de corriger une erreur ou de contester efficacement la décision. Et si même les agents ne comprennent pas les critères utilisés, le problème est encore plus grave : l’administration perd une partie de sa capacité à expliquer ses propres décisions.

GLISSER VERS UNE LOGIQUE DE SUSPICION

L’introduction de l’IA dans la sécurité sociale peut modifier progressivement la culture institutionnelle. Lorsque les outils algorithmiques sont utilisés pour identifier des situations atypiques, classer les dossiers ou repérer des risques, l’administration peut changer de posture : elle ne part plus spontanément du principe que l’usager est un bénéficiaire potentiel de droits, mais qu’il constitue un dossier à analyser, à évaluer ou à surveiller. Ce glissement peut paraître anodin, mais il modifie profondément la relation entre l’institution et le citoyen.

ment d’être considérées d’abord comme des risques plutôt que comme des titulaires de droits. Une administration plus intrusive peut alors décourager certains publics de prendre contact avec elle, de demander une prestation ou de signaler une situation, renforçant ainsi le risque de non-recours aux droits. L’enjeu dépasse donc la seule efficacité des outils. Il touche à la légitimité même de la sécurité sociale : les citoyens doivent pouvoir percevoir l’institution comme équitable, compréhensible et orientée vers la protection. Si l’IA contribue à rendre l’administration plus froide, plus distante ou plus opaque, elle peut progressivement éroder cette confiance. L’IA doit dès lors être pensée d’abord comme un outil au service des droits, de l’orientation et de la qualité du service, et non comme un mécanisme qui transforme la relation administrative en relation de surveillance.

Dans un système de sécurité sociale, cette évolution est particulièrement sensible. La relation avec l’usager repose normalement sur la confiance, la présomption de bonne foi et l’accessibilité des droits. Si l’IA installe au contraire une logique de surveillance permanente, les personnes peuvent avoir le senti-

La littérature sur l’« État social algorithmique » met en évidence un risque qui dépasse les erreurs ou biais techniques : l’IA peut progressivement transformer la gouvernance sociale, en faisant évoluer le système d’une logique fondée sur les droits vers une logique de gestion du risque, de contrôle individualisé et de suspicion automatisée, au détriment de la relation humaine avec l’usager. Les exemples de SyRI aux Pays-Bas et les travaux de Virginia Eubanks3, qui a analysé l’impact négatif de l’usage de l’IA dans l’administration sur les populations les plus fragilisées, montrent notamment que les outils prédictifs et de profilage peuvent renforcer la surveillance des populations vulnérables. La question centrale devient dès lors moins celle de la performance technique de l’algorithme que celle de ses effets institutionnels et démocratiques : qui est surveillé, sur quels critères, avec quelles garanties, et avec quelle possibilité de comprendre ou

LA TENTATION DE LIMITER L’USAGE DE L’IA DANS LA SÉCURITÉ SOCIALE À LA LUTTE CONTRE LA FRAUDE sion ou encore du taux de rectification. Il ne s’agit pas d’opposer la lutte contre la fraude à l’accès aux droits, mais de faire en sorte que le système mesure et valorise les deux avec la même rigueur.

La lutte contre la fraude ne peut pas devenir l’axe exclusif de la transformation numérique. Le problème est d’ailleurs moins politique que systémique : la fraude est un objet particulièrement facile à mesurer, avec des données étiquetées, des montants récupérés et un retour sur investissement immédiatement quantifiable. Le non-recours, lui, est beaucoup plus difficile à objectiver et peut même générer une dépense supplémentaire. Dans un système piloté par les indicateurs, cette asymétrie produit mécaniquement un biais en faveur du contrôle.

Une dernière précaution est essentielle : détecter le non-recours mobilise souvent exactement les mêmes technologies que détecter la fraude (croisement de données, profilage, détection de situations atypiques). Le risque d’intrusion n’en disparaît pas parce que l’intention est positive. Le citoyen peut tout aussi légitimement se demander : « Comment savez-vous que j’ai droit à cela ? » L’enjeu n’est donc pas de choisir entre une bonne et une mauvaise IA, mais de déterminer quelles finalités nous lui assignons, quelles garanties nous lui imposons et, surtout, ce que nous décidons collectivement de mesurer et de valoriser.

Il faudrait donc imposer une forme de symétrie des usages et des indicateurs : à tout projet numérique de contrôle devrait correspondre, dans le même programme et avec des moyens comparables, un projet visant l’accès aux droits. Les montants récupérés devraient ainsi être mis en regard du taux de non-recours, de l’octroi automatique des droits, des délais de déci-

QUELS SONT LES OPPORTUNITÉS QUE L’IA OFFRE À LA SÉCURITÉ SOCIALE ? 14

AMENER DES GAINS D’EFFICACITÉ ET DE PRODUCTIVITÉ L’analyse des usages de l’IA doit dès lors reposer sur une véritable approche coûts-bénéfices. Les gains de productivité et d’efficacité administrative ne peuvent être considérés isolément des coûts de gouvernance qu’ils peuvent engendrer, ni des risques de concentration du pouvoir décisionnel ou d’aggravation des inégalités. Le rapport de l’OCDE Assessing Potential Future Artificial Intelligence Risks, Benefits and Policy Imperatives (2024) souligne précisément l’importance de cette approche globale, en mettant en regard les bénéfices potentiels de l’IA avec les risques associés à son développement et à son déploiement.

L’analyse des usages de l’IA dans les services publics ne peut toutefois pas se limiter à ses risques. Si les dangers potentiels sont importants, les gains observés dans plusieurs administrations méritent également d’être pris en compte, même s’ils ne sont pas nécessairement spécifiques au secteur de la sécurité sociale. Les rapports de l’OCDE montrent notamment des résultats intéressants en matière d’automatisation documentaire, d’amélioration du traitement administratif, d’assistance aux agents et d’accessibilité accrue des services publics. Ces expériences suggèrent que l’IA peut, dans certaines conditions, contribuer à améliorer l’efficacité administrative et la qualité des services rendus aux citoyens. Cette dimension est notamment documentée dans les travaux de l’OCDE, tels que Governing with Artificial Intelligence: Are Governments Ready? (2024) et AI in Public Service Design and Delivery (2024).

Dans ce contexte, l’évaluation des projets et des politiques publiques apparaît comme un enjeu essentiel. Il ne suffit pas de mesurer si un système permet de traiter davantage de dossiers ou de détecter plus rapidement certaines situations. Il faut également pouvoir déterminer s’il améliore effectivement le service rendu, s’il réduit ou augmente les erreurs, quels sont ses effets sur les différents groupes de bénéficiaires, quelles conséquences il produit sur l’exercice des droits et quels coûts de contrôle et de gouvernance il entraîne. La capacité à évaluer systématiquement ces effets est d’autant plus importante que l’évaluation des politiques publiques ne constitue pas traditionnellement le point fort du système belge.

L’enjeu n’est donc pas de déterminer abstraitement si l’IA est bénéfique ou dangereuse pour la sécurité sociale. Il consiste à établir dans quelles conditions ses gains d’efficacité peuvent être réalisés sans transformer la nature de la relation entre l’administration et le citoyen, sans déplacer le système d’une logique de droits vers une logique de suspicion et sans concentrer excessivement le pouvoir de décision dans des dispositifs difficiles à comprendre ou à contester. C’est précisément cette capacité à mesurer les bénéfices comme les coûts, et à réexaminer les effets réels des dispositifs après leur déploiement, qui devrait constituer l’un des piliers d’une doctrine belge de gouvernance de l’IA dans la sécurité sociale.

AMÉLIORER L’ACCÈS AU SERVICE Concrètement, l’IA peut par exemple aider un agent à retrouver rapidement la règle applicable à une situation, à résumer un dossier volumineux ou à identifier les informations manquantes avant son traitement. Elle peut également classer automatiquement les courriers et documents reçus afin qu’ils soient orientés vers le bon service, ou encore détecter qu’un dossier risque de rester bloqué et attirer l’attention de l’agent. Pour l’usager, elle peut faciliter la compréhension de règles complexes : expliquer simplement quelles démarches effectuer après une incapacité de travail, identifier les documents nécessaires pour une demande ou orienter vers le bon interlocuteur.

L’IA peut constituer un puissant levier de simplification et d’amélioration du service public. Son intérêt ne se limite pas aux assistants conversationnels : elle peut intervenir à différents niveaux de la chaîne administrative, depuis l’information de l’usager jusqu’au travail quotidien des agents. Dans une sécurité sociale confrontée à des règles complexes, à des volumes importants de dossiers et à des attentes croissantes en matière de rapidité, elle peut permettre de rendre le système plus simple, plus réactif et plus accessible.

L’intérêt est aussi de pouvoir mieux personnaliser le service. Un système peut, par exemple, repérer qu’une personne effectue plusieurs démarches successives et proposer à l’agent une vision plus complète de sa situation, plutôt que de traiter chaque demande séparément. De même, l’IA peut permettre de traduire ou de reformuler automatiquement une information administrative dans un langage plus accessible, ce qui peut réduire les difficultés liées au jargon administratif.

La bonne question n’est donc pas : « Que peut-on automatiser ? », mais plutôt : « Comment utiliser l’IA pour que l’administration rende un meilleur service ? ». Utilisée dans cette logique, l’IA peut permettre une sécurité sociale plus efficace sans la rendre plus impersonnelle : la machine traite ce qui peut l’être, et l’humain se concentre sur ce qui nécessite du jugement, de l’écoute et de l’empathie.

[...] Ces gains ne signifient pas que l’IA doit remplacer les agents. Au contraire, sa valeur peut précisément être de libérer du temps humain. [...]

Ces gains ne signifient pas que l’IA doit remplacer les agents. Au contraire, sa valeur peut précisément être de libérer du temps humain. Si une machine permet de résumer un dossier de vingt pages en quelques secondes ou de traiter automatiquement des centaines de demandes standardisées, l’agent peut consacrer davantage de temps à la personne dont la situation est complexe, à celle qui ne comprend pas ses droits ou à celle qui a besoin d’un véritable accompagnement.

UNE MEILLEURE ALLOCATION DES RESSOURCES PUBLIQUES dossier incomplet peut éviter un retard de paiement, une perte de couverture ou une aggravation de la situation de l’usager. Dans cette perspective, l’IA ne sert pas seulement à “faire plus avec moins”. Elle peut aussi aider à mieux cibler l’intervention administrative pour qu’elle arrive au bon moment et au bon endroit.

L’IA peut contribuer à une meilleure priorisation des dossiers en aidant l’administration à repérer les situations les plus urgentes, les besoins potentiellement non satisfaits ou les cas qui méritent une attention plus rapide. Dans un système de sécurité sociale confronté à des ressources limitées, cette capacité peut améliorer l’efficience globale : les agents ne perdent pas du temps sur des dossiers routiniers ou peu problématiques et peuvent concentrer leur énergie sur les situations complexes, les publics fragiles et les missions qui exigent du discernement humain.

Mais cette promesse doit être lue avec prudence. Une meilleure allocation des ressources n’est réellement utile que si elle améliore à la fois l’efficacité administrative et l’effectivité des droits. Si l’outil ne sert qu’à économiser des moyens sans renforcer l’accès au droit, il risque de déplacer la contrainte sur les usagers : dossiers plus vite traités pour certains, mais aussi contrôle plus intense, tri plus sévère ou attention moindre pour d’autres.

Cette logique peut aussi renforcer la qualité du service public si elle permet d’agir plus tôt. Par exemple, un signalement précoce d’une rupture de droits, d’incohérences juridiques ou d’un

Le point décisif est donc la finalité. Une priorisation algorithmique peut être socialement justifiable si elle aide à mieux servir les personnes, à réduire le non-recours et à soutenir les situations fragiles. Elle devient en revanche problématique si elle sert principalement à optimiser la surveillance, à durcir les contrôles ou à arbitrer les ressources selon des critères peu transparents. Dans la sécurité sociale, l’efficience n’a de sens que si elle reste indissociable de l’égalité de traitement, de la protection des droits et de la confiance dans l’institution.

ÊTRE UN OUTIL D’APPUI À L’ÉVALUATION ET À LA DÉCISION rence ou de divergence et à proposer une lecture plus synthétique du dossier. Elle peut également faciliter la comparaison entre situations proches, en identifiant des motifs récurrents ou des scénarios-types qui aident la personne chargée d’évaluer une situation à mieux situer le cas examiné. Cela peut réduire la charge cognitive et améliorer la qualité du travail préparatoire.

Le débat sur l’usage possible de l’IA dans l’évaluation de l’incapacité de travail a été ouvert, notamment, par le Collège National de Médecine d’Assurance4. Nous touchons là à un domaine particulièrement sensible, une matière se situe à l’intersection de plusieurs dimensions : l’appréciation médicale, l’analyse des limitations fonctionnelles, l’orientation vers un accompagnement adapté et, surtout, l’accès à des droits sociaux qui peuvent avoir des conséquences concrètes très lourdes pour la personne concernée. Dans ce contexte, l’IA ne peut être pensée comme un substitut à la décision humaine mais pourrait être un intéressant outil d’aide à la décision, à condition, là encore, d’être correctement balisée.

Mais cette utilité reste strictement conditionnée. Dès qu’il s’agit d’une appréciation portant sur la capacité de travail, il faut éviter toute automatisation de l’évaluation elle-même. Une IA peut assister, classer, résumer ou alerter, mais elle ne peut pas apprécier à elle seule la situation d’une personne, car cette appréciation exige une prise en compte fine du contexte médical, social, professionnel et humain. Une telle matière demande du discernement, de l’écoute et la possibilité d’un échange contradictoire, que seul l’examen humain peut garantir.

L’intérêt principal de l’IA est de structurer l’information. Dans des dossiers souvent complexes, l’IA peut aider à organiser les données, à faire ressortir les éléments pertinents, à signaler les points de cohé-

[...] Dès qu’il s’agit d’une appréciation portant sur la capacité de travail, il faut éviter toute automatisation de l’évaluation elle-même. [...]

Le risque, sinon, serait de transformer un outil d’aide en instrument de normalisation. Une évaluation automatisée pourrait pousser à appliquer des catégories trop rigides, à sous-estimer la singularité des trajectoires individuelles ou à produire des résultats insuffisamment contestables par la personne concernée. Dans un domaine aussi délicat, l’IA doit donc rester sous contrôle un humain effectif, avec des règles claires de traçabilité, d’explicabilité et de recours. C’est à cette condition seulement qu’elle peut améliorer la qualité de l’instruction sans porter atteinte à l’équité de la décision.

UN NOUVEAU PARADIGME STRATÉGIQUE POUR LA SÉCURITÉ SOCIALE

VERS UNE ADMINISTRATION PLUS PRÉVENTIVE ET PROACTIVE

L’IA peut permettre de passer d’une sécurité sociale réactive à une sécurité sociale plus proactive et préventive. Plutôt que d’attendre qu’ un problème survienne, elle peut repérer plus tôt les situations à risque. Cette approche est particulièrement intéressante pour lutter contre le non-recours aux droits. L’IA pourrait, par exemple, signaler à un agent qu’une personne semble rencontrer des difficultés dans ses démarches et qu’un contact ou une information complémentaire pourrait être utile. Elle devient alors un outil pour aller vers l’usager plutôt que d’attendre qu’il vienne vers l’administration. C’est une orientation importante : l’IA ne serait plus utilisée pour surveiller ou suspecter, mais pour prévenir les ruptures de droits, mieux accompagner et intervenir au bon moment. À condition, bien sûr, que cette intervention reste proportionnée, transparente et sous contrôle humain.

UNE MEILLEURE COORDINATION ENTRE ADMINISTRATIONS ET RÉGIME DE SÉCURITÉ SOCIALE

La sécurité sociale est souvent fragmentée entre plusieurs organismes et systèmes, ce qui oblige les usagers à répéter des démarches et les agents à rechercher plusieurs fois des informations déjà disponibles. L’IA peut aider à mieux faire circuler l’information, à rapprocher des données dispersées et à détecter plus facilement les informations manquantes ou contradictoires. Par exemple, lorsqu’un dossier passe d’un service à un autre, l’IA peut en extraire automatiquement les éléments importants et éviter que l’agent doive tout reprendre depuis le début. Pour l’usager, cela signifie moins de documents à fournir, moins de répétitions et un suivi plus fluide. L’objectif n’est donc pas de multiplier les données collectées, mais de mieux utiliser celles qui existent déjà, dans le respect des règles de protection des données. Bien utilisée, l’IA peut ainsi contribuer à une sécurité sociale plus simple, plus cohérente et plus efficace.

UNE PROFESSIONNALISATION DE LA GOUVERNANCE PUBLIQUE DE L’IA Dans une sécurité sociale très fragmentée, l’IA peut aussi améliorer l’interopérabilité et la continuité des dossiers : mieux relier des informations déjà disponibles, éviter les doubles encodages, limiter les demandes répétées de documents et aider les agents à avoir une vision plus complète d’une situation. Pour l’usager, cela peut signifier moins de démarches et moins de fois à devoir raconter son histoire.

L’adoption d’une charte commune de l’IA par les institutions fédérales belges5 montre qu’il est possible de construire une culture partagée autour de principes de transparence, d’éthique, de responsabilité et de contrôle. Cette démarche peut notamment permettre d’harmoniser les pratiques et de mieux former les agents.

L’objectif doit donc être simple : utiliser l’IA pour faire tomber les barrières entre les institutions, simplifier les parcours et rendre la sécurité sociale plus fluide, tout en garantissant un partage des données strictement nécessaire et juridiquement encadré.

[...] L’IA ne fait pas disparaître les faiblesses de l’administration : elle peut au contraire les amplifier. [...]

LES FAIBLESSES STRUCTURELLES DE L’IA Enfin, il existe un risque de « faux contrôle humain ». Un agent peut théoriquement rester responsable de la décision tout en suivant, dans les faits, systématiquement la recommandation de l’algorithme. Le véritable contrôle humain suppose donc la capacité et le temps de comprendre, questionner et éventuellement contredire la machine.

L’IA ne fait pas disparaître les faiblesses de l’administration : elle peut au contraire les amplifier. Le premier écueil se situe au niveau de la qualité des données. Des données incomplètes, anciennes ou déjà biaisées peuvent produire des résultats eux-mêmes biaisés, tout en donnant une impression de neutralité et de précision.

Ces trois risques se renforcent mutuellement : mauvaises données, compétences insuffisantes, puis confiance excessive dans la machine. L’IA ne doit donc pas être considérée comme une simple technologie que l’on ajoute à la sécurité sociale : elle oblige à renforcer l’institution elle-même.

Le second se situe au niveau des compétences des institutions. Une IA ne se résume pas à acheter un logiciel. Il faut être capable de comprendre son fonctionnement, d’en vérifier les résultats, d’identifier ses limites et d’en assurer le suivi. Sans ces compétences, le risque est de devenir trop dépendant des prestataires qui fournissent les outils.

LES RISQUES DE L’USAGE DE L’IA DANS LA SÉCURITÉ SOCIALE

LES RISQUES SYSTÉMIQUES Le deuxième risque systémique est de sous-estimer la dimension sociale et politique du projet. Un projet d’IA dans la sécurité sociale n’est pas un simple chantier informatique : il modifie la relation entre l’administration, les agents et les citoyens, et touche à la manière dont l’institution traite, classe et interprète les situations individuelles. Cela implique nécessairement un dialogue social, une consultation des parties prenantes et un cadrage politique explicite, afin que l’outil ne soit pas perçu comme une décision imposée d’en haut ou comme une transformation technocratique déconnectée des réalités de terrain. Sans cette dimension participative, le projet risque de rencontrer des résistances internes, des incompréhensions externes et une faible appropriation par les utilisateurs.

Le premier risque systémique est d’envisager l’IA dans ses usages les plus sensibles, comme le datamining, la lutte contre la fraude ou l’évaluation de la qualité de l’ouverture des droits, avant d’avoir construit une gouvernance solide. Ces usages sont précisément ceux qui concentrent les plus grands risques juridiques, politiques et réputationnels, parce qu’ils touchent directement aux droits des personnes et à la perception de légitimité de l’institution. Lorsqu’un projet démarre par ces terrains fragiles, il s’expose à des contestations rapides, à des erreurs difficilement réversibles et à une perte de confiance durable. La prudence commande donc de commencer par des cas d’usage moins intrusifs, plus faciles à encadrer et plus clairement utiles pour le service rendu.

Le troisième risque systémique est la dépendance excessive à des fournisseurs externes. Lorsqu’une institution ne maîtrise ni ses données, ni les règles du modèle, ni la documentation, ni les modalités d’audit, elle perd une part importante de sa souveraineté opérationnelle. Elle devient alors tributaire de solutions qu’elle comprend imparfaitement et qu’elle ne peut pas toujours expliquer, corriger ou suspendre rapidement en cas de problème. Cette dépendance crée aussi une difficulté de justification juridique, car il devient plus compliqué de démontrer la logique suivie, la qualité des contrôles effectués et la conformité de l’outil aux exigences applicables. Dans un secteur aussi sensible que la sécurité sociale, cette perte de maîtrise est un risque majeur. Ces trois risques ont un point commun : ils traduisent l’erreur qui consiste à traiter l’IA comme une solution purement technique, alors qu’elle est en réalité un changement d’organisation, de gouvernance et de rapport au public. C’est pourquoi un déploiement réussi doit avancer par étapes, avec une montée en maturité de l’institution avant toute extension vers les usages les plus sensibles.

RISQUES JURIDIQUES complète, que la supervision humaine est réelle et non purement formelle, que le dispositif est robuste face aux erreurs ou aux dérives, et qu’un suivi existe après la mise en service. Autrement dit, une IA à haut risque n’est pas seulement un outil qu’on installe, c’est un système qu’il faut continuellement gouverner, tester et justifier.

Le cadre européen6 prévoit en effet qu’un certain nombre d’usages publics de l’IA relèvent de la catégorie des usages à haut risque, en particulier lorsqu’ils peuvent influencer l’accès à des droits, l’évaluation de situations individuelles ou la fourniture de services publics essentiels. Dans le champ de la sécurité sociale, cette qualification n’est pas abstraite : elle traduit le fait que l’outil peut avoir un effet direct sur la vie concrète des personnes, sur leurs prestations, sur leurs recours et sur la manière dont l’institution les traite.

Pour une institution de sécurité sociale, le non-respect de ces exigences expose à plusieurs types de conséquences. Il peut y avoir des recours individuels, des contestations de légalité, des remises en cause juridictionnelles et, dans les cas les plus graves, l’arrêt pur et simple du projet. Le risque n’est donc pas seulement technique ou réputationnel : il est aussi institutionnel et juridique, car un dispositif mal encadré peut devenir inutilisable dès lors qu’il est contesté ou qu’il produit des effets jugés contraires aux garanties fondamentales.

Cela implique des obligations renforcées à chaque étape du cycle de vie du système. L’administration doit pouvoir démontrer qu’elle gère les risques de façon structurée, que les données utilisées sont de qualité suffisante, que la documentation du système est

Le cas SyRI aux Pays-Bas illustre précisément ce danger. Ce système de surveillance algorithmique, conçu pour détecter des fraudes ou des irrégularités dans des populations ciblées, a été stoppé au nom des droits fondamentaux. Son enseignement est clair : un outil peut paraître efficace du point de vue du contrôle, mais être jugé disproportionné, intrusif ou insuffisamment justifié au regard de la protection de la vie privée et des garanties démocratiques. Pour la sécurité sociale, cela signifie qu’un projet IA ne peut pas reposer uniquement sur l’idée d’efficacité ; il doit aussi satisfaire des exigences strictes de légitimité, de proportionnalité et de contestabilité. En pratique, le message est simple : plus l’usage de l’IA touche aux droits sociaux, plus la barre juridique et institutionnelle est haute. Sans gouvernance solide, sans documentation robuste et sans contrôle humain effectif, un projet peut être suspendu, délégitimé ou vidé de sa portée. C’est pourquoi les usages sensibles doivent venir après la construction d’un cadre de confiance, et non avant.

RISQUES SOCIÉTAUX de situation, à demander une prestation à laquelle ils sont pourtant éligibles, ou à entrer dans une relation durable avec l’institution. Cette autocensure a un coût social important, car elle fragilise précisément les publics que la sécurité sociale est censée protéger.

Le risque social majeur est d’abord l’augmentation du non-recours. Lorsque les usagers perçoivent l’institution comme plus complexe, plus intrusive ou plus difficile à comprendre, certains renoncent à introduire une demande, à compléter leur dossier ou à contester une décision. Ce phénomène est particulièrement préoccupant dans la sécurité sociale, car il touche souvent des personnes qui ont déjà des difficultés à faire valoir leurs droits, à rassembler les pièces nécessaires ou à naviguer dans des procédures administratives complexes.

Le troisième volet est celui de l’exclusion numérique. Des dispositifs trop centrés sur des interfaces automatisées, des portails en ligne ou des assistants conversationnels peuvent pénaliser les personnes âgées, peu connectées, peu à l’aise avec la langue administrative ou confrontées à des situations de vulnérabilité plus lourdes. Pour elles, une procédure “simplifiée” sur le papier peut en réalité devenir plus difficile à comprendre, plus longue à résoudre et plus frustrante à contester. Le risque n’est donc pas seulement de mal servir certains publics, mais de les éloigner davantage de l’accès effectif aux droits.

Il y a aussi un effet de peur du contrôle. Si l’IA est associée, dans l’esprit du public, à une logique de surveillance ou de repérage des “profils à risque”, les usagers peuvent adapter leur comportement non pas pour mieux accéder à leurs droits, mais pour éviter d’attirer l’attention de l’administration. Ils peuvent alors hésiter à signaler un changement

[...] Sans cela, l’outil censé moderniser le service peut en réalité renforcer les barrières d’accès et produire une forme d’inégalité administrative. [...]

Au total, l’impact social d’une IA mal encadrée ne se mesure pas uniquement en erreurs techniques. Il se voit aussi dans les comportements qu’elle provoque : renoncement, retrait, découragement, contournement des services, ou dépendance accrue à l’aide d’intermédiaires. C’est pourquoi tout déploiement dans la sécurité sociale doit préserver des canaux humains accessibles, explicables et réactifs. Sans cela, l’outil censé moderniser le service peut en réalité renforcer les barrières d’accès et produire une forme d’inégalité administrative.

RISQUES ORGANISATIONNELS ET POLITIQUES

Un incident algorithmique peut en effet se transformer très vite en crise politique, surtout dans un domaine aussi sensible que les prestations sociales. Dès qu’il y a suspicion de biais, fuite de données, série d’erreurs ou contentieux médiatisé, la question n’est plus seulement technique : elle devient immédiatement institutionnelle, médiatique et démocratique.

Dans la sécurité sociale, la sensibilité est maximale parce que l’outil touche à des droits concrets, à des revenus de remplacement, à la confiance des assurés et à la légitimité de l’administration. Une erreur isolée peut déjà susciter des inquiétudes ; une répétition d’erreurs, ou l’idée que certains publics sont systématiquement davantage ciblés, peut installer un doute durable sur l’impartialité du système. À partir de là, l’affaire dépasse le cas individuel et devient un débat sur la manière dont l’institution traite ses usagers.

Il y a aussi un effet de verrouillage organisationnel. Après un incident médiatisé, l’institution peut adopter une posture de prudence excessive, ralentir ses initiatives ou renoncer à des usages bénéfiques par crainte d’une nouvelle polémique. Le coût du dysfonctionnement ne se limite donc pas à la correction de l’erreur ; il peut bloquer durablement l’innovation publique et rendre plus difficile toute modernisation future.

Le risque politique est double. D’une part, l’incident peut provoquer une réaction de défiance immédiate et légitime venant d’institutions politiques, des copris intermédiaires ou de la société civile. D’autre part, il peut contaminer des projets pourtant utiles : même des usages modestes et bien encadrés de l’IA deviennent ensuite plus difficiles à faire accepter, parce que l’opinion associe désormais l’outil à l’opacité, à l’erreur ou à la surveillance.

C’est pourquoi la gestion des incidents doit être pensée dès la conception du projet. Il faut pouvoir détecter rapidement les anomalies, suspendre un usage si nécessaire, documenter ce qui s’est passé, informer clairement les parties prenantes et corriger les causes profondes. Sans cette capacité de réaction, un simple incident technique peut devenir une crise de confiance beaucoup plus large, avec des effets durables sur la crédibilité de l’institution et sur l’acceptabilité même de l’IA dans la sécurité sociale.

DES RETOURS D’EXPÉRIENCE BELGES ET ÉTRANGERS 44

1 BELGIQUE Cette gouvernance ne doit toutefois pas être pensée uniquement à partir des nouvelles règles européennes sur l’intelligence artificielle. Le droit belge comporte déjà des exigences anciennes et parfois plus contraignantes qui constituent un premier cadre d’admissibilité pour les usages algorithmiques dans la sécurité sociale. La Charte de l’assuré social, issue de la loi du 11 avril 1995, impose notamment aux institutions un devoir d’information et de conseil actif, des décisions motivées en termes compréhensibles, des délais contraignants et une révision d’office en cas d’erreur. Ces exigences posent directement la question de la compatibilité entre l’usage d’un système algorithmique et l’obligation de rendre une décision effectivement compréhensible et motivée. Une recommandation algorithmique qui ne peut être expliquée ne peut ainsi pas, à elle seule, fonder une décision motivée au sens de la Charte, indépendamment des exigences qui résultent de l’AI Act.

La Belgique se trouve plutôt dans une phase de structuration que dans celle d’un déploiement massif des usages les plus sensibles de l’IA. Les signaux disponibles montrent surtout une dynamique de transformation numérique interne et des expérimentations d’outils d’automatisation. Le point fort belge tient donc à une conscience précoce du besoin de gouvernance. Les institutions semblent avoir compris qu’un usage de l’IA dans la sécurité sociale ne peut pas être laissé à la seule logique d’efficacité technique, car il touche à des droits, à des décisions individuelles et à la confiance envers l’administration. Cette prudence est un atout : elle permet d’éviter les déploiements précipités, de réfléchir aux principes à poser en amont et de construire progressivement des méthodes communes de supervision, de documentation et de responsabilisation.

Dans le même registre, la loi du 29 juillet 1991 relative à la motivation formelle des actes administratifs constitue un autre fondement national important. La jurisprudence du Conseil d’État proscrit les décisions « stéréotypées », ce qui impose de ne pas confondre automatisation et motivation administrative. Cette exigence constitue un cadre autonome par rapport à l’article 22 du RGPD : la question n’est donc pas seulement de savoir si une personne fait l’objet d’une décision automatisée au sens du droit des données personnelles, mais aussi si l’administration est capable de justifier concrètement et individuellement la décision qu’elle prend.

contrôle requis ou sur la manière d’articuler innovation et garanties juridiques.

Le point faible, en revanche, est l’absence à ce stade d’une doctrine sectorielle pleinement détaillée pour la sécurité sociale. Il existe bien des orientations générales et des cadres transversaux, mais pas encore, semble-t-il, de ligne de conduite suffisamment précise sur ce qui est autorisé, interdit ou soumis à encadrement renforcé dans les différents organismes de sécurité sociale. Cette lacune laisse une zone grise : les institutions peuvent hésiter sur les cas d’usage prioritaires, sur le niveau de

Le calendrier européen rend cette question encore plus importante. L’Europe a reporté au 2 décembre 2027 une partie des nouvelles règles concernant les systèmes d’IA considérés comme à haut risque, notamment lorsqu’ils interviennent dans l’accès aux prestations et aux services sociaux.

Cette situation n’est pas nécessairement défavorable à court terme, car elle permet d’avancer avec prudence. Mais elle devient un handicap si elle dure trop longtemps, parce qu’elle peut créer des approches disparates entre institutions, des hésitations dans les services et une dépendance excessive à des interprétations au cas par cas. Pour la Belgique, l’enjeu est donc de transformer cette phase de préparation en doctrine opérationnelle, afin que la gouvernance précède effectivement la montée en charge.

Cela nous donne une période de transition de seize mois. Mais cela ne veut pas dire que l’IA peut être utilisée sans règles d’ici là. La Charte de l’assuré social, le RGPD, les règles qui obligent l’administration à expliquer ses décisions et les principes de bonne administration restent d’application.

Il faut donc profiter de cette période pour mettre des garde-fous dès maintenant autour des usages sensibles de l’IA, plutôt que d’attendre 2027.

Il ne s’agit pas nécessairement de créer de nouveaux organes ou de nouvelles institutions mais plutôt de donner aux structures existantes une compétence et des moyens pour jouer ce rôle. Le Médiateur fédéral et les services de médiation sectoriels pourraient disposer d’un accès formel à la documentation des systèmes algorithmiques. Le Service de lutte contre la pauvreté pourrait intégrer cette dimension dans son travail et surtout, les experts du vécu, qui constituent un modèle de consultation encore largement sous-utilisé, devraient être associés dès la conception et les phases de test des systèmes, et non simplement consultés une fois les dispositifs finalisés.

La question de la représentation des usagers constitue probablement l’un des autres angles morts du la question. Notre sécurité sociale repose sur une représentation paritaire structurée des travailleurs et des employeurs, mais pas sur une représentation organisée des usagers en tant que tels. Ce modèle est indispensable à préserver mais il repose sur une représentation de corps intermédiaires et non des usagers. Si, dans certains domaines de la sécurité sociale (on pense à l’assurance maladie-invalidité avec les mutualités ou encore l’assurance chômage avec les syndicats), les notions de partenaires sociaux et de représentation des usages peuvent se recouper, cela ne constitue pas pour autant une règle générale.

Il faut aussi accompagner les citoyens. Des tiers de confiance (médiateurs, accompagnateurs ou structures locales ) peuvent aider les personnes à comprendre et à faire valoir leurs droits face aux systèmes numériques et à l’IA.

Or les personnes les plus susceptibles d’être affectées par les décisions algorithmiques (bénéficiaires du RIS, personnes handicapées, indépendants en difficulté ou personnes éloignées du numérique) souffrent d’un déficit de représentation.

Mais ils doivent pouvoir faire remonter officiellement les problèmes aux institutions. Sinon, ils ne feront que gérer la complexité sans pouvoir la corriger.

Les droits prévus par l’AI Act, comme être informé, contester une décision ou introduire un recours, doivent donc être réellement accessibles, notamment grâce à un accompagnement. C’est particulièrement important pour les publics vulnérables, qui ne disposent pas toujours des moyens nécessaires pour se défendre seuls. L’enjeu belge est dès lors moins de choisir entre innovation et prudence que d’organiser leur articulation. La phase actuelle de structuration offre l’occasion de définir, avant une éventuelle montée en charge des usages sensibles, des règles communes de supervision, de documentation, d’explicabilité, de contrôle humain, de gestion des incidents et de réexamen des cohortes affectées. La gouvernance doit ainsi précéder le déploiement, et non intervenir uniquement après l’apparition de difficultés concrètes.

[...] le pouvoir économique constitue à la fois une cause et une conséquence de l’accroissement des inégalités [...]

2 FRANCE

C’est précisément pour cela qu’il faut pouvoir comprendre comment l’algorithme fonctionne, quels critères il utilise et comment contester ses effets.

La France offre en effet un cas d’école des risques liés à un ciblage algorithmique centré sur la fraude sociale. Les controverses autour de la Caisse nationale des allocations familiales (CNAF)7 ont cristallisé des soupçons de discrimination, d’opacité et de renforcement du contrôle sur les publics précaires.

Le débat a pris une ampleur particulière parce que l’outil ne se contentait pas d’améliorer un traitement administratif : il semblait modifier la manière même dont l’administration regarde ses allocataires, en passant d’une logique d’accompagnement à une logique de repérage des profils supposés plus “à risque”.

L’institution utilise un algorithme pour identifier les dossiers qui présentent un risque plus élevé d’erreur ou de fraude et ainsi orienter les contrôles.

Le problème ne tient donc pas seulement à la possibilité d’une erreur technique. Il tient surtout à la structure du dispositif. Lorsqu’un algorithme sert à orienter les contrôles, il peut concentrer l’attention sur les personnes les plus fragiles, non pas parce qu’elles frauderaient davantage, mais parce que leurs parcours sont souvent plus instables, plus fragmentés et donc plus faciles à faire apparaître comme atypiques. Le risque est alors de transformer des indicateurs administratifs en signaux de suspicion, ce qui peut renforcer des biais déjà présents dans la pratique de contrôle.

Le problème soulevé par plusieurs associations est que certains critères peuvent conduire à cibler davantage les personnes les plus précaires. L’algorithme ne dit pas directement « cette personne fraude », mais il peut déterminer qui sera davantage contrôlé. C’est là que se pose la question de l’IA et des algorithmes dans les services publics : un outil présenté comme technique peut en réalité modifier la manière dont l’administration traite certaines catégories de citoyens. On passe alors d’une logique d’accompagnement à une logique de surveillance et de ciblage. 51

L’enseignement principal est qu’un système peut sembler administrativement utile tout en devenant politiquement et socialement délégitimé. Même s’il améliore le ciblage des contrôles ou la rationalisation des moyens, il devient contestable s’il produit des effets concentrés sur des groupes vulnérables sans garanties suffisantes de transparence, d’explicabilité et de contestation. Autrement dit, l’utilité gestionnaire ne suffit pas à fonder la légitimité d’un dispositif lorsqu’il affecte la relation de confiance entre une institution sociale et ses usagers. Pour la sécurité sociale, la leçon française est nette : plus l’usage de l’IA touche à la fraude, plus il faut de gardefous. Sans contrôle humain réel, sans documentation claire, sans possibilité de recours et sans évaluation des effets différenciés, l’outil risque de produire un coût démocratique supérieur au gain administratif attendu.

3 PAYS-BAS

• Le risque de discrimination indirecte était réel, notamment parce que les zones testées correspondaient à des quartiers populaires.

Le cas SyRI (Systeem Risico Indicatie) aux Pays-Bas constitue en effet un précédent structurant pour toute réflexion sur la numérisation du contrôle dans l’État social8.

Ce jugement est souvent lu comme un avertissement pour l’État social numérique et une limite normative forte à l’extension des outils de datamining dans les politiques sociales. Il souligne trois exigences fondamentales :

Mis en place dans les années 2010, SyRI permettait de croiser de multiples bases de données publiques (revenus, emploi, logement, prestations sociales, fiscalité) afin d’identifier des « profils à risque » de fraude sociale. Le système reposait sur des traitements algorithmiques opaques, sans transparence sur les variables utilisées ni sur les pondérations.

• Finalité strictement définie : un dispositif ne peut pas reposer sur une logique exploratoire trop large sans lien précis avec une infraction déterminée.

En février 2020, le tribunal de district de La Haye a jugé que SyRI violait l’article 8 de la Convention européenne des droits de l’homme (droit au respect de la vie privée). Le cœur de la décision repose sur un défaut de proportionnalité :

• Minimisation des données : le croisement massif de données hétérogènes sans nécessité démontrée est juridiquement fragile. • Garanties procédurales : transparence, explicabilité minimale, droit au recours effectif et audit indépendant.

• L’ingérence dans la vie privée était jugée particulièrement large et peu ciblée. • Les citoyens ne disposaient pas de garanties suffisantes (manque de transparence, impossibilité de contester efficacement). 53

Autrement dit, l’efficacité administrative ne peut pas primer sur les principes de l’État de droit, en particulier lorsqu’il s’agit de populations vulnérables déjà fortement exposées au contrôle administratif. L’autre versant du « modèle néerlandais » est la crise des allocations familiales, qui a profondément marqué le débat politique interne au point de faire tomber un gouvernement.

Les conséquences ont été majeures :

Entre 2013 et 2019, l’administration fiscale néerlandaise a utilisé des méthodes automatisées et des critères de risque (dont certains biaisés, comme la double nationalité) pour détecter des fraudes aux allocations familiales9. Des milliers de familles ont été accusées à tort, contraintes de rembourser des sommes importantes, et plongées dans des situations de surendettement.

• Reconnaissance d’un scandale systémique mêlant biais algorithmiques, rigidité administrative et absence de recours effectif. • Démission du gouvernement Rutte en janvier 2021. • Remise en cause profonde de la culture administrative fondée sur la suspicion et la tolérance zéro. L’expérience néerlandaise met en évidence un risque structurel : la transformation numérique de l’État-providence peut renforcer des logiques de contrôle automatisé au détriment des droits fondamentaux, surtout lorsque les dispositifs ciblent des bénéficiaires de prestations sociales.

En définitive, l’essor de l’intelligence artificielle dans les politiques sociales ne constitue pas seulement un enjeu d’efficacité administrative, mais un choix fondamental de modèle d’État. Les cas néerlandais montrent que, sans encadrement rigoureux, ces technologies peuvent accentuer des logiques de suspicion, automatiser les biais et fragiliser les droits des citoyens les plus vulnérables. L’intelligence artificielle ne doit dès lors pas être pensée comme un simple outil de détection ou d’optimisation, mais comme un dispositif nécessitant un pilotage démocratique, une transparence réelle et des garanties juridiques renforcées. À défaut, le risque est grand de voir l’État-providence se transformer en un État de contrôle algorithmique, au détriment de sa fonction première de protection et de solidarité.

Elle invite à plusieurs vigilances opérationnelles, particulièrement pertinentes pour les systèmes européens (dont la Belgique) : • Encadrement juridique ex ante des algorithmes publics (finalités, périmètre, durée). • Évaluation d’impact sur les droits fondamentaux (DPIA renforcée, au-delà du RGPD formel). • Interdiction ou encadrement strict de certaines données sensibles (nationalité, origine, quartier). • Maintien d’un « humain dans la boucle » avec réel pouvoir de révision. • Contrôle parlementaire et juridictionnel effectif, y compris sur les modèles algorithmiques.

4 ROYAUME-UNI Cependant, plusieurs critiques récurrentes ont émergé :

Le cas britannique offre un exemple particulièrement éclairant des arbitrages, souvent implicites, entre efficacité administrative et protection des droits dans l’usage des outils algorithmiques au sein de l’État social.

• L’opacité des modèles utilisés, avec une absence d’explicabilité sur les critères de risque retenus. • Des soupçons de biais indirects, certains profils étant surreprésentés dans les contrôles (personnes précaires, allocataires avec parcours instables, minorités).

Au Royaume-Uni, le Department for Work and Pensions (DWP) 10 a progressivement intégré des systèmes de scoring visant à identifier les dossiers présentant un risque accru de fraude ou d’erreur, notamment dans le cadre de l’Universal Credit11. Ces outils s’appuient sur le croisement de données administratives et comportementales pour orienter les contrôles, hiérarchiser les dossiers et, dans certains cas, déclencher des vérifications automatisées.

• Une difficulté pour les usagers à comprendre ou contester les décisions, notamment lorsque celles-ci reposent sur des traitements automatisés ou semi-automatisés. Du point de vue des pouvoirs publics, ces dispositifs sont souvent présentés comme des outils d’optimisation permettant de mieux cibler la fraude et de rationaliser les ressources administratives. Ils contribuent à une logique de gestion du risque, inspirée du secteur assurantiel, appliquée aux politiques sociales.

Néanmoins, cette efficacité apparente doit être relativisée :

• Un affaiblissement du droit à une décision compréhensible et contestable.

• Les gains budgétaires peuvent être contrebalancés par des coûts indirects élevés (contentieux, erreurs, surcharge administrative liée aux contestations).

• Une asymétrie accrue entre administration et usagers, ces derniers ne disposant pas des moyens de comprendre les logiques algorithmiques.

• Les erreurs de ciblage peuvent fragiliser des ménages déjà vulnérables, avec des effets en chaîne sur l’endettement, la santé ou l’emploi.

• Un risque de discrimination systémique, difficile à détecter en l’absence d’audits indépendants.

• La multiplication des contrôles peut dégrader la relation de confiance entre administration et usagers.

L’expérience britannique montre qu’un système peut apparaître performant du point de vue du contrôle budgétaire tout en générant des coûts sociaux et démocratiques substantiels. Elle souligne la nécessité de ne pas réduire l’évaluation des politiques publiques à des indicateurs d’efficacité financière, mais d’y intégrer pleinement les effets sur les droits, la confiance institutionnelle et la cohésion sociale.

Un risque de transformation du rapport à l’usager L’enseignement central du cas britannique tient à la transformation progressive du rapport entre l’État et les bénéficiaires de prestations. L’introduction de scores de risque tend à instituer une suspicion structurelle, où chaque allocataire est potentiellement évalué comme un cas à vérifier.

Autrement dit, la modernisation numérique ne peut être considérée comme neutre : elle redéfinit en profondeur les équilibres entre contrôle et protection, et impose de repenser les garanties fondamentales attachées à l’action sociale.

Sans mécanismes robustes de transparence et de recours, cette logique pose plusieurs problèmes :

QUELLE DOCTRINE POUR L’IA DANS LA SÉCURITÉ SOCIALE ? • Quatrième principe : comprendre et pouvoir contester. Le citoyen doit savoir, au moins dans ses grandes lignes, comment une décision a été prise et pouvoir la contester lorsqu’elle lui porte préjudice.

Une doctrine crédible en matière d’IA dans les services publics doit reposer sur six principes simples : • Premier principe : l’IA doit servir le service public. On ne déploie pas une technologie parce qu’elle existe, mais parce qu’elle apporte un bénéfice réel aux citoyens, aux professionnels ou au fonctionnement du système.

• Cinquième principe : ne pas reproduire les inégalités. Il faut vérifier dès la conception, puis régulièrement, que l’outil ne pénalise pas davantage certains publics, notamment les plus fragiles.

• Deuxième principe : rester proportionnelle. Plus une décision touche aux droits des personnes, plus l’automatisation doit être limitée. On automatise là où cela apporte une vraie plus-value, pas là où cela crée un risque supplémentaire.

• Sixième principe : garder la maîtrise publique. L’administration doit rester maîtresse de ses données, de ses critères et de ses outils. Elle doit pouvoir comprendre, contrôler et auditer les systèmes qu’elle utilise.

• Troisième principe : l’humain doit rester responsable. Une IA ne peut pas décider seule d’un refus, d’une suspension, d’une récupération ou d’un retrait de droit. Il doit toujours y avoir une intervention humaine réelle et responsable.

Au fond, la question n’est donc pas de savoir si l’on est pour ou contre l’IA. La vraie question est de savoir dans quelles conditions elle peut améliorer le service public sans affaiblir les droits des citoyens.

CONCLUSION :

COMMENT DÉPLOYER L’IA DANS LA SÉCURITÉ SOCIALE ? Pour utiliser une IA de manière responsable dans la gestion des différentes branches de la sécurité sociale, il faut d’abord savoir pourquoi on l’utilise, sur quelle base juridique, avec quelles données et pour quel objectif. Mais le point essentiel est ailleurs : une IA publique doit respecter les règles fixées par le législateur. Peu importe qu’elle soit plus performante qu’un agent si elle conduit à s’écarter de la procédure prévue par la loi. Il faut donc pouvoir vérifier ce qu’elle fait, comprendre ses éventuels écarts et en garder une trace.

Il faut aussi distinguer l’IA de la simple automatisation. Par exemple, l’octroi automatique du tarif social ou du statut BIM repose principalement sur des données fiables et des règles préétablies. Ce n’est pas nécessairement de l’IA. Il ne faut donc pas attribuer à l’IA des résultats qui reposent sur le travail déjà réalisé par les mutualités, les IPSS et la Banque-Carrefour. L’IA peut servir à mieux contrôler, mais aussi à mieux faire respecter les droits. Aujourd’hui, il est beaucoup plus facile de mesurer les résultats de la lutte contre la fraude que ceux du non-recours aux droits. Cela crée un risque de privilégier le contrôle. Il faudrait donc rechercher un équilibre : à un projet numérique destiné à mieux contrôler devrait correspondre un effort comparable pour faciliter l’accès aux droits.

Plus une règle est claire et facile à appliquer, plus elle peut être automatisée. À l’inverse, lorsqu’une situation demande une interprétation ou un jugement, l’humain doit rester au centre. C’est justement dans ces situations complexes que l’IA est la moins adaptée.

Même lorsqu’elle est utilisée pour aider les citoyens à obtenir leurs droits, l’IA doit rester encadrée. Croiser des données ou repérer des situations particulières peut être utile, mais cela peut aussi être perçu comme intrusif. Il faut donc une base juridique claire, utiliser uniquement les données nécessaires, expliquer le fonctionnement du système et permettre de le contester.

Enfin, une IA publique ne doit jamais être considérée comme « terminée » une fois qu’elle est installée. Il faut continuer à la surveiller, l’évaluer et pouvoir la suspendre si nécessaire. Il faut notamment suivre ses erreurs, ses biais, les recours des citoyens et ses effets sur le travail des agents. L’IA doit rester un outil de l’administration, et non devenir progressivement une administration qui décide elle-même.

La gouvernance est tout aussi importante. Un projet d’IA ne peut pas être laissé aux seuls informaticiens. Les services concernés, les juristes, le délégué à la protection des données, la sécurité, l’inspection, les représentants du personnel et, lorsque c’est nécessaire, les représentants des usagers doivent pouvoir donner leur avis avant la mise en œuvre.

Cette démarche peut aussi avoir un effet positif : pour automatiser une procédure, il faut parfois commencer par la clarifier. Or certaines procédures reposent encore sur des circulaires, des habitudes administratives ou de la jurisprudence. L’IA peut donc révéler les incohérences de nos propres règles. Elle peut être un miroir de la qualité de notre administration.

La qualité des données est également essentielle. Il faut vérifier leur fiabilité, repérer les erreurs et les biais et n’utiliser que les données nécessaires. Avant de généraliser un système, il faut commencer par le tester à petite échelle et regarder non seulement s’il fonctionne, mais aussi où il se trompe et quelles conséquences ses erreurs peuvent avoir. Les systèmes qui évaluent des personnes ou cherchent à détecter la fraude doivent faire l’objet d’un contrôle particulièrement strict.

Il faut enfin évaluer les projets d’IA sur leurs résultats réels. La question n’est pas seulement de savoir si la technologie fonctionne, mais si elle apporte le bénéfice attendu, pour qui, à quel coût et avec quels effets négatifs éventuels. Les projets pilotes sont utiles pour cela, à condition d’accepter qu’ils puissent échouer.

[...] L’IA doit rester un outil de l’administration, et non devenir progressivement une administration qui décide elle-même. [...]

Un bon pilote doit donc avoir dès le départ des objectifs clairs, des critères permettant de l’arrêter, une situation de référence et une durée limitée. Il faut évaluer ses effets sur les citoyens comme sur les agents et publier les résultats, y compris lorsqu’ils sont négatifs. Un pilote qui ne peut pas échouer n’est pas vraiment un pilote.

Au fond, évaluer une IA publique, ce n’est pas seulement mesurer sa performance. C’est regarder ses effets sur les citoyens, leurs droits, les agents et le fonctionnement de l’administration. Et surtout, vérifier qu’on peut toujours la contrôler et, si nécessaire, l’arrêter. L’intelligence artificielle peut renforcer la sécurité sociale si elle reste subordonnée à ses finalités premières : garantir des droits, soutenir les publics, sécuriser l’intégrité du système et améliorer le service rendu. Elle devient dangereuse lorsqu’elle se transforme en technologie de suspicion, d’opacité ou de sélection sociale déguisée en objectivité.

Enfin, il serait utile de créer en Belgique un registre public des algorithmes utilisés par les administrations. Il ne s’agit pas de révéler tous les détails techniques, notamment lorsqu’ils concernent la lutte contre la fraude. Mais les citoyens devraient au minimum pouvoir savoir qu’un algorithme existe, pourquoi il est utilisé, sur quelle base juridique, avec quelles données et sous quel contrôle humain.

Le bon choix stratégique n’est donc ni l’enthousiasme technologique sans garde-fous, ni le refus de principe. Il consiste à bâtir une IA publique sobre, traçable, contrôlée, juridiquement robuste et socialement justifiable, déployée par étapes, auditée en continu et toujours placée sous responsabilité humaine effective.

Cela permettrait de rendre l’administration plus transparente et plus responsable. Une institution qui utilise un algorithme devrait pouvoir en expliquer publiquement la finalité, la base légale, les données utilisées et les contrôles prévus.

ANNEXES & BIBLIOGRAPHIQUE Référence :

1 https://www.onss.be/intelligence-artificielle 2 https://socialsecurity.belgium.be/fr/news/

le-spf-securite-sociale-sengage-pour-une-ia-ethique-et-humaine-04-11-2025

1. ONSS, « La transformation numérique commence de l’intérieur »

3 Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor, publié en 2018 chez St. Martin’s Press.

https://www.onss.be/la-securite-sociale/ la-transformation-numerique-commence-a-l-interieur

2. SPF Sécurité sociale, « Explorer le rôle de l’IA dans l’évaluation de la capacité de travail »

4 https://socialsecurity.belgium.be/fr/elaboration-de-la-politique-sociale/

https://socialsecurity.belgium.be/fr/news/explorer-le-role-de-lia-danslevaluation-de-la-capacite-de-travail-au-sein-des-systemes-de-securitesociale

sante-et-travail/college-national-de-medecine-dassurance-sociale-en-matiere

5 https://socialsecurity.belgium.be/fr/charte-ia

3. Commission européenne, cadre réglementaire sur l’IA

6 Article 6 du règlement européen sur l’intelligence artificielle (AI Act), règlement (UE) 2024/1689 du 13 juin 2024

https://digital-strategy.ec.europa.eu/fr/policies/regulatory-framework-ai

4. Règlement européen sur l’IA, article 6 et annexe III https://artificialintelligenceact.eu/article/6/ https://artificialintelligenceact.eu/annex/3/

7 https://www.amnesty.fr/actualites/france-l-algorithme-de-la-caissenationale-des-allocations-familiales-cible-les-plus-precaire/

5. SPF Sécurité sociale, « Charte IA »

8 https://digitalfreedomfund.org/case-studies/

https://socialsecurity.belgium.be/fr/charte-ia

the-syri-welfare-fraud-risk-scoring-algorithm/

6. ONSS, rapport annuel 2024, analytique et IA

9 https://www.amnesty.org/fr/latest/news/2021/10/ xenophobic-machines-dutch-child-benefit-scandal/

https://www.onssrapportannuel.be/2024/fr/une-institution-moderne/ analytique-et-ia.html

10 https://www.theguardian.com/society/2024/dec/06/

7. BOSA, charte IA, version provisoire

https://bosa.belgium.be/sites/default/files/content/documents/DTdocs/ Draft%20Charte%20IA_7.08.2023_FR%20(002).pdf

revealed-bias-found-in-ai-system-used-to-detect-uk-benefits-fraud

11 Prestation sociale forfaitaire versée au RoyaumeUni aux personnes sans revenu ou à faible revenu, destinée à aider aux frais de subsistance et remplaçant plusieurs anciennes aides en un paiement unique

8. INAMI, « Notre politique concernant l’IA »

https://www.inami.fgov.be/fr/l-inami/notre-politique-concernant-l-ia

9. Le Monde, enquête sur l’algorithme de ciblage antifraude dans les CAF

https://www.lemonde.fr/les-decodeurs/article/2024/10/16/algorithme-deciblage-antifraude-dans-les-caf-des-associations-saisissent-le-conseil-detat_6353442_4355770.html

10. Sénat français, IA, impôts, prestations sociales et lutte contre la fraude https://www.senat.fr/rap/r23-491/r23-49122.html

11. Amnesty International, analyses sur les systèmes de protection sociale et les discriminations algorithmiques https://www.amnesty.fr/actualites/les-algorithmes-des-systemes-deprotection-sociale-accentuent-les-discriminations/

12. Human Rights Watch, Automated Hardship https://www.hrw.org/report/2020/09/29/automated-hardship/ how-tech-driven-overhaul-uks-social-security-system-worsens

13. Big Brother Watch, critiques des algorithmes du DWP https://bigbrotherwatch.org.uk/press-releases/37614/

14. BBC News, Universal Credit et scores de risque https://www.bbc.com/news/uk-politics-66133665

15. ISSA, rapport sur l’IA dans la sécurité sociale https://www.issa.int/fr/news/new-report-ai-social-security

16. ISSA, Une utilisation avisée de l’intelligence artificielle

https://www.issa.int/html/annual-review-2023/fr/une-utilisation-avisee-delintelligence-artificielle/index.html

17. Étude du Conseil d’État français sur l’IA et l’action publique https://www.conseil-etat.fr/content/download/178071/file/SRE_ etudePM%20IA_avec%20hyperlien.pdf

18. CNIL / service public, doctrine d’usage de l’IA

https://labo.societenumerique.gouv.fr/fr/articles/ dossier-intelligence-artificielle-et-services-publics-quelle-doctrine-dusage/

19. Beswic, « Gestion des travailleurs par l’IA »

https://beswic.be/fr/blog/gestion-des-travailleurs-par-lia-opportunites-etrisques-pour-la-securite-et-la-sante-au-travail