IA et action publique : le défi de la résilience décisionnelle

Anticiper les perturbations numériques, y faire face et en limiter les conséquences… La résilience numérique¹ tient en ces trois mouvements plébiscités dans l’action publique, où la continuité des services constitue une exigence fondamentale.

Mais, si l’IA intervient dans la chaîne de décision, la seule résilience des infrastructures suffit-elle encore à garantir la fiabilité de l’action publique ? Autrement dit, comment préserver un jugement fiable lorsque les perceptions, les analyses et une partie des arbitrages sont médiés par des systèmes d’IA ?

Avec l’essor de l’IA, les systèmes d’information contribuent désormais aux analyses, aux recommandations et aux arbitrages. Cette évolution éclaire d’un jour nouveau les travaux sur les organisations hautement fiables. Leur robustesse tient autant à la continuité des systèmes qu’à la capacité de maintenir un jugement fiable face à l’incertitude et aux situations critiques.

C’est pourquoi les organisations auraient tout intérêt à étendre cette logique à la résilience décisionnelle. Cela suppose de maintenir une capacité de décision fiable en situation de contrainte, d’incertitude et d’obligation de justification.

Cette nouvelle exigence change la donne. Outre, la continuité de leurs systèmes, les organisations préservent ainsi la qualité de leurs décisions, la responsabilité des acteurs, la confiance des citoyens et leur capacité d’agir de manière fiable.

Le vrai déplacement : du système d’information à la chaîne de décision

L’IA a des impacts sur le capital cognitif des organisations et des métiers. En l’absence de réel pilotage collectif, elle reconfigure la manière dont elles produisent des connaissances et interprètent des situations. Elle redéfinit également la façon dont elles hiérarchisent l’attention et préparent l’action.

Dans la sphère publique, les systèmes numériques dépassent leur rôle d’exécution. Ils qualifient les situations, structurent les arbitrages et orientent les décisions.

C’est pourquoi la résilience pertinente ne peut plus être pensée uniquement comme une propriété de l’infrastructure.

Une administration peut conserver des systèmes disponibles, sécurisés et continus. La qualité de ses décisions n’en demeure pas moins fragilisée par une dépendance excessive aux recommandations et une perte de compréhension des étapes intermédiaires. S’ajoute à cet écueil, une difficulté à traiter les cas atypiques et un affaiblissement de la contradiction ou de l’escalade.

Outre la panne ou la rupture de service, la vulnérabilité porte sur la chaîne de jugement elle-même.

Pourquoi les exigences de fiabilité sont-elles plus fortes dans l’action  publique ?

Dans l’action publique, l’exigence de fiabilité est plus forte parce que la décision engage des droits, produit des effets collectifs et doit rester explicable, équitable et responsable. Elle doit traiter des situations hétérogènes, arbitrer sous pression, absorber l’exception et rendre compte de ses décisions. Certes, l’erreur dégrade la performance. Elle affecte également la légitimité de l’institution elle-même.

Dans ce contexte, la fiabilité exige davantage que la performance locale d’un système d’IA. Un dispositif peut être rapide, utile, voire techniquement robuste. Il peut pourtant dégrader la qualité de la décision et du service public, dès lors qu’il invisibilise l’incertitude, standardise abusivement des situations singulières ou réduit la capacité d’un agent à exercer un jugement réel.

Aussi, les organisations dans l’action publiques doivent se montrer fiables, même lorsque l’IA modifie les conditions de production du jugement. Cela suppose de fixer les conditions dans lesquelles elle éclaire l’action sans affaiblir la fiabilité de l’organisation.

Cette exigence conduit à définir une véritable doctrine d’emploi de l’IA :

• Quelles décisions peuvent être assistées ?
• Quelles décisions doivent demeurer sous supervision renforcée ?
• Quelles décisions ne doivent pas être déléguées sans garanties beaucoup plus strictes ?

Il en va de la préservation des capacités de conception, d’analyse, d’action et d’évaluation qui fondent la conduite des politiques publiques.

Les compétences critiques : non pas utiliser l’IA, mais garder le discernement

Au cœur de ce déplacement de la résilience numérique à la résilience décisionnelle se trouve un actif souvent sous-estimé : le capital cognitif de l’organisation. Il se définit comme la singularité des savoirs disciplinaires, savoir-faire métier, routines, repères explicites et implicites, critères partagés de solidité, d’acceptabilité et de rigueur.

La puissance de calcul de l’IA peut fragiliser progressivement ce capital cognitif collectif. Sa rapidité d’exécution et son apparente fluidité encouragent un usage de plus en plus spontané et crée une nouvelle dépendance critique. Cet usage peut réduire l’effort d’analyse et affaiblir la vigilance professionnelle. Il peut aussi limiter la confrontation entre pairs et brouiller la compréhension des étapes intermédiaires. À mesure que ces pratiques s’installent, un « délestage cognitif »  peut se former. L’organisation gagne alors en vitesse, mais perd en capacité de discernement. Le risque dépasse donc l’erreur ponctuelle. Il touche la qualité même du jugement collectif.

C’est pour cette raison que la question des compétences doit être reposée. L’arrivée de l’IA change la notion d’acceptabilité, de stratégie de transformation et d’accompagnement du changement. Former à l’IA ne consiste pas uniquement à diffuser des usages. Il faut armer les agents, les managers et les collectifs de travail. Ils doivent pouvoir lire une sortie IA comme une proposition située. Ils ne doivent pas la traiter comme un fait. Cela suppose de savoir qualifier un doute et repérer une limite, identifier un angle mort, décider quand escalader et documenter un arbitrage.

Dans cette perspective, la littératie IA est d’abord une compétence de jugement. Elle est aussi une compétence de supervision et de responsabilité. Autrement dit, elle engage directement la robustesse de l’action publique.

L’apprentissage organisationnel : la condition souvent oubliée de la fiabilité

Mais les compétences individuelles ne suffisent pas. Une organisation hautement fiable apprend collectivement de ses propres usages. Sa fiabilité ne repose pas seulement sur la formation initiale, mais sur sa capacité à capitaliser l’expérience. C’est ici que l’apprentissage organisationnel devient central.

Avec l’IA, les incidents, les contournements, les désaccords avec les recommandations, les faux positifs, les cas atypiques ou les moments de reprise en main humaine ne sont pas marginales. Ils sont des matériaux de progression. Une organisation mature sait en faire des objets de retour d’expérience, de discussion entre pairs, de révision des pratiques et d’ajustement de la gouvernance.

La formation donne des repères. L’apprentissage organisationnel construit la fiabilité réelle. Ce sont les routines collectives (droit d’alerte, circulation des signaux faibles, analyse des écarts, traitement explicite des quasi-incidents, clarification des responsabilités ) qui permettent d’éviter qu’une dépendance mal comprise aux systèmes d’IA ne se transforme en fragilité structurelle.

Dans cette perspective, la résilience décisionnelle dépend autant de la qualité des outils que de la capacité de l’institution à apprendre de ses propres interactions avec eux.

Ce que les organisations « hautement fiables » ont à nous apprendre

Le rapprochement avec les organisations hautement fiables met en évidence plusieurs exigences pour toute organisation évoluant dans un environnement critique :

• une attention constante aux signaux faibles ;
• un refus des simplifications excessives ;
• une capacité d’escalade permettant de traiter rapidement les situations inhabituelles ;
• le maintien des capacités d’action en mode dégradé ;
• un apprentissage continu fondé sur l’analyse des écarts, des incidents et des retours d’expérience.

Tous ces principes résonnent directement avec les défis posés par l’IA dans l’action publique.

Dans ce contexte, la fiabilité d’une institution repose sur un usage sélectif et maîtrisé de l’IA. Ce dernier doit s’adapter au niveau de risque et aux exigences de supervision propres à chaque situation.

Cette lecture réhabilite également une idée souvent négligée dans les discours sur l’innovation : le mode dégradé (notion en droite ligne avec les principes des HRO). Une organisation robuste sait ralentir, suspendre son action. Elle sait aussi revenir à des procédures plus humaines ou plus contradictoires lorsque les conditions de confiance ne sont plus réunies.

La maturité tient moins à l’ampleur du déploiement et au nombre de cas d’usage d’IA qu’à la qualité du cadre de décision et à la capacité de l’organisation à maintenir une qualité de jugement sous pression.

Pourquoi les IA spécialisées compteront davantage que les promesses généralistes ?

Dans cette perspective, les IA spécialisées présentent un intérêt particulier. Dans l’action publique, les systèmes les plus utiles et les plus gouvernables ne seront plus nécessairement les plus généralistes. Souvent, ce seront ceux qui sont circonscrits à un domaine, à un corpus, à une procédure ou à une classe de décisions.

Leur avantage est certes technique, mais surtout institutionnel. Plus un système est spécialisé, plus il devient possible d’en définir le périmètre. Il devient aussi possible d’en évaluer les performances réelles, d’en expliciter les limites, d’en organiser la supervision et d’en attribuer la responsabilité. À l’inverse, plus un dispositif prétend couvrir indistinctement des tâches hétérogènes, plus il devient difficile de gouverner ses effets et de l’aligner sur les finalités du service public.

La question de l’alignement doit d’ailleurs être reformulée dans un langage d’action publique. Un système est aligné lorsqu’il se comporte de manière cohérente avec les finalités poursuivies. Il respecte aussi les exigences d’équité, les obligations de justification et le niveau de contrôle humain requis. L’alignement est une condition de fiabilité institutionnelle, au-delà de la seule exigence technique.

Le vrai arbitrage : où accélérer, où ralentir, où renoncer

L’un des contresens les plus fréquents consiste à confondre vitesse et progrès. Dans les organisations publiques, le temps gagné avec l’IA n’a de valeur que s’il est protégé et réorienté vers ce qui fonde la qualité du service public :

• instruction des cas complexes,
• accessibilité et relation aux usagers,
• équité et régulation,
• anticipation et capacité de gestion de crise.

Le vrai arbitrage n’est donc pas strictement technologique ; il est organisationnel et politique, organisé autour de 3 questions clés :

• Où faut-il accélérer ?
• Où faut-il au contraire ralentir ?
• Et à quoi ne faut-il pas renoncer ?

Une institution responsable sait distinguer les frictions inutiles des ralentissements nécessaires au jugement, à la traçabilité et à la responsabilité.

C’est là que se joue le passage d’une logique d’adoption à une logique de maturité.

Vers une doctrine de fiabilité sociotechnique

Avec l’entrée résolue des administrations publiques dans l’IA, l’enjeu devient leur capacité à construire une doctrine de fiabilité sociotechnique.

Une telle doctrine repose sur quelques exigences simples mais structurantes :

• ne jamais subir une dépendance sans la nommer ;
• préserver la possibilité d’un fonctionnement en mode dégradé ;
• rendre explicites l’intention, le mandat, les responsabilités et les effets ;
• amplifier la formation non seulement aux outils, mais au jugement ;
• organiser des boucles de retour d’expérience à partir des contournements et des cas atypiques.

Une institution est mature lorsqu’elle explicite ce qu’elle délègue, supervise, rend réversible ou refuse d’automatiser. Alors, la résilience numérique devient véritablement une résilience décisionnelle, au service de la liberté d’action.

C’est sans doute le véritable enjeu de l’IA dans l’action publique : continuer à décider de manière fiable dans un environnement où les systèmes d’IA prennent une place croissante dans la fabrique même des politiques publiques et de leurs impacts sur les citoyens.

C’est sans doute le véritable enjeu de l’IA dans l’action publique. Parceque les systèmes d’IA prennent une place croissante dans la fabrique même des politiques publiques, et dans leurs impacts sur les citoyens, il s’agit donc de continuer à décider de manière fiable, malgré cette évolution.

---

Références

1. 1. 1. « La résilience numérique est la capacité d’une entité à construire et assurer dans la durée son intégrité opérationnelle face à tout type de perturbation, qu’il s’agisse d’une cyberattaque, d’une loi à portée extraterritoriale, d’une défaillance de fournisseur ou d’une rupture géopolitique, afin de garantir la continuité de ses services critiques. Elle engage directement la responsabilité des directions générales et des conseils d’administration. » (« Souveraineté et résilience numériques : note de position doctrinale du Cigref », cigref.fr, juin 2026). ↩︎