Le human-in-the-loop est une réponse intuitive au risque posé par l’IA : laisser la machine proposer, puis demander à un humain de valider. Le modèle fonctionne lorsque les décisions sont peu nombreuses, clairement identifiables et suffisamment importantes pour justifier le temps consacré au contrôle. Il devient plus difficile à défendre lorsque l’IA commence à produire des centaines ou des milliers d’actions.
Le problème est arithmétique avant d’être philosophique. Une enquête de McKinsey sur l’adoption de l’IA générative montre déjà des pratiques très hétérogènes : 27 % des organisations utilisant l’IA générative déclarent faire vérifier l’intégralité des contenus produits avant utilisation, tandis qu’une proportion comparable n’en contrôle que 20 % ou moins. Avec les agents, cette tension augmente. Une étude IBM publiée en juin 2026 sur le déploiement des agents IA indique que seuls 11 % des 2 000 dirigeants technologiques interrogés se considèrent totalement préparés à l’échelle prévue de leur déploiement, tandis que deux tiers disent être responsables de systèmes qu’ils ne contrôlent pas entièrement.
Maintenir une validation humaine sur chaque action revient alors à automatiser l’exécution tout en conservant le même goulot d’étranglement. L’IA prépare davantage de décisions ; l’organisation doit employer davantage de personnes à les approuver. Le gain finit par dépendre de la vitesse à laquelle les humains peuvent cliquer sur « valider », ce qui constitue une définition assez particulière de l’autonomie.
Une gouvernance par principes définit dans quelles conditions une catégorie d’actions peut être réalisée sans intervention humaine.
Une action réversible et à faible impact peut, par exemple, bénéficier d’une autonomie importante. Une situation ambiguë peut déclencher une escalade. Une décision irréversible ou susceptible d’affecter fortement un client peut rester soumise à validation. Cette logique de proportionnalité apparaît également dans l’article 14 de l’AI Act européen consacré à la supervision humaine : pour les systèmes à haut risque, les mesures de supervision doivent être adaptées aux risques, au niveau d’autonomie et au contexte d’usage. Le NIST distingue lui aussi différents degrés d’interaction entre humains et systèmes IA, du système entièrement autonome au fonctionnement entièrement manuel, et il insiste sur la définition explicite des rôles de supervision.
Le changement est surtout organisationnel. L’humain ne disparaît pas : son travail se déplace. Au lieu d’examiner chaque décision, des équipes doivent définir les frontières d’autonomie, déterminer les critères d’escalade, répartir les responsabilités, traiter les exceptions et modifier les règles lorsque les usages évoluent ; les opérateurs deviennent des architectes.
Ce déplacement permet de passer à l’échelle parce qu’une même règle peut encadrer de nombreuses décisions. Ajouter un nouveau cas d’usage ne suppose plus nécessairement d’ajouter une nouvelle file de validation humaine. Il peut être intégré dans un cadre existant selon son niveau de risque, sa réversibilité et les conséquences d’une erreur.
La contrepartie est moins confortable. Une mauvaise décision humaine reste généralement locale. Une mauvaise règle peut être appliquée automatiquement des milliers de fois. La gouvernance par principes ne réduit donc pas la responsabilité ; elle concentre davantage d’importance sur la qualité des frontières définies en amont.
Gouverner le domaine d’autonomie
La question utile change alors de forme. Il s’agit moins de demander « où placer un humain dans la boucle ? » que de déterminer dans quel domaine le système peut agir sans lui, et quelles conditions doivent provoquer son retour.
C’est ce qui rend cette gouvernance plus flexible : le niveau d’autonomie peut évoluer sans reconstruire à chaque fois tout le dispositif de contrôle.
L’organisation échange finalement deux modèles :
- dans le premier, le coût de gouvernance augmente avec le nombre de décisions
- dans le second, il augmente surtout avec la complexité des règles et des exceptions