Où l'IA est-elle autorisée à agir sans approbation humaine?
En un coup d'œil
La question n'est plus seulement l'output du modèle.
La question est la frontière d'action.
Board AskOù l'IA est-elle autorisée à agir?
Situation
L'IA passe de la recommandation à l'action.
La question n'est plus seulement l'output du modèle.
La question est la frontière d'action.
Un workflow soutenu par l'IA ne produit plus seulement des textes, des résumés ou des recommandations. Il peut déclencher une étape de workflow, mettre à jour un enregistrement, escalader une alerte, rédiger une communication client, prioriser un cas, recommander une réponse de contrôle ou préparer une action pour exécution.
Management Summary
L'agentic AI change la question de gouvernance. La gouvernance traditionnelle de l'IA demande si un modèle est exact, explicable, monitoré et contrôlé. L'agentic AI ajoute une autre question: que l'IA est-elle autorisée à faire?
La capacité n'est pas une permission. Un modèle peut être techniquement capable d'agir de façon autonome. Cela ne décide pas où il est autorisé à agir. La permission doit être déterminée par la matérialité, la réversibilité, l'impact client, l'effet juridique et l'appétit au risque.
Le Human Oversight doit être conçu. Une réponse forte n'est pas "there is a human in the loop". Une réponse forte montre où l'IA propose, où elle exécute uniquement après approbation, où une autonomie bornée est permise et où l'action autonome n'est pas autorisée.
Management Report Panel
Calibration de la qualité de réponse
GREEN is not a human-in-the-loop label. GREEN is an evidenced control boundary.
L’échelle d’autonomie
L'autonomie IA n'est pas un interrupteur binaire. Elle doit être calibrée selon la matérialité et la réversibilité.
Le niveau d'autonomie suit la matérialité et la réversibilité de l'action. Il ne suit pas la capacité du modèle.
Qui doit répondre
Note de responsabilité:
Technology peut permettre l'autonomie.
Le Business détient l'impact de l'action.
Le Board doit voir la frontière.
Preuves que le conseil devrait demander
- 01AI Action Inventory
- 02Autonomy Level Classification
- 03Action Boundary Map
- 04Human Approval Matrix
- 05Tool / API Permission Register
- 06Decision Rights Map
- 07Exception and Override Log
- 08Client / Conduct Impact View
- 09Testing and Simulation Evidence
- 10Stop / Rollback Protocol
Signaux d'alerte
- “It only recommends.”
- “A human is in the loop.”
- “The workflow is internal.”
- “The user can override it.”
- “The model has no final decision right.”
- “The vendor controls the permissions.”
- “We will define human approval during rollout.”
- “This is only a productivity tool.”
Aucune de ces déclarations n'est nécessairement fausse. Elles ne constituent simplement pas une evidence suffisante pour une board-level reliance.
Chemin vers le vert
- Droits d'action visibles
- Autonomie classifiée
- Approbation humaine meaningful
- Permissions contrôlées
- Actions reconstructibles
- Mécanisme d'arrêt testé
GREEN is not a human-in-the-loop label.
GREEN is an evidenced control boundary.
Prochaine question suggérée
Quel workflow soutenu par l'IA créerait demain le plus grand problème d'accountability s'il agissait sans approbation humaine explicite — et pouvons-nous démontrer la frontière qui l'empêche?
Base de sources sélectionnée
- EU AI Act, notamment Articles 12, 14, 15, 19, 26 et Annex III.
- GDPR, notamment Article 22 sur les décisions automatisées.
- DORA, notamment exigences d'ICT governance, logging, detection et continuity.
- ESMA, Public Statement on AI and Investment Services, mai 2024.
- IOSCO, Supervisory Toolkit for AI Use in Capital Markets, 2026.
- NIST AI Risk Management Framework and Generative AI Profile.
