¿Dónde puede actuar la AI sin aprobación humana?
De un vistazo
La cuestión ya no es solo el output del modelo.
La cuestión es el límite de acción.
Board Ask¿Dónde puede actuar la AI?
Situation
La AI pasa de la recomendación a la acción.
La cuestión ya no es solo el output del modelo.
La cuestión es el límite de acción.
Un workflow apoyado por AI ya no produce solamente textos, resúmenes o recomendaciones. Puede activar un paso de workflow, actualizar un registro, escalar una alerta, redactar una comunicación al cliente, priorizar un caso, recomendar una respuesta de control o preparar una acción para ejecución.
Management Summary
Agentic AI cambia la pregunta de governance. La governance tradicional de AI pregunta si un modelo es preciso, explicable, monitorizado y controlado. Agentic AI añade otra pregunta: ¿qué está autorizada a hacer la AI?
Capacidad no es permiso. Un modelo puede ser técnicamente capaz de actuar de forma autónoma. Eso no decide dónde está autorizado a actuar. El permiso debe determinarse por materialidad, reversibilidad, impacto cliente, efecto legal y risk appetite.
Human Oversight debe diseñarse. Una respuesta fuerte no es "there is a human in the loop". Una respuesta fuerte muestra dónde la AI propone, dónde ejecuta solo tras aprobación, dónde se permite autonomía bounded y dónde la acción autónoma no está permitida.
Management Report Panel
Calibración de la calidad de respuesta
GREEN is not a human-in-the-loop label. GREEN is an evidenced control boundary.
La escalera de autonomía
La autonomía AI no es un interruptor binario. Debe calibrarse por materialidad y reversibilidad.
El nivel de autonomía sigue la materialidad y reversibilidad de la acción. No sigue la capacidad del modelo.
Quién debe responder
Nota de responsabilidad:
Technology puede habilitar autonomía.
El Business posee el impacto de la acción.
El Board necesita ver el límite.
Evidencias que el consejo debería solicitar
- 01AI Action Inventory
- 02Autonomy Level Classification
- 03Action Boundary Map
- 04Human Approval Matrix
- 05Tool / API Permission Register
- 06Decision Rights Map
- 07Exception and Override Log
- 08Client / Conduct Impact View
- 09Testing and Simulation Evidence
- 10Stop / Rollback Protocol
Señales de alerta
- “It only recommends.”
- “A human is in the loop.”
- “The workflow is internal.”
- “The user can override it.”
- “The model has no final decision right.”
- “The vendor controls the permissions.”
- “We will define human approval during rollout.”
- “This is only a productivity tool.”
Ninguna de estas afirmaciones es necesariamente falsa. Simplemente no constituyen evidencia suficiente para board-level reliance.
Camino hacia el verde
- Derechos de acción visibles
- Autonomía clasificada
- Aprobación humana meaningful
- Permisos controlados
- Acciones reconstruibles
- Stop mechanism probado
GREEN is not a human-in-the-loop label.
GREEN is an evidenced control boundary.
Próxima pregunta sugerida
¿Qué workflow apoyado por AI crearía mañana el mayor problema de accountability si actuara sin aprobación humana explícita — y podemos evidenciar el límite que lo impide?
Base de fuentes seleccionada
- EU AI Act, especialmente Articles 12, 14, 15, 19, 26 y Annex III.
- GDPR, especialmente Article 22 sobre decisiones automatizadas.
- DORA, especialmente requisitos de ICT governance, logging, detection y continuity.
- ESMA, Public Statement on AI and Investment Services, mayo de 2024.
- IOSCO, Supervisory Toolkit for AI Use in Capital Markets, 2026.
- NIST AI Risk Management Framework and Generative AI Profile.
