Gobernanza de agentes de IA: logs, permisos y checkpoints humanos
La gobernanza de agentes de IA suena pesada hasta que algo sale mal. Entonces todo el mundo quiere saber qué vio el agente, por qué actuó y quién lo aprobó.
La gobernanza no es burocracia. Es la forma en que la automatización se vuelve confiable.
Los permisos deben ser explícitos
Un agente no debería tener acceso difuso. Debería tener capacidades nombradas.
Por ejemplo:
- leer tickets de soporte
- resumir documentos
- redactar respuestas
- actualizar notas internas
- crear tareas
- solicitar aprobación
Cada capacidad necesita límites. Leer y escribir tienen riesgos distintos.
Los logs son features de producto
Si un agente toca un proceso empresarial, los logs no son opcionales. Son parte de la experiencia.
Un log útil responde:
- ¿qué entrada se usó?
- ¿qué herramientas se llamaron?
- ¿qué salida se produjo?
- ¿qué confianza o supuestos había?
- ¿quién revisó o aprobó?
- ¿qué cambió después?
Sin logs, la gente no puede confiar en el sistema cuando el resultado importa.
Las colas de revisión reducen riesgo
No toda acción necesita aprobación, pero las acciones de riesgo sí.
Las colas de revisión sirven para:
- mensajes hacia clientes
- decisiones financieras
- pasos sensibles legalmente o por compliance
- cambios de datos en sistemas fuente de verdad
- salidas con baja confianza
- casos inusuales
El agente prepara; la persona decide.
Escalar forma parte del workflow
Un agente bien diseñado sabe cuándo está fuera de profundidad.
Disparadores de escalado:
- información faltante
- datos contradictorios
- tema sensible detectado
- confianza bajo umbral
- fallo repetido
- corrección humana
Parar suele ser la acción más inteligente.
La gobernanza permite más autonomía después
La paradoja es que un control fuerte facilita más autonomía futura. Cuando existen permisos, logs y revisión, el equipo puede ampliar con seguridad lo que hace el agente.
Sin gobernanza, cada capacidad nueva se siente arriesgada.
El estándar práctico
Antes de poner un agente en un proceso real, pregunta:
¿Podríamos explicar qué ocurrió si mañana alguien cuestiona esta salida?
Si la respuesta es no, la automatización no está lista.