Pedirle a una IA que te sugiera una opción es una cosa. Permitirle que actúe por ti es otra. Cuando empieza a enviar mensajes, mover información o realizar tareas, necesitas saber dónde termina tu autorización.
Qué encontrarás en este recurso
AI Agent Governance: A Field Guide. Este reporte del Institute for AI Policy and Strategy, presentado el 17 de abril de 2025, introduce problemas de gobernanza de agentes de IA. Describe sistemas capaces de perseguir objetivos mediante herramientas y acciones, y examina posibles intervenciones para supervisarlos.
El reporte combina escenarios, capacidades observadas y preguntas de gobernanza. Sus datos sobre rendimiento corresponden al momento analizado, no a una medición actual de todos los agentes. Los escenarios de grandes despliegues sirven para explorar posibilidades, no para afirmar que ya ocurrieron.
Cómo te recomiendo aprovecharlo
Yo te recomiendo aprovecharlo para distinguir capacidad de permiso. Que un agente pueda completar una tarea no significa que deba hacerlo sin consultarte. Necesitas decidir qué información puede usar, qué acciones tienen consecuencias y qué instrucciones no quedan abiertas a su interpretación.
Un ejemplo: organizar un viaje sin comprarlo todavía
Imagina que pides comparar hoteles y el agente tiene acceso a una tarjeta guardada. Es un ejemplo ficticio. Encontrar una buena opción no equivale a tener permiso para reservar. Yo dejaría por escrito presupuesto, condiciones y el punto en el que debe mostrarte la propuesta antes de comprometer dinero.
Qué puedes hacer en tu equipo
- Define el objetivo y sus límites: explica qué resultado buscas y qué acciones no autorizas.
- Revisa los accesos: no concedas cuentas o permisos que la tarea no necesita.
- Establece confirmaciones: pide revisión antes de pagos, mensajes externos o cambios difíciles de revertir.
- Conserva trazabilidad y salida: identifica qué hizo el agente, cómo detenerlo y a quién acudir para corregirlo.
Qué riesgos humanos te recomiendo observar
Autonomía y agencia: te conviene conservar decisiones, no solo recibir un resumen después. Decisiones, organizaciones y sociedad: te recomiendo acordar responsabilidades entre quienes desarrollan, implementan y utilizan el agente.
Relaciono estas situaciones con mi Taxonomía IAConSentido para ayudarte a identificar qué cuidar. Esta clasificación no pertenece a los autores del recurso ni supone que respalden el Método SENSE.
Lo que este recurso no resuelve por sí solo
Es un reporte de análisis de 2025, no una garantía sobre herramientas actuales ni una norma obligatoria. No uses sus predicciones o cifras históricas para comparar productos de hoy sin consultar evidencias nuevas.
¿Un agente necesita permiso para cada paso?
No necesariamente. Te propongo distinguir pasos rutinarios de acciones con consecuencias. El alcance debe estar claro desde el inicio y las confirmaciones deben aparecer donde una decisión merece tu revisión.
Te propongo empezar por esto
Elige 1 tarea que querrías delegar y completa esta frase: “Puede hacer esto sin consultarme, pero antes de aquello debe pedir mi autorización”. Si no puedes completarla, todavía falta definir la tarea.
Si necesitas ordenar estas decisiones, puedes conocer las preguntas del Método SENSE.