Hablar de una IA responsable suena bien. Lo difícil empieza cuando alguien tiene que decidir qué se permite, quién puede detener un sistema y qué ocurre si una persona resulta afectada.
Te recomiendo The Annual AI Governance Report 2025: Steering the Future of AI para conocer parte de esa conversación internacional. No porque tengas que copiar sus propuestas, sino porque puede ayudarte a formular preguntas más precisas en tu propia organización.
¿Qué contiene este reporte?
La publicación de la Unión Internacional de Telecomunicaciones, elaborada en colaboración con la Universidad de Oxford, reúne un análisis de tendencias y los resultados del AI Governance Dialogue de 2025. Aborda, entre otros asuntos, agentes de IA, infraestructura, participación y mecanismos para pasar de principios a acciones.
Sus 10 pilares expresan la visión de quienes copresidieron el diálogo. No son un tratado vinculante ni una norma que todas las organizaciones deban cumplir. El propio reporte aclara que las opiniones no necesariamente representan a ITU o a sus miembros.
La pregunta que yo llevaría a tu equipo
Cuando una organización dice que habrá «supervisión humana», te conviene preguntar qué podrá hacer realmente esa persona. ¿Tendrá tiempo para revisar? ¿Entenderá lo que está aprobando? ¿Podrá decir que no sin tener que justificarlo frente a un objetivo imposible de productividad?
Yo no daría por resuelto ese punto con poner un nombre en un documento. Te propongo describir la decisión concreta y comprobar qué información, autoridad y apoyo tendrá quien la revise.
Ejemplo ficticio: un agente que gestiona pedidos
Imagina que tu equipo utiliza un agente para buscar proveedores y preparar compras. Al principio solo sugiere opciones… pero después también confirma pedidos para ahorrar tiempo.
Antes de ampliar sus permisos, te recomiendo acordar el importe máximo, las compras que requieren autorización y la forma de detener una operación. Guarda además la información necesaria para reconstruir qué ocurrió. No es lo mismo recibir una recomendación que permitir que un sistema actúe en tu nombre.
Si nadie puede explicar quién autorizó ese cambio, el problema no se resuelve pidiéndole al agente que sea más cuidadoso.
Qué relación tiene con los riesgos humanos
Autonomía y agencia: te propongo observar qué capacidad de decidir conservas cuando delegas tareas que afectan a otras personas.
Decisiones, organizaciones y sociedad: conviene aclarar responsabilidades y vías de revisión antes de que surja un problema. Estas conexiones pertenecen a mi análisis editorial, no a la clasificación del reporte.
Cómo aprovecharlo sin convertirlo en una lista de cumplimiento
Escoge un problema que ya puedas describir. Busca el apartado pertinente y anota qué pregunta nueva te ayuda a hacer. Después determina qué evidencia necesitarías para responderla en tu caso. El reporte presenta debates de 2025; no verifica tu sistema ni sustituye una evaluación técnica o jurídica. Tampoco demuestra que las propuestas del diálogo ya se hayan implementado.
Puedes consultar las familias en el mapa de Riesgos Humanos de la IA.