Por Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
Cuando una organización habla de IA responsable, yo quiero saber algo más que sus principios. ¿Qué puede hacer una persona si una decisión le perjudica? ¿A quién puede pedir una explicación? ¿Quién tiene que responder?
El Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law te permite conocer un marco internacional que sitúa esas preocupaciones en el centro. Es el Convenio Marco del Consejo de Europa sobre IA, derechos humanos, democracia y Estado de derecho, identificado como CETS 225 y abierto a la firma el 5 de septiembre de 2024.
¿Qué documento es?
El convenio aborda actividades dentro del ciclo de vida de los sistemas de IA y su relación con derechos, democracia y Estado de derecho. Incluye principios como dignidad y autonomía, transparencia y supervisión, responsabilidad, igualdad y privacidad. Su alcance y las medidas que corresponde adoptar deben leerse en el texto oficial completo, no deducirse de una lista breve.
Hay una distinción importante: el Consejo de Europa no es la Unión Europea. Tampoco conviene confundir este convenio con el Reglamento de IA de la UE. Para conocer firmas, ratificaciones y situación jurídica, te recomiendo consultar el registro oficial del tratado. Firmar, ratificar y estar sujeto a obligaciones en vigor no son expresiones intercambiables.
Ejemplo ficticio: una respuesta que nadie sabe explicar
Imagina que una persona recibe una respuesta negativa a una solicitud. Pregunta por qué y le contestan que el sistema hizo la evaluación. La persona que la atiende no conoce los criterios y tampoco sabe a quién derivar la duda.
No utilizaría este ejemplo para afirmar, sin más información, que se ha incumplido el convenio. Lo usaría para revisar el recorrido de la persona: qué explicación recibe, qué información puede aportar y cómo solicita una revisión.
Te propongo pensar también en alguien que no maneja bien la tecnología. Si la única vía para cuestionar una decisión es un formulario difícil de encontrar, la posibilidad existe sobre el papel… pero quizá no resulta utilizable para quien la necesita.
Las preguntas que llevaría a una organización
- ¿Quién puede verse afectado? Incluye a quienes reciben una decisión, no solo a quienes usan la herramienta.
- ¿Cómo se enteran? Revisa qué se explica sobre la intervención del sistema y qué entiende realmente la persona.
- ¿Dónde pueden pedir ayuda? Comprueba si hay una vía identificable y una persona o equipo responsable.
- ¿Qué puede cambiarse? Distingue recibir una queja de tener capacidad para revisar el resultado.
- ¿Qué queda documentado? Guarda lo necesario para entender una decisión y revisarla, cuidando la información personal.
Estas son preguntas prácticas que te propongo, no una transcripción del tratado ni una evaluación de cumplimiento. Me interesa que puedas convertir una conversación abstracta en una revisión del servicio que alguien recibe.
También te recomiendo incluir a quienes atienden las dudas. A veces se diseña un procedimiento sin preguntarles qué información necesitan para ayudar. Si no pueden explicar una respuesta ni derivarla correctamente, añadir un aviso genérico no resuelve ese problema.
Cómo lo relaciono con los riesgos humanos de la IA
Autonomía y agencia: por la posibilidad de entender, participar y cuestionar decisiones que afectan a tu vida. Decisiones, organizaciones y sociedad: por las responsabilidades de instituciones y organizaciones. Esta selección pertenece a mi Taxonomía IAConSentido; no sustituye las categorías jurídicas del convenio.
Lo que no debes dar por hecho
La existencia del convenio no demuestra que un producto esté certificado, ni permite concluir que todas sus disposiciones obligan de la misma manera a cualquier empresa del mundo. Para una decisión jurídica necesitas comprobar territorio, estado del tratado, legislación aplicable y actividad concreta.
¿Es lo mismo que el AI Act?
No. Son instrumentos diferentes, de instituciones diferentes. Conviene identificarlos correctamente antes de atribuirles requisitos.
¿Puedo usarlo para conversar con mi equipo?
Sí. Te sugiero empezar por una experiencia concreta de una persona afectada y preguntar qué tendría que funcionar mejor.
Te invito a seguir explorando recursos para comprender los riesgos humanos de la IA y decidir qué conviene revisar en tu situación.
Explorar la Biblioteca de Riesgos Humanos de la IA →Fuente consultada el 13 de noviembre de 2026. La inclusión del recurso no implica un aval de la entidad editora a IAConSentido.