Por Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
Cuando un equipo evalúa una herramienta de IA, suele hablar de lo que quiere conseguir. Yo añadiría una pregunta desde el principio: ¿quién puede verse afectado aunque no esté en esta reunión? Esa persona puede no ser cliente, no usar la herramienta y no tener forma de enterarse de lo que se está decidiendo.
La propuesta Human Rights, Democracy, and the Rule of Law Assurance Framework for AI Systems: A Proposal, conocida como HUDERAF, ayuda a ampliar esa conversación. Te recomiendo acercarte a ella como un documento de trabajo histórico, no como una certificación vigente.
Qué es HUDERAF y de cuándo es
Es una propuesta elaborada en 2021 por investigadores de The Alan Turing Institute para el trabajo del Consejo de Europa sobre IA. Desarrolla una forma de analizar contexto, participación de personas afectadas, impactos y evidencia para justificar decisiones sobre sistemas de IA.
No debe confundirse con HUDERIA, la metodología posterior del Consejo de Europa. Si necesitas herramientas actuales, consulta la página oficial de HUDERIA. El proyecto de The Alan Turing Institute explica la relación entre estos trabajos. No son nombres intercambiables.
Qué pregunta te propongo hacer antes de evaluar
En vez de empezar con una lista de beneficios, escribe qué decisión ayudará a tomar el sistema y a quién alcanzará. Después pregunta cómo vas a conocer la experiencia de esas personas. No siempre basta con imaginarla desde una sala de reuniones.
También me interesa distinguir lo que sabes de lo que supones. Si dices que una herramienta no perjudicará a cierto grupo, ¿en qué te apoyas? ¿Hay pruebas, consultas o resultados revisables? Si todavía no los tienes, conviene registrar esa incertidumbre y decidir qué necesitas comprobar antes de avanzar.
Ejemplo ficticio: organizar solicitudes de atención
Imagina que una institución quiere usar IA para ordenar las solicitudes que recibe. El equipo espera responder más rápido. Durante la prueba descubre que algunas personas escriben mensajes muy breves o no utilizan las palabras que el sistema reconoce como prioritarias.
Yo no daría por resuelto el problema porque el promedio de atención haya mejorado. Te propongo revisar qué ocurre con esas solicitudes, hablar con quienes las atienden y comprobar si la persona afectada tiene una vía para explicar su situación. Después puedes decidir qué debe cambiar y qué evidencia necesitas para comprobarlo.
No estoy describiendo un caso real ni afirmando que toda clasificación produzca ese resultado. Es una situación ficticia para mostrar por qué el contexto importa tanto como la medida general de desempeño.
Cómo lo relaciono con los riesgos humanos de la IA
Seguridad, privacidad y dignidad: me interesa qué información se utiliza y cómo se trata a quien está siendo evaluado. Una persona no debería reducirse a una puntuación que nadie se toma el tiempo de comprender.
Decisiones, organizaciones y sociedad: hace falta identificar quién autoriza, quién revisa y quién puede detener o cambiar el uso. Estas conexiones corresponden a mi Taxonomía IAConSentido, no a una equivalencia formal con el marco del Consejo de Europa.
Cómo empezar sin llenar documentos por llenar
Elige 1 uso real y escribe 4 cosas: decisión que apoya, personas afectadas, evidencia disponible y duda pendiente. Asigna a alguien la tarea de resolver esa duda. Si no sabes qué cambio harías ante un resultado desfavorable, todavía falta concretar la evaluación.
Te recomiendo conservar también las razones de tus decisiones. Eso facilita revisar lo acordado cuando cambian los datos, la herramienta o las condiciones de uso.
Preguntas frecuentes
¿Completar una evaluación demuestra cumplimiento legal?
No. La revisión de impactos y el cumplimiento de obligaciones son asuntos relacionados, pero no equivalentes. Necesitas analizar las normas aplicables con el apoyo adecuado.
¿Debo usar HUDERAF o HUDERIA?
HUDERAF permite entender una propuesta de 2021. Para iniciar un trabajo actual, revisa primero los materiales oficiales vigentes de HUDERIA y decide cuáles corresponden a tu contexto.
Fuente consultada el 13 de noviembre de 2026. La inclusión de este recurso no implica un aval de su entidad editora a IAConSentido.