Por Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
Cuando una organización dice que ya revisó la privacidad de una herramienta de IA, te conviene preguntar qué más examinó. Cuidar los datos importa… pero no responde por sí solo si una persona recibió un trato injusto, perdió una oportunidad o se quedó sin forma de pedir una revisión.
El resumen Getting the future right – Artificial intelligence and fundamental rights, publicado por la Agencia de los Derechos Fundamentales de la Unión Europea, ayuda a ampliar esa conversación. Te propongo usarlo para preparar preguntas, no como una lista que garantice que todo está resuelto.
Qué documento estás consultando
Es un resumen de 2021 sobre los efectos del uso de IA en los derechos fundamentales. Recoge una investigación centrada en 4 ámbitos: prestaciones sociales, policía predictiva, servicios de salud y publicidad dirigida. Su contexto es europeo y anterior a la aprobación del Reglamento de IA de la Unión Europea.
No es una plantilla actual de evaluación de impacto del Reglamento de IA. Aunque una lista de recursos lo presente con ese nombre, el título y el contenido del PDF corresponden a este reporte. Te recomiendo comprobar siempre el documento original antes de atribuirle una función que no tiene.
Por qué me interesa que lo conozcas
Yo me quedaría con una distinción para empezar: comprobar que un sistema funciona no es lo mismo que comprender cómo afecta a las personas. Un proceso puede ser más rápido y aun así resultar difícil de cuestionar. También puede utilizar datos correctamente y producir decisiones que necesitan otra clase de revisión.
Esto no significa que haya que rechazar cualquier automatización. Significa que la pregunta sobre sus beneficios debe acompañarse de otra sobre sus consecuencias. Te conviene hacer ambas antes de convertir el uso de una herramienta en una rutina que nadie vuelve a revisar.
Ejemplo ficticio: resolver solicitudes con menos espera
Imagina que una organización automatiza parte de la revisión de solicitudes. El tiempo medio de respuesta baja y el equipo celebra el resultado. Después descubren que algunas personas reciben negativas que no entienden y que el canal para corregir información exige conocimientos que no tienen.
Si solo miras el tiempo promedio, puedes pasar por alto lo que está ocurriendo. Te propongo revisar también las excepciones: quién se queda fuera, qué explicación recibe, cómo puede corregir un dato y qué persona tiene autoridad para revisar el caso. No se trata de atribuir un problema a la IA sin evidencia, sino de buscar información que el promedio no muestra.
El ejemplo es ficticio. No describe una institución investigada por la FRA ni permite concluir que todos los sistemas utilizados para gestionar solicitudes produzcan esos efectos.
Cómo lo relaciono con los riesgos humanos de la IA
Seguridad, privacidad y dignidad: me interesa mirar el tratamiento de la información junto con el trato que recibe la persona. Proteger un archivo y escuchar a quien puede verse perjudicado son tareas distintas, aunque ambas importen.
Decisiones, organizaciones y sociedad: te recomiendo preguntar quién eligió los criterios, quién revisa las excepciones y quién responde cuando hay un problema. Estas conexiones pertenecen a mi Taxonomía IAConSentido; no son categorías oficiales del reporte.
Una actividad breve para tu equipo
Elige 1 decisión en la que utilices IA y escribe el recorrido de una persona que no está de acuerdo con el resultado. Empieza por cómo se entera, sigue con cómo puede preguntar y termina con quién puede revisar. Si una parte depende de un “alguien se encargará”, todavía falta definirla.
Después contrasta ese recorrido con la experiencia real de quienes lo utilizan. No hace falta esperar una reclamación para descubrir que una explicación no se entiende o que el contacto indicado no puede resolver nada.
Preguntas frecuentes
¿Este resumen sirve para cumplir el Reglamento de IA?
No por sí solo. Es un documento de 2021. Para obligaciones actuales necesitas revisar la normativa vigente, su aplicabilidad y las orientaciones pertinentes con apoyo especializado.
¿Solo es útil en Europa?
Sus conclusiones se sitúan en un contexto europeo. Las preguntas sobre trato, explicación y revisión pueden ayudarte a conversar en otros lugares, sin trasladar automáticamente obligaciones jurídicas de una jurisdicción a otra.
Para seguir explorando, te recomiendo la Biblioteca de Riesgos Humanos de la IA.
Fuente consultada el 13 de noviembre de 2026. La inclusión del recurso no implica un aval de la FRA a IAConSentido.