Por Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
“Una persona revisa todas las decisiones”. La frase tranquiliza… pero yo te preguntaría algo más: ¿puede cambiar el resultado o solo tiene que aprobarlo? ¿Cuenta con tiempo e información para hacerlo?
Si estás revisando un proceso que decide sobre personas, te recomiendo Automated Decision-Making Under the GDPR: Practical Cases from Courts and Data Protection Authorities, de Future of Privacy Forum. Es un informe de Sebastião Barros Vale y Gabriela Zanfir-Fortuna publicado en mayo de 2022.
¿Qué es y hasta dónde llega?
El informe analiza casos de tribunales y autoridades de protección de datos relacionados con decisiones automatizadas bajo el GDPR. Su investigación recoge documentación disponible hasta abril de 2022. Es un análisis histórico, no una recopilación de toda la jurisprudencia vigente hoy. Puedes comprobar autores, fecha y alcance en el documento original.
Entre los asuntos que examina están el alcance del artículo 22 y la intervención humana significativa. También distingue las obligaciones generales de protección de datos de las condiciones específicas de ese artículo. Que una decisión no encaje en el artículo 22 no significa que desaparezcan las demás obligaciones.
Ejemplo ficticio: la revisión que no permite revisar
Imagina una empresa que usa un sistema para ordenar candidaturas. Alguien de recursos humanos ve la puntuación, tiene unos segundos por expediente y normalmente confirma lo que recomienda la pantalla. En el procedimiento aparece “revisión humana”.
No te diría que ese nombre demuestra lo que ocurre. Primero te propondría observar el trabajo real: qué información ve la persona, qué puede cuestionar, cómo documenta una discrepancia y qué pasa si decide no seguir la recomendación.
Si apartarse del resultado exige una explicación larguísima, pero aceptarlo requiere 1 clic, también conviene hablar de esa diferencia. No estoy resolviendo aquí si el proceso cumple la ley. Te estoy señalando una situación que merece revisión, con quienes conocen el sistema y con el equipo jurídico correspondiente.
Cómo lo usaría para preparar una revisión
Te propongo elegir 1 decisión concreta, no empezar por todo el inventario de IA. Por ejemplo: quién pasa a entrevista, quién recibe una oferta o qué solicitud necesita documentación adicional. Después, dibuja el recorrido desde la entrada de información hasta la respuesta que recibe la persona.
- Identifica dónde influye el sistema. A veces el resultado final lo firma alguien, pero el filtro previo ya dejó fuera alternativas.
- Describe la intervención humana. Escribe acciones observables, no solo el cargo de quien supervisa.
- Revisa la posibilidad de cuestionar. ¿La persona afectada sabe a quién dirigirse si detecta un error?
- Separa lo comprobado de lo pendiente. Una descripción del proveedor no equivale a observar tu propia configuración.
Estas preguntas son mi propuesta de trabajo. No convierten los casos del informe en una receta jurídica para tu organización. Te ayudan a llegar a una consulta con un proceso descrito y dudas concretas, en lugar de una afirmación tan amplia como “tenemos a alguien supervisando”.
Las familias que relaciono con este recurso
Autonomía y agencia: me interesa si las personas pueden comprender, cuestionar o revisar una decisión que les afecta. Decisiones, organizaciones y sociedad: me interesa quién asume la responsabilidad y qué condiciones tiene para ejercerla. Esta relación corresponde a mi Taxonomía IAConSentido, no a una clasificación del informe.
Un documento útil, con una fecha que importa
Te recomiendo usar este informe para conocer problemas y argumentos, y después comprobar las resoluciones y orientaciones posteriores que correspondan. No traslades una conclusión de un caso antiguo a otro país, otro sistema o una decisión distinta sin revisar sus diferencias.
¿Es una guía actualizada de cumplimiento?
No. Su fecha de corte es abril de 2022. Para una decisión actual necesitas fuentes jurídicas actuales y asesoría sobre tu caso.
¿Basta con añadir una aprobación humana?
No conviene darlo por hecho. Revisa qué puede hacer esa persona en la práctica y pide una valoración del proceso completo, no solo de su etiqueta.
Te invito a seguir explorando recursos para comprender los riesgos humanos de la IA y decidir qué conviene revisar en tu situación.
Explorar la Biblioteca de Riesgos Humanos de la IA →Fuente consultada el 13 de noviembre de 2026. La inclusión del recurso no implica un aval de la entidad editora a IAConSentido.