Por Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
Si una decisión te afecta, debería importarte poder entenderla y cuestionarla. Que haya participado una IA no vuelve menos importante esa posibilidad. Al contrario: cuando nadie sabe explicar quién decidió, encontrar a una persona que responda puede resultar más difícil.
Por eso recupero las Universal Guidelines for Artificial Intelligence. No son una novedad ni una ley que puedas aplicar automáticamente a cualquier organización. Son un recurso para conversar sobre las condiciones humanas que no conviene olvidar al usar sistemas de IA.
Qué son estas directrices
Presentadas en 2018, las directrices reúnen propuestas sobre transparencia, responsabilidad, intervención humana y protección de las personas frente a decisiones automatizadas. El Center for AI and Digital Policy mantiene una página con el documento y antecedentes de sus apoyos y discusión.
Su carácter es orientativo. La presencia de una propuesta en este texto no significa que exista un derecho exigible idéntico en todos los países. Para una reclamación concreta hay que revisar el marco jurídico aplicable y los hechos.
Qué me interesa llevar a una conversación cotidiana
Yo empezaría por una pregunta sencilla: si el sistema se equivoca conmigo, ¿qué puedo hacer? No basta con que una organización tenga un correo de contacto si nadie puede revisar la decisión. Tampoco basta con explicar que se usa IA si la persona no entiende qué parte del resultado depende de ella.
Te recomiendo mirar la experiencia completa. Cómo se informa del uso, cómo se corrige un dato, quién escucha una inconformidad y qué ocurre mientras se revisa. A veces hablamos mucho del modelo y poco de ese recorrido, que es precisamente el que la persona afectada necesita seguir.
Ejemplo ficticio: una solicitud rechazada sin explicación útil
Imagina que presentas una solicitud de servicio y recibes una negativa automática. El mensaje dice que el sistema analizó la información, pero no identifica qué dato fue determinante. Intentas corregir un error y solo encuentras un formulario que vuelve a producir la misma respuesta.
Si estuviera ayudando a revisar ese proceso, preguntaría quién puede recibir tu aclaración, qué información necesita y si tiene autoridad para cambiar el resultado. Tener a una persona mirando una pantalla no es lo mismo que darle tiempo, información y capacidad para intervenir.
Este ejemplo no describe una empresa real. Lo uso para mostrar cómo una declaración general sobre control humano puede convertirse en preguntas concretas sobre atención y responsabilidad.
2 familias de riesgos para observar
Autonomía y agencia: me interesa si puedes comprender tus opciones y actuar cuando algo no corresponde. Una explicación que no puedes usar para hacer nada puede dejarte igual de indefenso que la ausencia de explicación.
Decisiones, organizaciones y sociedad: también importa quién diseñó el procedimiento y quién responde por sus resultados. No todo debe recaer en la persona que recibe la negativa. Estas familias pertenecen a mi Taxonomía IAConSentido y me ayudan a organizar la conversación, no a sustituir un análisis jurídico.
Una revisión que puedes hacer con tu equipo
Elige 1 proceso donde una herramienta influya en el trato que recibe alguien. Recórrelo como si necesitaras corregir un error. Busca el aviso, el contacto, la respuesta y la posibilidad de revisión. Anota dónde te quedas sin información o sin una opción clara para continuar.
Después asigna una mejora concreta a una persona responsable. Puede ser aclarar un mensaje, permitir corregir datos o definir quién revisa excepciones. Lo importante es comprobar después si la mejora funciona para quien la necesita, no solo si quedó escrita en un documento.
Preguntas frecuentes
¿Estas directrices certifican que una IA es ética?
No. No son una certificación de productos ni una prueba de sus resultados. Sirven como referencia para discutir principios y responsabilidades.
¿Siguen siendo útiles si son de 2018?
Sí, como referencia histórica para formular preguntas. Para decisiones actuales, acompáñalas con información sobre el sistema concreto y las normas vigentes en tu contexto.
Fuente consultada el 13 de noviembre de 2026. La inclusión de este recurso no implica un aval de su entidad editora a IAConSentido.