Por Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
Una herramienta promete ayudarte a conocer mejor a tus alumnos, clientes o trabajadores. Puede clasificar, comparar y recomendar… pero ¿qué sabe la persona sobre la que se está tomando una decisión? ¿Puede decir que no? ¿Alguien puede escucharla si el resultado es injusto?
Te recomiendo tener esas preguntas cerca cuando consultes la Recomendación sobre la ética de la inteligencia artificial de la UNESCO. Me interesa porque recuerda que hablar de IA no consiste únicamente en hablar de eficiencia.
Qué es este documento:
La Recomendación es un instrumento de la UNESCO que orienta el desarrollo y uso ético de la IA. Su presentación oficial sitúa los derechos humanos y la dignidad entre sus valores centrales. Incluye principios relacionados con privacidad, supervisión humana, transparencia, responsabilidad, equidad y sostenibilidad.
No es una certificación de herramientas. Tampoco puedes usarla para concluir que una empresa cumple la legislación de un país. Te sirve como referencia para discutir qué debería cuidarse; las obligaciones concretas necesitan una revisión aparte.
Lo que te propongo hacer con ella:
En lugar de copiar una lista de principios a una presentación, elige una decisión que tu organización esté a punto de tomar. Después pregunta qué tendría que suceder para que esos principios se noten en la vida de las personas.
Si dices que habrá supervisión humana, ¿esa persona tendrá tiempo para revisar? ¿Podrá cambiar el resultado sin que se le penalice? Si prometes transparencia, ¿la explicación será comprensible para quien la necesita o solo para quien construyó el sistema?
Yo prefiero una respuesta concreta a una frase impecable. “La persona puede solicitar revisión por este canal y alguien con autoridad responde” permite comprobar algo. “Ponemos a las personas en el centro” todavía necesita mucho trabajo detrás.
Ejemplo ficticio: una escuela quiere detectar el interés de sus alumnos:
Imagina que una escuela considera una herramienta que interpreta señales de los estudiantes y promete decir quién presta atención. La propuesta puede resultar atractiva para quien necesita apoyar a un grupo… pero antes de probarla te recomiendo detenerte en lo que se está infiriendo sobre cada alumno.
Yo preguntaría qué entiende el proveedor por atención, qué evidencia respalda esa interpretación y qué sucede cuando se equivoca. También quién verá los resultados y para qué podrá utilizarlos. No daría por hecho que una señal registrada por una máquina describe el esfuerzo, la motivación o el bienestar de una persona.
Para empezar la conversación, propondría una alternativa: ¿podemos conocer esa dificultad hablando con el alumno, observando su trabajo o cambiando la actividad sin recoger esos datos? La comparación importa. No tenemos que aceptar que la opción más tecnológica sea la más adecuada.
Este ejemplo es ficticio. No describe una evaluación de un producto concreto ni permite concluir su legalidad. Si se planteara un caso real con menores, necesitaría una revisión especializada antes de tomar decisiones.
4 preguntas para llevar a tu equipo:
- Necesidad: ¿qué problema queremos resolver y qué otras opciones tenemos?
- Personas afectadas: ¿quién puede salir perjudicado y quién todavía no participa en la conversación?
- Capacidad de corregir: ¿qué puede hacer una persona cuando el sistema se equivoca sobre ella?
- Límites: ¿qué uso no vamos a aceptar, aunque la herramienta permita hacerlo?
Son preguntas que yo te sugiero para aplicar el tema a tu contexto. No son una cita ni un cuestionario oficial de la UNESCO.
Con qué riesgos humanos lo relaciono:
En mi Taxonomía IAConSentido te recomiendo observar Seguridad, privacidad y dignidad, porque una clasificación puede afectar cómo se trata a una persona. También Decisiones, organizaciones y sociedad, porque adoptar una herramienta implica asignar responsabilidades y vías de revisión.
La clasificación de esta biblioteca es mía. No atribuyo estas familias a la UNESCO ni presento su Recomendación como un aval de mi trabajo.
Preguntas frecuentes:
¿Hay una versión en español?
Sí. La página oficial enlazada está en español y presenta los valores, principios y materiales relacionados. Te recomiendo empezar allí antes de consultar resúmenes de terceros.
¿Con esto basta para aprobar una herramienta?
No. Te ayuda a plantear mejores preguntas, pero aún necesitas evidencias sobre el producto, conocer el contexto y revisar las obligaciones aplicables. Una declaración ética no reemplaza esas comprobaciones.
Si quieres seguir explorando, te invito a mi Biblioteca de Riesgos Humanos de la IA. Elige el recurso que responde a la pregunta que tienes hoy.
Fuente oficial consultada el 13 de noviembre de 2026. Las recomendaciones prácticas y los ejemplos identificados como ficticios son míos; no implican afiliación ni aval de la institución.