Por Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
Un proveedor te dice que su IA es responsable, transparente y confiable. Suena bien… pero todavía no sabes qué pasará cuando la herramienta dé una respuesta equivocada. Antes de aceptar esas palabras como garantía, te recomiendo pedir ejemplos y evidencias.
Los OECD AI Principles pueden ayudarte a ordenar esa conversación. Forman parte de la Recommendation of the Council on Artificial Intelligence de la OCDE. Su valor no está en colocarlos al final de una presentación, sino en discutir qué harás para que se cumplan en una situación real.
Qué son los principios de IA de la OCDE:
Se adoptaron en mayo de 2019 y se actualizaron en mayo de 2024. Incluyen 5 principios basados en valores: crecimiento inclusivo y bienestar; derechos humanos y valores democráticos; transparencia y explicabilidad; robustez, seguridad y protección; y responsabilidad. La recomendación también contempla orientaciones para responsables de políticas públicas.
Su existencia no certifica una herramienta ni demuestra que tu organización cumpla la legislación aplicable. Te recomiendo mantener separadas esas afirmaciones.
Cómo te propongo usarlos con un proveedor:
Elige una promesa y pide que te enseñen qué significa. Si el proveedor habla de supervisión humana, no me quedaría con un botón que dice “aprobar”. Preguntaría qué información recibe quien revisa, cuánto tiempo tiene y si realmente puede rechazar la recomendación.
Si habla de transparencia, pediría una explicación dirigida a la persona afectada. Un documento técnico puede ser necesario… pero no siempre responde lo que esa persona quiere saber: por qué obtuvo ese resultado, qué puede corregir y a quién puede acudir.
Estas preguntas son mi propuesta práctica. No son una auditoría oficial de la OCDE. Te ayudan a distinguir una intención de una función que puedes comprobar durante una prueba.
Ejemplo ficticio: una IA ordena solicitudes de empleo:
Imagina que una empresa recibe muchas candidaturas y considera una herramienta que las ordena antes de que alguien las revise. La demostración muestra una lista muy clara. Yo preguntaría qué información utiliza para ordenar y qué ocurre con las personas que quedan al final.
¿Alguien revisa esas candidaturas? ¿Se pueden corregir datos equivocados? ¿Una experiencia poco habitual queda penalizada porque no se parece a los ejemplos anteriores? No estoy diciendo que todas las herramientas hagan eso. Te propongo comprobarlo antes de convertir la clasificación en una decisión.
También pediría una alternativa cuando la herramienta falle. Si el equipo ya no sabe revisar una candidatura sin esa puntuación, la supervisión humana puede quedarse en una formalidad. Mantener capacidad de decidir requiere más que mantener a una persona junto a la pantalla.
El ejemplo es inventado. Una decisión de contratación real necesita revisar sus requisitos específicos, incluida la normativa aplicable y la posible discriminación.
Deja por escrito lo que aún no sabes:
Te recomiendo preparar una tabla pequeña con 3 columnas: promesa del proveedor, evidencia disponible y pregunta pendiente. No hace falta inventar una puntuación global. Es suficiente con ver dónde hay respuestas comprobables y dónde solo hay lenguaje comercial.
- Responsabilidad: pide el nombre del equipo que atenderá un incidente y cómo se documentará la respuesta.
- Revisión: comprueba si una persona puede impugnar un resultado y qué sucede después.
- Límites: anota los usos para los que no tienes información suficiente, aunque la herramienta técnicamente los permita.
Mi consejo es que no confundas “el proveedor respondió” con “el asunto quedó resuelto”. Una respuesta puede requerir una prueba, un cambio contractual o una revisión especializada.
Cómo lo relaciono con los riesgos humanos:
En la Taxonomía IAConSentido, lo vinculo con Autonomía y agencia: conservar la posibilidad real de decidir y corregir. También con Decisiones, organizaciones y sociedad: una organización necesita responder por los efectos de lo que adopta.
Estas familias son propias de IAConSentido. No son una traducción oficial de los principios ni implican un aval de la OCDE a mi método.
Preguntas frecuentes:
¿Puedo citar estos principios en una política interna?
Puedes consultarlos como referencia. Te recomiendo enlazar el instrumento oficial, indicar la versión que utilizas y explicar qué compromisos concretos asume tu organización, sin presentarlos como ya cumplidos.
¿Por dónde conviene comenzar?
Por la decisión que más pueda afectar a otra persona. Si no sabes quién puede revisarla ni cómo corregirla, ahí tienes una pregunta prioritaria antes de ampliar el uso de IA.
Si quieres seguir explorando, te invito a mi Biblioteca de Riesgos Humanos de la IA. Elige el recurso que responde a la pregunta que tienes hoy.
Fuente oficial consultada el 13 de noviembre de 2026. Las recomendaciones prácticas y los ejemplos identificados como ficticios son míos; no implican afiliación ni aval de la institución.