IAConSentido · Guías y fuentes externas · Por Karine Boucher
“Es inteligencia artificial” no me dice todavía qué hace una herramienta, qué información necesita ni qué puede decidir. Si estás preparando reglas para tu organización, te recomiendo empezar por esas preguntas antes de discutir si la IA es buena o mala en general.
Qué explica este memorando de la OCDE
El Explanatory memorandum on the updated OECD definition of an AI system, publicado en marzo de 2024, explica la definición actualizada en noviembre de 2023. Describe sistemas que infieren, a partir de entradas y objetivos, cómo generar resultados: predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales.
También distingue grados de autonomía y de adaptación tras el despliegue. No todos los sistemas siguen aprendiendo mientras los utilizas. El memorando ayuda a entender términos; no determina por sí solo las obligaciones jurídicas de una organización ni certifica un producto.
Del nombre comercial a lo que realmente hace
Yo te propongo pedir una explicación que puedas repetir sin vocabulario de ventas. “Recibe solicitudes, calcula una prioridad y propone a quién atender primero” resulta más útil que “optimiza la experiencia con IA”. La primera frase permite preguntar quién podría esperar más y cómo reclamar un error.
No necesitas empezar entendiendo cada detalle del modelo. Sí necesitas reconocer dónde entra la información, qué resultado sale y quién lo utiliza para actuar. Si nadie puede describir ese recorrido, todavía falta información para decidir.
Ejemplo ficticio: recomendar no siempre es decidir
Imagina una herramienta que ordena candidaturas para una entrevista. El proveedor dice que solo recomienda. Sin embargo, el equipo entrevista únicamente a las primeras personas de la lista. En la práctica, esa recomendación está condicionando quién recibe una oportunidad.
Te recomiendo observar el proceso completo, no solo el botón final que pulsa una persona. ¿Hay tiempo para revisar?, ¿se pueden recuperar candidaturas relegadas?, ¿qué información permite cuestionar el orden?, ¿quién responde si el criterio excluye injustamente? Son preguntas para investigar el caso, no una conclusión anticipada sobre esa herramienta.
Una ficha que puedes preparar con tu equipo
- Qué objetivo pretende resolver el sistema.
- Qué datos recibe y de dónde proceden.
- Qué resultado produce: texto, puntuación, recomendación u otra salida.
- Qué hace la organización con ese resultado.
- Qué puede modificar una persona y en qué momento.
- Cómo se detecta y se revisa un error.
Guarda también qué parte no conoces todavía. Una casilla vacía puede ayudarte a pedir evidencia al proveedor; rellenarla con una suposición solo hace que el documento parezca más completo.
Qué riesgos humanos conviene revisar
Autonomía y agencia: qué decisión conserva realmente la persona cuando el sistema propone un resultado. Decisiones, organizaciones y sociedad: quién establece las reglas, quién revisa y quién responde por sus efectos. Esta relación utiliza mi Taxonomía IAConSentido, no es una clasificación oficial de la OCDE.
Si después de definir el sistema necesitas describir con más detalle su contexto, puedes consultar mi guía sobre el OECD Framework for the Classification of AI Systems. Son recursos complementarios: uno aclara la definición y el otro ayuda a describir características del sistema y su uso.
¿Esta definición basta para saber qué ley se aplica?
No. Para una decisión jurídica necesitas revisar la norma vigente, la jurisdicción y el caso concreto con el responsable adecuado. Mi propuesta aquí es más sencilla: que antes de aprobar una herramienta puedas explicar qué hará y qué no estás dispuesto a delegarle.
Consultar Explanatory memorandum on the updated OECD definition of an AI system · Explorar la Biblioteca de Riesgos Humanos de la IA
Fuente consultada el 13 de noviembre de 2026. Marzo de 2024. Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE.