Por Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
Antes de preguntar si una herramienta de IA es potente, barata o fácil de usar, te conviene hacer otra pregunta: ¿lo que queremos hacer con ella está permitido?
Para revisar esa duda en el contexto europeo, te recomiendo Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act). Son directrices de la Comisión Europea sobre las prácticas prohibidas del Reglamento de IA.
Qué versión estoy compartiendo
El PDF oficial enlazado corresponde a la comunicación C(2025) 5052 final, del 29 de julio de 2025. La página de presentación de la Comisión conserva el anuncio inicial de febrero de 2025; aquí identifico la fecha del documento que puedes descargar, para no confundir ambas referencias.
Las directrices explican la interpretación de la Comisión sobre las prohibiciones del artículo 5, incluidas prácticas de manipulación, explotación de vulnerabilidades, puntuación social y determinados usos biométricos. No convierten todos los usos de esas tecnologías en una prohibición general: importan las condiciones, el contexto y las excepciones del texto. La Comisión señala que las directrices no son vinculantes y que la interpretación autorizada corresponde al Tribunal de Justicia de la UE. Consulta la presentación oficial.
Ejemplo ficticio: una función que nadie había revisado
Imagina que tu organización contrata una plataforma por sus funciones de atención al cliente. Después alguien descubre una opción adicional que pretende inferir características de las personas y propone activarla para personalizar respuestas.
Yo no te recomendaría decidir solo porque la función aparece disponible. Primero pediría una descripción de lo que hace, qué datos utiliza, a quién afecta y para qué se quiere utilizar. Después llevaría esa descripción a una revisión especializada.
Este ejemplo no afirma que la función esté prohibida. Precisamente muestra por qué no basta su nombre comercial para concluirlo. Un sistema puede ofrecer varias funciones y cada uso necesita ser descrito con suficiente detalle.
Cómo preparar la conversación antes de contratar
Te propongo pedir respuestas por escrito a 4 preguntas:
- ¿Qué hace exactamente? Evita quedarte en “analiza”, “personaliza” o “detecta”. Pregunta qué resultado produce y cómo se utilizará.
- ¿Sobre quién actúa? Distingue clientes, trabajadores, estudiantes u otras personas afectadas.
- ¿En qué contexto? La misma descripción general no resuelve las diferencias entre actividades y territorios.
- ¿Quién ha revisado ese uso? Pide evidencias pertinentes, no solo un sello o una afirmación de cumplimiento.
Estas son mis recomendaciones para preparar una revisión, no una prueba jurídica de que una práctica está permitida. Si aparecen dudas, prefiero que se resuelvan antes de activar la función con datos reales.
También conviene separar la decisión comercial de la revisión del uso. Que una plataforma tenga buenas reseñas o clientes conocidos no te dice si tu configuración concreta es adecuada. Y que una práctica no esté prohibida no significa que quede libre de otras obligaciones o riesgos.
Qué riesgos humanos revisaría
La relaciono con Autonomía y agencia, cuando una intervención puede influir en la capacidad de decidir. También con Seguridad, privacidad y dignidad, por la exposición, clasificación o trato de personas. Son relaciones de mi Taxonomía IAConSentido, no una equivalencia con las categorías legales del Reglamento.
Antes de usar este recurso como respuesta definitiva
El marco es europeo. Para saber si alcanza una actividad concreta hay que revisar los criterios de aplicación, el papel de tu organización y las normas vigentes. Este artículo no sustituye asesoría jurídica ni una evaluación completa de conformidad.
¿Una práctica de alto riesgo está necesariamente prohibida?
No conviene confundir las categorías. Identifica primero la práctica y consulta las disposiciones que le correspondan.
¿Las directrices certifican herramientas?
No. Ayudan a interpretar prohibiciones; no avalan un producto ni la configuración que elijas.
Te invito a seguir explorando recursos para comprender los riesgos humanos de la IA y decidir qué conviene revisar en tu situación.
Explorar la Biblioteca de Riesgos Humanos de la IA →Fuente consultada el 13 de noviembre de 2026. La inclusión del recurso no implica un aval de la entidad editora a IAConSentido.