AI Risk Repository: cómo buscar riesgos de IA sin confundir una lista con una evaluación

Por Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE

Buscas los riesgos de una herramienta de IA y terminas con una lista larguísima: privacidad, errores, manipulación, discriminación. Todo parece importante… pero todavía no sabes qué revisar primero en tu caso.

Te recomiendo conocer el AI Risk Repository, desarrollado en el entorno de MIT. Lo útil no es copiar su lista completa. Es encontrar riesgos que quizá no habías considerado y volver a las fuentes que los describen.

Qué contiene el AI Risk Repository:

Es un repositorio público y vivo que reúne riesgos extraídos de marcos y clasificaciones existentes. Combina una base de datos con 2 taxonomías: una causal y otra por ámbitos de riesgo. La clasificación por ámbitos utiliza 7 dominios y 24 subdominios. Las entradas permiten consultar las referencias de las que procede la información.

No es una base de incidentes equivalente a la AI Incident Database. Aquí puedes encontrar riesgos descritos en documentos; eso no significa que cada entrada relate un daño ya ocurrido.

Cómo buscar sin perderte:

Antes de abrir la base, te propongo escribir una pregunta concreta. Por ejemplo: “¿Qué necesito revisar si una escuela quiere usar IA para recomendar actividades a sus alumnos?”. Así puedes buscar con un propósito y descartar lo que no corresponde, sin asumir que todo es igual de urgente.

1. Describe el uso: quién utiliza la herramienta, con qué información y para tomar qué decisión.
2. Busca riesgos relacionados: guarda los que puedan afectar a las personas de ese caso, aunque todavía no sepas si están presentes.
3. Abre la fuente original: comprueba qué dice exactamente y en qué contexto. Un resumen no siempre conserva todos los matices.
4. Formula una pregunta comprobable: cambia “puede haber pérdida de autonomía” por “¿puede el alumno elegir otra actividad y explicar por qué?”.
5. Anota lo que falta: diferencia un problema observado, una posibilidad y una pregunta que aún no puedes responder.

Este procedimiento es mi sugerencia para trabajar con el recurso. No es una metodología oficial del repositorio ni una evaluación completa de seguridad.

Ejemplo ficticio: una plataforma que recomienda qué estudiar:

Imagina que una escuela prueba una plataforma que sugiere ejercicios según las respuestas anteriores. El proveedor destaca que personaliza el aprendizaje. Antes de quedarte con esa promesa, te recomiendo preguntar qué ocurre cuando la recomendación no encaja con el alumno.

¿Puede el docente cambiarla? ¿El alumno puede intentar algo más difícil? ¿Una respuesta equivocada acaba limitando las actividades que verá después? No estoy afirmando que la plataforma haga eso. Son preguntas que conviene investigar antes de delegarle una parte importante del recorrido escolar.

También revisaría una situación que suele quedar fuera de la demostración: un alumno que necesita apoyo, pero no quiere que todas sus dificultades queden registradas indefinidamente. La elección del sistema no depende solo de si recomienda ejercicios acertados.

Cómo lo relaciono con mis familias de riesgos:

Te propongo prestar atención a Autonomía y agencia cuando una recomendación empieza a convertirse en la única opción disponible. Y a Decisiones, organizaciones y sociedad cuando una escuela o empresa necesita explicar quién puede revisar una decisión y cómo hacerlo.

Estas son familias de mi Taxonomía IAConSentido, no categorías del MIT. Los 7 dominios del repositorio no equivalen a mis 3 dominios. Consultar este recurso tampoco constituye una validación del Método SENSE.

Qué no te dice una lista de riesgos:

Encontrar un riesgo no te dice automáticamente qué probabilidad tiene ni cuánto daño causaría en tu contexto. Tampoco demuestra que un producto específico lo tenga. Para decidir necesitas observar su funcionamiento, pedir evidencias y escuchar a las personas afectadas.

El propio repositorio reconoce límites de cobertura e interpretación. Por eso no trataría una búsqueda sin resultados como prueba de ausencia de riesgo. Si no encuentras un problema, puede faltar una palabra de búsqueda, una fuente o un caso todavía poco documentado.

Preguntas frecuentes:

¿Puedo consultarlo sin pagar?

La página oficial permite acceder públicamente a la base y explica cómo explorarla. Te recomiendo conservar la referencia y la fecha cuando uses una entrada, porque el contenido puede actualizarse.

¿Por dónde empiezo si no trabajo en tecnología?

Por una situación que conozcas bien. No necesitas comprender toda la base para identificar 1 pregunta que vale la pena hacer antes de aceptar una recomendación de IA.

Fuente oficial consultada el 13 de noviembre de 2026. Las recomendaciones prácticas y los ejemplos identificados como ficticios son míos; no implican afiliación ni aval de la institución.