Lees 3 titulares sobre un problema con IA y parece que ocurrió 3 veces. Abres las noticias… pero todas hablan del mismo caso. Antes de compartir una cifra sobre los riesgos de la IA, te conviene revisar qué estás contando.
Para buscar noticias por tema y contexto, te recomiendo conocer AIM: AI Incidents and Hazards Monitor, de la OCDE. Puede ayudarte a encontrar casos para investigar. Lo importante es que sepas cómo se seleccionan y qué puedes concluir a partir de ellos.
¿Qué es AIM: AI Incidents and Hazards Monitor?
Es un monitor automatizado de noticias sobre incidentes y situaciones potencialmente dañinas relacionadas con IA. En la página consultada aparece como beta. Permite filtrar por fechas, país, sector y personas afectadas, entre otros criterios. La información procede de medios, no de una comprobación individual de cada hecho por la OCDE. Puedes verlo en el monitor oficial.
Lo primero que te conviene distinguir: incidente y peligro potencial
En su metodología, la OCDE distingue los daños que ya se produjeron de las situaciones que podrían producirlos. Un incidente implica daño real; un hazard se refiere a una posibilidad plausible de daño. La metodología explica que utiliza modelos de lenguaje para clasificar noticias y generar información sobre los eventos.
Yo tendría presente esa diferencia al redactar. “Una herramienta podría utilizarse para suplantar a alguien” no cuenta lo mismo que “una persona fue suplantada”. Si mezclas ambas cosas, puedes terminar contando como ocurrido algo que todavía era una advertencia.
Cómo usaría el monitor para preparar una conversación
- Elige una pregunta concreta: por ejemplo, qué problemas se han reportado al usar IA para seleccionar candidatos. Así evitas abrir muchas noticias sin saber qué necesitas averiguar.
- Acota el contexto: elige un periodo y revisa el país y el sector. Te conviene saber si el caso se parece a lo que hace tu organización o si ocurre bajo reglas distintas.
- Abre las noticias que respaldan el resultado: comprueba quién afirma cada cosa. Busca el documento original cuando exista, como una investigación, una resolución o la respuesta de la organización involucrada.
- Anota qué sigue sin aclararse: si hay una investigación abierta o versiones contradictorias, conserva esa diferencia al explicarlo. Una etiqueta automática no resuelve la duda.
- Decide qué revisarás tú: escribe una pregunta para tu proveedor o una medida que puedas probar con tu equipo. Eso hace que la consulta tenga una utilidad concreta.
Un ejemplo: revisar una herramienta de selección de personal
Imagina que tu organización quiere usar IA para ordenar solicitudes de empleo. Este ejemplo es ficticio.
Yo empezaría buscando casos relacionados con contratación y evaluación. No usaría el primer resultado para afirmar que el proveedor que estás considerando actúa igual. Revisaría qué falló en aquel caso y qué tendrías que preguntar en el tuyo.
¿Qué datos utiliza la herramienta? ¿Quién puede corregir una información equivocada? ¿Una persona revisa el resultado antes de descartar una solicitud? ¿Cómo puede pedir una explicación quien queda fuera?
Si el proveedor responde “nuestro modelo es imparcial”, le pediría que explicara cómo lo evaluó y qué limitaciones encontró. El monitor te ayuda a encontrar preguntas… pero la decisión requiere comprobar el sistema y el uso concretos.
Los riesgos humanos que te propongo observar
Relaciono este recurso con Decisiones, organizaciones y sociedad y Seguridad, privacidad y dignidad, familias de mi Taxonomía IAConSentido.
En el ejemplo de contratación, la primera te ayuda a revisar quién decide y responde por una evaluación. La segunda te lleva a preguntar cómo se tratan los datos de los candidatos y qué opciones tienen si algo les perjudica. Esta relación la propongo desde IAConSentido; no sustituye las categorías de la OCDE ni representa un aval a mi trabajo.
Qué no te diría a partir de los resultados
No te diría que un país tiene más daños por IA solo porque aparecen más noticias sobre él. Tampoco calcularía el porcentaje de sistemas seguros a partir de esta colección. Para hacerlo necesitaríamos información comparable sobre los usos que no aparecen en el monitor.
La propia OCDE advierte que la cobertura recoge solo parte de lo que ocurre, que la información de terceros puede contener errores y que incluir una noticia no implica respaldarla. Por eso te recomiendo usar AIM para localizar fuentes y después comprobarlas.
Preguntas frecuentes
¿Puedo consultar AIM sin pagar?
Sí, la consulta del monitor es pública. Algunas noticias enlazadas pueden tener sus propias condiciones de acceso.
¿AIM es lo mismo que AI Incident Database?
No. Son proyectos distintos. Si quieres conocer el otro recurso, te explico cómo consultar AI Incident Database. En ambos casos te recomiendo volver a las fuentes antes de compartir una conclusión.
¿Puedo compartir un resumen como una conclusión oficial?
No te lo recomiendo. AIM avisa que la información mostrada no representa las opiniones oficiales de la OCDE o sus países miembros. Comprueba las fuentes, atribuye lo que compartas y distingue lo confirmado de lo que sigue en investigación.
Empieza por una pregunta de tu trabajo
Antes de abrir AIM, escribe qué necesitas averiguar. Después elige 1 resultado, revisa sus fuentes y anota qué le preguntarías a tu equipo. Puedes encontrar más guías en la Biblioteca de Riesgos Humanos de la IA.