IAConSentido · Guías y fuentes externas · Por Karine Boucher
Encontrar un fallo antes de lanzar una herramienta puede evitar problemas después… pero la prueba necesita límites, responsables y una forma de corregir lo descubierto.
Qué encontrarás en este recurso
Guide to Red Teaming Methodology on AI Safety. La guía de Japan AI Safety Institute está dirigida a desarrolladores y proveedores. Organiza la preparación, los roles, la evaluación, el reporte y el seguimiento de pruebas adversariales autorizadas. Aquí me refiero a la versión inglesa 1.00 de 2024.
25 de septiembre de 2024 · versión 1.00.
Cómo te recomiendo aprovecharlo
Yo empezaría por lo que ocurre alrededor de la prueba: qué sistema se puede evaluar, qué datos no deben utilizarse, quién puede detener el ejercicio y quién recibe los resultados. Esa preparación permite distinguir una evaluación responsable de probar cosas sin control.
Ejemplo ficticio: una decisión concreta
Imagina que un equipo detecta que su asistente muestra información que no debería. El hallazgo se guarda en una presentación, pero nadie queda encargado de corregirlo. La prueba encontró algo importante; la organización todavía tiene que decidir qué hará.
Lo que conviene acordar antes del ejercicio
- Define el sistema y el entorno autorizado, sin afectar a personas ajenas a la prueba.
- Separa datos de ensayo de información personal o confidencial.
- Establece cuándo se detiene el ejercicio y a quién se informa.
- Asigna una persona responsable de cada corrección y una fecha para comprobarla.
Estas preguntas son mi propuesta para trabajar con el recurso, no una reproducción de su metodología. Te recomiendo elegir la que puedas aclarar hoy y dejar por escrito qué información necesitas para las demás. No hace falta convertir una duda en una respuesta apresurada.
Qué conviene tener presente
Esta presentación no reproduce técnicas de ataque. El recurso está pensado para una evaluación especializada, no para probar servicios ajenos sin permiso ni para certificar que un sistema carece de riesgos.
Riesgos humanos relacionados
Seguridad, privacidad y dignidad orienta la atención a las personas que podrían resultar afectadas. Decisiones, organizaciones y sociedad permite revisar si los hallazgos tienen responsables y seguimiento. Esta clasificación corresponde a mi Taxonomía IAConSentido, no a las categorías de la fuente.
Consultar Guide to Red Teaming Methodology on AI Safety · Explorar la biblioteca
Fuente consultada el 13 de noviembre de 2026. Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE.