Una empresa de IA publica una política de seguridad y parece una buena señal… pero te conviene revisar qué se compromete a hacer, quién decide y qué información podrás comprobar. El nombre del documento, por sí solo, no responde esas preguntas.
En Responsible Scaling Policy, Anthropic explica cómo aborda riesgos catastróficos de sistemas avanzados. Es una política voluntaria de la compañía. Aquí comparo la versión 2.0, del 15 de octubre de 2024, con la 3.4, vigente desde el 8 de julio de 2026 según su archivo oficial. No estoy evaluando la seguridad real de sus modelos ni recomendando contratar sus servicios.
Qué decía la versión de 2024
La versión 2.0 relacionaba umbrales de capacidades con salvaguardas requeridas. Si no podía implementar las necesarias, contemplaba restricciones al despliegue y al escalamiento, medidas temporales y, bajo las condiciones descritas, pausas del entrenamiento. Las decisiones pasaban por la dirección y el responsable de esta política.
Qué cambia en la versión de 2026
La versión 3.4 distingue recomendaciones para la industria, objetivos de su hoja de ruta y reportes de riesgos. La hoja de ruta contiene metas, no compromisos estrictos. Los reportes se prevén cada 3–6 meses, no con cada lanzamiento.
La revisión externa tiene condiciones específicas; no equivale a una aprobación independiente previa de todos los modelos. La revisión anual prevista comprueba procedimientos, no resultados de seguridad. El apéndice A conserva compromisos condicionales de retrasar desarrollo o despliegue: sería incorrecto afirmar que desapareció toda posibilidad de pausa.
Qué te recomiendo mirar antes de confiar en una política
Para mí, lo útil de esta comparación es que te obliga a hacer preguntas más concretas. Si trabajas con un proveedor de IA, te propongo revisar estos 4 puntos:
- La versión: guarda el documento y su fecha. Una presentación comercial puede seguir citando un compromiso que después cambió.
- La decisión: identifica quién puede detener un uso y qué tendría que ocurrir para hacerlo. “Nos tomamos la seguridad en serio” deja demasiado sin explicar.
- La evidencia: pide los resultados aplicables al modelo y al uso que estás considerando, no solo una política general.
- Lo que falta: anota qué información no es pública y qué parte todavía no puedes comprobar. Esa incertidumbre también cuenta cuando decides.
Un ejemplo: elegir una herramienta para tu organización
Imagina este caso ficticio: tu equipo quiere usar IA para resumir solicitudes de clientes. Alguien comparte la política de seguridad del proveedor y propone dar por terminada la revisión.
Yo te recomendaría seguir preguntando: ¿qué datos van a entrar?, ¿qué ocurre si el resumen omite una reclamación?, ¿quién revisará el resultado antes de responder? Una política sobre riesgos catastróficos puede aportar información del proveedor, pero tu organización necesita resolver también esas situaciones cotidianas.
Cómo lo relaciono con los Riesgos Humanos de la IA
Seguridad, privacidad y dignidad: te recomiendo comprobar las condiciones del uso concreto antes de compartir información de otras personas.
Decisiones, organizaciones y sociedad: te conviene dejar por escrito quién evalúa la evidencia, quién acepta la incertidumbre y quién responde si algo sale mal. Estas relaciones corresponden a mi Taxonomía IAConSentido; no son categorías de Anthropic.
¿Esta política demuestra que una IA es segura?
No permite concluirlo por sí sola. Te ayuda a conocer compromisos y procedimientos declarados; para valorar un uso necesitas evidencias pertinentes y revisar sus límites. Mi recomendación: antes de aceptar “tenemos una política”, pregunta qué cambia en la práctica cuando aparece un riesgo.