Una IA te recomienda algo y tú decides seguirla. Hasta ahí, puede ser una ayuda… pero te conviene observar qué ocurre cuando sus respuestas empiezan a pesar más que tus propias razones.
Google DeepMind incluye la manipulación dañina entre los riesgos de su Frontier Safety Framework. Consulté la versión 3.1, publicada el 17 de abril de 2026. Me interesa explicarte qué considera ese documento y por qué no basta para evaluar lo que te pasa a ti en una conversación cotidiana.
Qué entiende el marco por manipulación dañina
Su sección 2.2.3 contempla capacidades para cambiar sistemáticamente creencias y conductas en contextos de alto impacto, con daños severos a gran escala. El propio documento describe este umbral como exploratorio. No afirma que cualquier respuesta convincente lo alcance ni demuestra que un modelo concreto ya lo haya alcanzado.
Qué significa conservar el control
El marco también considera capacidades que podrían debilitar la supervisión humana. Propone evaluaciones y mitigaciones vinculadas a los riesgos; las decisiones dependen de la valoración del riesgo residual. Es una política corporativa, no una certificación independiente ni una garantía de seguridad para cada uso.
Yo separaría esa evaluación del fabricante de otra pregunta que puedes responder más cerca de tu vida: ¿todavía sabes explicar por qué estás tomando una decisión? No necesitas esperar a que exista un daño a gran escala para revisar un hábito que te preocupa.
Un ejemplo: cada vez consultas una decisión más pequeña
Imagina esta situación ficticia: comienzas pidiendo ayuda para comparar 2 opciones de trabajo. Después consultas qué mensaje enviar y, más adelante, si deberías sentirte incómoda por algo que pasó. Acabas volviendo a la herramienta antes de decidir casi cualquier cosa.
Esa escena no permite afirmar que el sistema esté manipulándote ni que cumpla el umbral de Google. A mí me parece útil para hacer una pausa y preguntarte qué esperas de la respuesta: información, otra perspectiva o permiso para actuar.
3 preguntas que puedes probar hoy
¿Qué pensaba antes de consultar? Escribe tus razones antes de abrir la herramienta. ¿Qué cambió después? Distingue una información nueva de una respuesta que simplemente suena segura. ¿Con quién necesito hablar? Si la decisión afecta a otra persona, conserva esa conversación con ella.
Son prácticas que te propongo para observar tus hábitos; no una prueba para detectar manipulación ni un tratamiento. Si evalúas una herramienta para tu organización, pide además evidencia correspondiente al modelo y al uso concreto. La existencia del marco no sustituye esa revisión.
Cómo lo relaciono con los Riesgos Humanos de la IA
Autonomía y agencia: te recomiendo conservar tus razones y tu espacio de decisión. Decisiones, organizaciones y sociedad: te conviene saber quién supervisa una herramienta y quién puede intervenir. Estas relaciones son parte de mi Taxonomía IAConSentido, no categorías equivalentes a los umbrales de Google.
¿El documento prueba que Gemini manipula a sus usuarios?
No. Describe riesgos y procedimientos declarados. Para sostener una afirmación sobre un sistema o una conversación hacen falta evidencias específicas. Te recomiendo conocer el documento sin convertir un riesgo contemplado en un hecho demostrado.