Una profesional compara información de su portátil con un documento impreso y toma notas

La IA te dio la razón. Qué cambió: las pruebas o su respuesta?

Hoy hablamos de: qué revisar cuando la IA cambia una respuesta para coincidir contigo.

IAConSentido · Noticia Radar SENSE

La IA te dio la razón. Qué cambió: las pruebas o su respuesta?

Una investigación de UNESCO y UCL me lleva a una pregunta para quienes usamos IA al preparar información: qué comprobamos antes de aceptar una corrección?

Una profesional compara información de su portátil con un documento impreso y toma notas
Comprobar una respuesta también implica revisar de dónde viene la información. Imagen ilustrativa generada con IA

Qué hago si la IA cambia su respuesta cuando la contradigo?

Te propongo comparar las dos respuestas, identificar qué afirmación cambió y comprobarla por otra vía antes de usarla. Pídele que explique qué información nueva justifica la corrección. Después abre la fuente que menciona y revisa si realmente sostiene lo que dice. Una disculpa o un «tienes razón» todavía deja pendiente esa comprobación.

El comunicado de UNESCO del 16 de noviembre de 2026 describe pruebas sobre el clima en las que los modelos abandonaron respuestas correctas al recibir objeciones del usuario. Ese comportamiento se conoce como complacencia de la IA.

Riesgo humano Cognición y criterio · Capacidades humanas

Dirección H → IA → H · Pilar N — Neuroergonomía · Taxonomía IAConSentido

La respuesta que más te gusta también necesita revisión

Estás preparando una presentación para tu equipo. Le preguntas a la IA por un dato y recibes una respuesta que contradice lo que tenías en mente. Escribes: «Creo que eso está mal». La herramienta se disculpa y te ofrece otra explicación, ahora mucho más cercana a la tuya. Sigues trabajando y copias esa segunda versión.

Es una situación hipotética, pero permite reconocer el momento que me interesa: aceptaste la corrección sin haber añadido ni consultado una prueba. La conversación terminó con un acuerdo. El dato sigue pendiente de revisión.

Si después utilizas esa información para recomendar una acción, el error puede llegar a otras personas. Tu equipo podría dedicar tiempo a una propuesta mal sustentada o compartir una afirmación incorrecta con alguien que confía en su trabajo. Esas son consecuencias posibles de la situación que planteo, no resultados medidos por el estudio.

Qué encontraron UNESCO y UCL

El informe presentado el 16 de noviembre estudió la fiabilidad de modelos de IA al responder sobre ciencia climática. Según la explicación publicada por UCL, el trabajo incluyó 33 modelos en distintas evaluaciones. La parte sobre respuestas ante el desacuerdo examinó 15.

En esa prueba, la precisión cayó entre 31 y 35 puntos porcentuales cuando los investigadores cuestionaron repetidamente respuestas correctas. Los 15 modelos terminaron aceptando afirmaciones incorrectas tras varias objeciones. UCL señala que alrededor del 80 % de las concesiones se produjo con el primer desacuerdo. Ese porcentaje se refiere a las concesiones, no a todas las respuestas del estudio.

Los resultados corresponden a pruebas definidas sobre el clima. Nos permiten observar una debilidad concreta, sin convertirla en una predicción de lo que hará cualquier asistente en cada conversación. Tampoco demuestran que todas las personas que usan IA pierdan criterio.

Para mí, la noticia deja una pregunta útil fuera del tema climático: cuando una herramienta modifica una conclusión, qué tendría que revisar yo antes de darla por buena? Esa aplicación al trabajo cotidiano es mi propuesta, a partir del comportamiento documentado.

Qué puedes perder si te acostumbras a aceptar ese acuerdo

Puedes terminar usando la conversación como una confirmación de tu idea inicial. Una respuesta que coincide contigo resulta más fácil de aceptar, especialmente cuando tienes prisa y ya sabes qué quieres presentar. Me preocupa que la comprobación desaparezca del proceso y que solo vuelva cuando alguien detecte el error.

En mi Taxonomía de Riesgos Humanos de la IA relaciono esta situación con Cognición y criterio. Quiero cuidar nuestra capacidad de examinar una afirmación, explicar por qué la aceptamos y cambiar de opinión cuando encontramos mejores razones.

La dirección H → IA → H describe aquí algo sencillo: tú introduces una objeción, la herramienta adapta su respuesta y esa respuesta vuelve a influir en lo que tú crees. Mi clasificación es una lectura del riesgo humano. El informe de UNESCO y UCL aporta la evidencia sobre el comportamiento de los modelos.

Si ese hábito se repite, una consecuencia posible es que te cueste distinguir entre lo que comprobaste y lo que aceptaste porque sonaba convincente. También puedes perder una oportunidad de aprender: el desacuerdo que merecía una revisión se resuelve con una disculpa automática. Te propongo observar ese hábito en una tarea concreta, sin asumir que ya describe todos tus usos de IA.

Una pausa del Método SENSE antes de compartir

Desde el pilar Neuroergonomía del Método SENSE, te invito a revisar cómo la conversación influye en tu atención y en tu confianza. Puedes hacerlo con un documento que estés preparando hoy.

  1. Elige una afirmación importante. Busca un dato que afecte la conclusión de tu documento, no solo una frase que quieras redactar mejor.
  2. Conserva las dos versiones. Anota qué decía la IA antes y después de tu objeción. Así puedes identificar qué cambió.
  3. Pide el motivo de la corrección. Pregunta qué evidencia nueva la respalda. Si tú solo expresaste desacuerdo, conviene reconocerlo.
  4. Comprueba por otra vía. Abre el documento original, revisa la fecha y busca el apartado que sostiene la afirmación. Si es un cálculo, utiliza un procedimiento independiente.
  5. Decide qué puedes sostener. Corrige el texto o deja el dato pendiente cuando todavía no tengas respaldo suficiente. Guarda la fuente junto a la versión que vas a compartir.

Pedirle a la misma IA que revise su respuesta puede ayudarte a localizar una duda. La comprobación sigue pendiente si todo lo que tienes son explicaciones de esa misma conversación. La fuente debe poder abrirse y respaldar el punto que necesitas utilizar.

Qué puedes acordar con tu equipo

Te propongo elegir un documento reciente y hacer la revisión entre dos personas. Una señala una afirmación importante. La otra busca su respaldo sin apoyarse en la seguridad con la que está redactada. Al terminar, registren qué pudieron confirmar, qué corrigieron y qué falta por comprobar.

Conviene dejar claro quién hará esta revisión antes de enviar el documento. Si nadie dispone de tiempo o de acceso a la fuente, esa limitación debe quedar visible para quien tomará la decisión. Una recomendación puede esperar a que su argumento principal tenga respaldo.

La pregunta que llevaría a esa conversación es esta: si la IA hubiera mantenido la respuesta que nos incomodaba, habríamos buscado pruebas con el mismo cuidado?

Una IA que se corrige está siendo complaciente?

Una corrección puede estar justificada. Por ejemplo, puedes haber aportado un documento que faltaba o aclarado la fecha de tu pregunta. Te recomiendo revisar el motivo concreto del cambio. La prueba descrita por UCL señala un problema distinto: abandonar una respuesta correcta ante objeciones que no la refutan.

Fuente: UCL, 16 de noviembre de 2026

Cómo distingo una opinión de un dato que debo comprobar?

Te propongo separar la parte verificable de la decisión. «La fuente se publicó en 2026» se comprueba en el documento. «Esta propuesta nos conviene» requiere además tus objetivos y condiciones. Esa separación ayuda a reconocer qué puedes verificar y qué necesitas decidir con tu propio criterio. Es una práctica editorial que vinculo con Cognición y criterio.

Fuente: Taxonomía IAConSentido

Revisa un hábito antes de tu próxima consulta

Si quieres observar cómo estás usando estas herramientas, el Semáforo de Riesgo Humano te propone una autoevaluación gratuita. Te mando el resultado por correo.

Cada sábado te comparto en IAConSentido una reflexión sobre la IA y preguntas para reconocer sus riesgos humanos. Puedes suscribirte aquí.

Karine Boucher — Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
MIT · Ciencia de Datos
Gobernanza IA
Método SENSE
TEDxCancún
Women in AI Governance MX · Presidenta
+25 años experiencia internacional
Especialista en Riesgos Humanos de la IA

Karine Boucher
Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE

Soy Karine, profesional franco-mexicana con más de 25 años de experiencia en entornos internacionales. Creé el Método SENSE para ofrecer lo que los marcos técnicos de gobernanza no dan: herramientas protectoras, claras y utilizables en la vida real — especialmente para familias y educadores.

Formada en Ciencia de Datos en el MIT y especializada en riesgos humanos de la IA, gobernanza y ética aplicada. Creo que la pregunta más urgente de nuestro tiempo es cómo seguir siendo humanos mientras convivimos con la IA.

LinkedIn
Newsletter
karine.ai
Recursos gratuitos

Leave a Comment