Hoy hablamos de: quién responde en tu equipo cuando una decisión tomada con ayuda de IA sale mal, y cómo instalar esa claridad antes de que una crisis la exija.
La responsabilidad que firma
Qué pasa en tu equipo cuando una decisión tomada con IA sale mal, y quién responde por ella.
¿Qué es la difusión de responsabilidad en decisiones tomadas con IA?
Es el fenómeno por el cual, cuando varias personas participan en una decisión asistida por IA (quien la sugiere, quien la revisa, quien la aprueba), nadie termina sosteniendo con claridad la responsabilidad si el resultado sale mal. Cada persona asume que otra tiene el criterio definido. En la práctica, no lo tiene nadie.
Un equipo comercial usa IA para redactar propuestas a clientes. Cada vendedor la ajusta a su manera, sin revisión compartida. Cuando una propuesta contiene un error que molesta a un cliente importante, el gerente descubre que nadie puede explicar quién revisó esa propuesta antes de enviarla.
Human-Computer Interaction
Loss of human agency and autonomy, con conexión directa a fallas de gobernanza catalogadas en Socioeconomic and Environmental
106 riesgos catalogados · 18% concern global
→ Ver MIT AI Risk Repository NavigatorEl día que un director me dijo esto
La semana pasada, un director con el que trabajo me dijo algo que escucho cada vez con más frecuencia: "Mis empleados están utilizando IA y cada uno lo hace como quiere." Lo dijo con el cansancio de quien describe algo que lleva meses viendo pasar sin encontrar el momento de detenerlo.
Estaba preparando su reunión trimestral y quería mostrar, con datos, que su equipo se había vuelto más rápido gracias a la IA. Cuando revisó los últimos reportes que salieron de su área, algo lo detuvo. Cada decisión importante, desde la recomendación a un cliente hasta el ajuste de un presupuesto, tenía una IA en algún punto del proceso. Nadie se lo había pedido a nadie. Cada persona del equipo simplemente empezó a usarla, porque funcionaba, porque ahorraba tiempo, porque la respuesta llegaba clara y bien redactada.
Le hice la pregunta que en el fondo ya sospechaba que lo iba a incomodar: si una de esas recomendaciones sale mal frente a un cliente, ¿quién responde? Se quedó en silencio unos segundos. Después me escribió: "Karine, nunca lo habíamos hablado. Cada quien asume que el otro tiene claro el límite. Y creo que nadie lo tiene."
Esa frase nombra algo que pasa en más equipos de los que imaginamos, y que rara vez se conversa hasta que ya causó un problema.
Lo que hace inquietante este tipo de situación no es la mala intención de nadie. Cada persona de ese equipo actuó con sentido común: usó una herramienta que le ahorraba tiempo y le entregaba resultados de buena calidad. El director tampoco descuidó nada de forma consciente. Simplemente nadie, en ningún momento, se sentó a definir quién sostiene una decisión cuando la IA participó en construirla. Esa ausencia, multiplicada por semanas de uso cotidiano, es exactamente lo que convierte un hábito útil en un punto ciego organizacional.
Por qué la responsabilidad se diluye sin que nadie lo decida
Este riesgo llega disfrazado de eficiencia, nunca de descuido. Cuando cada persona de un equipo usa la IA como quiere, nadie está haciendo algo incorrecto de forma individual. El problema vive en la ausencia de un criterio compartido sobre quién sostiene una decisión cuando algo sale mal.
Una investigación publicada en julio de 2026 en Harvard Business Review documentó exactamente este patrón: empleados que deben justificar y defender ante clientes o superiores decisiones generadas por IA que no crearon ni terminan de comprender del todo, mientras sus organizaciones integran la IA en decisiones cada vez más consecuentes (contratación, crédito, atención médica) sin definir primero quién responde por ellas. La investigación describe con precisión lo que ese director descubrió en su propio equipo: la responsabilidad quedó suspendida en algún punto entre la herramienta y la persona, y nadie la reclamó.
Una encuesta de 2026 realizada por la firma tecnológica ABBYY, citada por Global Relay, encontró que líderes senior de distintas organizaciones ni siquiera logran ponerse de acuerdo entre ellos sobre quién es responsable cuando un sistema de IA produce un resultado dañino o incorrecto. La adopción de la IA está corriendo más rápido de lo que las organizaciones logran construir estructuras de gobernanza para sostenerla.
Lo que ya dicen los marcos de gobernanza
Los principales marcos internacionales de gobernanza de IA ya trazan un camino claro en este punto y coinciden en algo central: la responsabilidad de una decisión nunca se transfiere al sistema que la sugiere.
- El Reglamento de IA de la Unión Europea, en su Artículo 14 sobre supervisión humana, exige que los sistemas de IA de alto riesgo puedan ser efectivamente supervisados por personas capaces de comprender sus limitaciones e intervenir cuando sea necesario. La supervisión es un requisito de diseño que exige que haya una persona capaz de comprender el sistema y de intervenir cuando haga falta.
- El NIST AI Risk Management Framework dedica su función Govern a establecer roles, responsabilidades y estructuras de rendición de cuentas dentro de la organización, antes incluso de medir o gestionar cualquier riesgo técnico.
- La Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO incluye la responsabilidad y la rendición de cuentas como uno de sus valores fundamentales, y establece que la responsabilidad ética y legal de cualquier decisión asistida por IA corresponde siempre a personas, nunca a los sistemas.
- El estándar ISO/IEC 42001:2023 para sistemas de gestión de IA pide a las organizaciones documentar explícitamente quién es responsable de cada etapa del ciclo de vida de un sistema de IA, incluida su supervisión.
Los cuatro marcos apuntan a lo mismo desde ángulos distintos. La tecnología puede sugerir, redactar, calcular y recomendar. La responsabilidad de decidir sobre esa sugerencia, y de responder por ella, se queda siempre del lado humano.
Qué pasa si nadie lo resuelve a tiempo
El costo de dejar esta pregunta sin responder rara vez aparece de inmediato. Aparece semanas o meses después, en el peor momento posible: frente a un cliente que exige explicaciones, en una auditoría, en una sala de juntas donde alguien pregunta quién autorizó una decisión que ya causó daño. En ese momento, la ausencia de un criterio compartido deja de ser un detalle operativo y se convierte en un problema de reputación, de confianza interna y, en algunos sectores, de exposición legal real.
Lo más costoso no suele ser el error técnico de la IA. Los sistemas se equivocan, se ajustan y se corrigen. Lo más costoso es el momento en que una organización descubre, en tiempo real y bajo presión, que nadie puede responder con precisión quién revisó qué. Ese es el instante en que la confianza de un cliente o de un equipo entero se pone en duda, no por la decisión en sí, sino por la falta de claridad alrededor de ella.
Las organizaciones que resuelven esto a tiempo comparten un rasgo común: no esperan a que ocurra un incidente para definir sus reglas. Las escriben cuando todavía tienen la calma para pensarlas bien, no cuando ya están respondiendo preguntas incómodas bajo presión.
La responsabilidad que firma
Lo que ese director descubrió en su equipo tiene nombre en el método S.E.N.S.E.. Se llama la responsabilidad que firma: el acuerdo, explícito o silencioso, de que quien usa una recomendación de IA en una decisión importante la hace propia en el momento en que actúa sobre ella. La IA puede equivocarse. La responsabilidad pertenece siempre a quien decide usarla.
Piensa en la última vez que tu equipo tomó una decisión con ayuda de IA y nadie se detuvo a preguntar de quién era, al final, esa decisión. Quizás fue una recomendación para un cliente, una proyección de presupuesto, un correo delicado que alguien dejó que la IA redactara casi entero. Todos aprobaron. Todos siguieron adelante. Y probablemente funcionó, hasta que un día no funcione.
Lo que se va, sin que nadie lo note, es la claridad. La certeza de que cuando algo sale mal, hay una persona (no un sistema, no "el equipo" en abstracto) que puede decir con precisión qué revisó, qué preguntó y por qué decidió seguir adelante. Esa claridad es la que sostiene la confianza de un cliente, de un jefe, de un equipo completo.
Un equipo que usa IA con criterio es el que sabe, decisión por decisión, quién puede explicar por qué se tomó y quién responde si algo se rompe, más allá de qué tanto la use. Eso requiere una sola cosa: nombrarlo antes de que ocurra, en lugar de después de la crisis.
Cómo instalar claridad de responsabilidad esta semana
El pilar de Ética Aplicada del método SENSE responde a una sola pregunta: ¿esto es correcto, justo y responsable en la vida real? Aplicado a tu equipo, esa pregunta se vuelve muy concreta: en tu equipo, ¿hay claridad sobre quién responde por las decisiones que involucran IA?
Si la respuesta llegó rápido, vale la pena quedarse un momento más con ella y preguntarse si esa claridad vive solo en tu cabeza, o si tu equipo también la tiene.
El primer paso no requiere una política nueva ni una reunión larga. Antes de tu próxima reunión de equipo, identifica una sola decisión reciente donde la IA participó de alguna forma. No la juzgues todavía. Solo escribe en una línea quién la propuso, quién la aprobó y quién respondería si saliera mal. Ese ejercicio de tres líneas suele revelar más que cualquier política escrita.
Para sostener el hábito, una matriz simple ayuda a que la claridad no dependa de la memoria de nadie. Por cada decisión relevante donde la IA participó, registra en una fila dónde intervino (sugerencia, redacción, análisis, búsqueda), quién la propuso, quién la aprobó, quién respondería si sale mal, y si hubo revisión humana antes de actuar sobre ella. Llenarla decisión por decisión, en el momento en que ocurre, instala el criterio compartido que la mayoría de los equipos da por hecho sin haberlo conversado nunca.
Introducir esta conversación no requiere presentarla como una auditoría ni como una señal de desconfianza hacia el equipo. Funciona mejor cuando se plantea como una pregunta de cuidado colectivo: queremos protegerte a ti, a tus compañeros y a nuestros clientes, y esa protección empieza por saber, en cada caso, quién sostiene la decisión. Los equipos que reciben la pregunta en ese tono suelen responder con alivio, porque casi siempre están esperando que alguien nombre el límite que ellos mismos sentían borroso.
La postura de SENSE
Nada de esto propone usar menos IA. Karine Boucher, creadora del método SENSE, la usa todos los días para pensar más rápido, organizar mejor y ampliar perspectivas. Lo que el método protege es que la velocidad de la herramienta nunca reemplace la claridad sobre quién sostiene cada decisión.
Un equipo con criterio instalado convive con la IA exactamente igual de rápido que uno sin él. La diferencia aparece el día en que algo sale mal: uno sabe exactamente quién responde, y el otro lo está averiguando en tiempo real, frente al cliente.
¿Puede una IA ser legalmente responsable de una decisión equivocada?
No. Ningún marco de gobernanza vigente atribuye responsabilidad legal o ética a un sistema de IA. La responsabilidad recae siempre en las personas u organizaciones que diseñan, despliegan o usan el sistema para tomar una decisión.
Una aseguradora usa IA para calcular una prima. Si el cálculo discrimina de forma indebida a un grupo de clientes, la responsabilidad legal cae sobre la aseguradora que desplegó el sistema, no sobre el algoritmo.
Fuente: UNESCO, Recomendación sobre la Ética de la Inteligencia Artificial
¿Qué exige el Reglamento de IA de la Unión Europea sobre la supervisión humana?
El Artículo 14 del Reglamento de IA de la Unión Europea exige que los sistemas de IA de alto riesgo se diseñen para que personas capacitadas puedan supervisarlos de forma efectiva: comprender sus límites, detectar cuándo algo no funciona bien e intervenir o detener el sistema cuando sea necesario.
Un banco que usa IA para evaluar solicitudes de crédito debe garantizar que una persona pueda revisar y, si hace falta, revertir una decisión automatizada antes de que afecte al solicitante.
¿Cómo puede un equipo pequeño documentar quién aprobó una decisión asistida por IA sin un departamento legal grande?
No hace falta una política corporativa extensa. Basta con una matriz simple que registre, por cada decisión relevante, dónde participó la IA, quién la propuso, quién la aprobó y quién respondería si algo sale mal. Llenarla en el momento en que ocurre la decisión, no después, es lo que sostiene la claridad.
Un equipo de marketing de cinco personas empieza a registrar en una hoja compartida cada campaña donde la IA generó parte del contenido, con el nombre de quien la revisó antes de publicarla.
¿Qué establece la función Govern del NIST AI Risk Management Framework?
La función Govern es la primera de las cuatro funciones del NIST AI RMF y establece las estructuras internas de una organización para gestionar el riesgo de IA: roles claros, líneas de responsabilidad y mecanismos de rendición de cuentas, antes de abordar la medición o gestión técnica del riesgo.
Una empresa de logística designa, dentro de su función Govern, a una persona responsable de aprobar cualquier decisión operativa donde la IA participe de forma significativa.
¿Qué encontró la encuesta de 2026 sobre la brecha de gobernanza en la responsabilidad por decisiones de IA?
Una investigación de la firma tecnológica ABBYY, reportada en 2026, encontró que líderes senior de distintas organizaciones no logran ponerse de acuerdo sobre quién es responsable cuando un sistema de IA produce un resultado dañino o incorrecto. El hallazgo refleja una preocupación más amplia: la IA se está adoptando más rápido de lo que las organizaciones logran construir estructuras de gobernanza para sostenerla.
Dos áreas de una misma empresa asumen, cada una, que la otra es responsable de revisar las recomendaciones de un sistema de IA compartido, hasta que un error revela que ninguna lo estaba haciendo.
Fuente: Global Relay, 2026
Para equipos y organizaciones
Si reconoces esta falta de claridad en tu propio equipo, el Diagnóstico S.E.N.S.E. 360° evalúa, bajo los 5 pilares del método, dónde está expuesta tu organización y construye el protocolo de responsabilidad que le falta. Entrega escrita, 100% asincrónica, sin reuniones. Escribe a info@karine.ai para conocer el alcance.

