Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
Cuando una herramienta de IA causa un problema, decir que “fue el sistema” no explica quién decidió utilizarlo, qué se revisó antes y qué podía haberse hecho de otra manera. Te conviene aclarar esas responsabilidades antes de necesitar una respuesta urgente.
Te recomiendo Liability for Harms from AI Systems, un reporte de RAND publicado el 20 de noviembre de 2024. Su subtítulo delimita bien el tema: analiza la aplicación del derecho estadounidense de responsabilidad extracontractual a daños relacionados con IA. No ofrece una respuesta válida para cualquier país ni decide quién será responsable en tu caso.
Qué encontrarás en este reporte
Los autores examinan cuestiones como la negligencia, la responsabilidad por productos y la dificultad de identificar quién contribuyó a un daño cuando intervienen desarrolladores y organizaciones usuarias. Señalan diferencias entre jurisdicciones estadounidenses y asuntos todavía inciertos. Es un análisis de 2024, no una recopilación actualizada de todas las decisiones posteriores.
La pregunta que te propongo llevar a tu equipo
Antes de discutir quién tendría que responder en un juicio, empieza por una pregunta de trabajo: ¿quién puede detectar y corregir un problema hoy? A veces el contrato nombra al proveedor, el procedimiento nombra al usuario y nadie ha definido quién revisa lo que ocurre entre ambos.
Yo separaría las responsabilidades operativas de las conclusiones jurídicas. Puedes definir quién recibe un aviso, conserva información o detiene una función sin pretender resolver por tu cuenta la responsabilidad legal de todas las partes.
Ejemplo ficticio: un asistente que informa mal a clientes
Imagina que una empresa usa IA para responder dudas sobre sus servicios. Una respuesta incorrecta lleva a un cliente a tomar una decisión que le perjudica. El proveedor dice que el equipo debía revisar las respuestas; el equipo creyó que esa revisión ya estaba incluida.
Te propongo reconstruir qué información recibió el sistema, qué límites se acordaron y qué controles existían. Después consulta con el responsable jurídico cómo conservar la evidencia y atender la situación. No borres registros ni prometas una conclusión antes de entender lo ocurrido.
El ejemplo es ficticio. No establece quién sería responsable ni permite anticipar el resultado de una reclamación.
Cómo lo relaciono con los riesgos humanos
Decisiones, organizaciones y sociedad: me interesa que las responsabilidades no desaparezcan entre proveedores, usuarios y procesos internos.
Seguridad, privacidad y dignidad: atender a quien resulta perjudicado también exige cuidar la información que se recoge durante la revisión y no exponer más de lo necesario.
Antes de contratar otra herramienta
Escribe qué tarea delegarás, qué decisión seguirá siendo humana y qué harás si algo falla. Identifica a la persona que puede intervenir. Lleva después las dudas sobre contratos y responsabilidad a una revisión especializada. Un documento claro ayuda… pero no garantiza que nunca habrá un conflicto.
Una conversación antes de que haya un problema
Reúne a quien compra la herramienta, quien la utiliza y quien atiende a las personas afectadas. Pídeles que expliquen el mismo procedimiento por separado. Si sus respuestas no coinciden, ya tienes algo concreto que aclarar antes de ampliar su uso.
Por ejemplo, el equipo puede creer que existe una revisión humana cuando en realidad solo se revisan algunas respuestas. Te recomiendo documentar esa diferencia sin buscar culpables de antemano. Lo que necesitas es saber dónde intervenir, qué información falta y quién puede autorizar una corrección. Esa claridad operativa no resuelve una demanda, pero evita que una pregunta cotidiana termine sin respuesta.
Preguntas frecuentes
¿El reporte explica qué leyes se aplican en México?
No. Su foco es Estados Unidos. Las preguntas de organización pueden servirte, pero no debes trasladar automáticamente sus conclusiones jurídicas a México u otro país.
¿Usar un proveedor reconocido elimina mi responsabilidad?
No puedes deducirlo solo de su reputación. El análisis depende de los hechos, los acuerdos y la legislación aplicable.
Explora más recursos en la Biblioteca de Riesgos Humanos de la IA.
Fuente consultada el 13 de noviembre de 2026. Este artículo ofrece orientación editorial; no sustituye una evaluación jurídica de tu caso.