Reporte de agosto de 2023 · Piloto mexicano realizado en 2021 · Prototipo, no legislación.
Decirle a alguien que estás usando IA puede ser importante… pero puede dejarlo igual de perdido. Si no entiende qué hizo el sistema, cómo influyó en el resultado o a quién puede pedir una revisión, todavía le falta información para actuar. Este reporte te conviene si estás preparando avisos o explicaciones para personas que recibirán decisiones apoyadas por IA.
Qué encontrarás en este recurso
El reporte Open Loop México, publicado en agosto de 2023, describe una prueba realizada entre febrero y agosto de 2021 con 10 empresas mexicanas. Evaluó un prototipo de políticas sobre transparencia y explicabilidad. Participaron el programa Open Loop, apoyado por Meta, y Eon Resilience Lab de C Minds, con colaboración institucional descrita en el documento. Es un experimento de diseño de políticas y recoge experiencias de los participantes; no es una norma mexicana ni una evaluación representativa de todas las empresas. Open Loop México: Prototipo de Políticas Públicas sobre Transparencia y Explicabilidad de Sistemas de IA.
Por qué te lo recomiendo
Lo que me interesa es llevar la explicación al momento en que la persona la necesita. Un texto técnicamente correcto puede seguir siendo inútil si aparece después de la decisión o exige conocimientos que el destinatario no tiene. Te recomiendo probar si la persona sabe qué puede hacer después de leerlo, no solo si reconoce la palabra inteligencia artificial.
Un cliente recibe una respuesta que no entiende:
Imagina una plataforma que ordena solicitudes con ayuda de IA. Una persona recibe una negativa y encuentra únicamente un aviso genérico sobre algoritmos. Yo revisaría qué información puede ofrecerse de manera comprensible: qué función cumplió el sistema, qué aspectos se tuvieron en cuenta y qué canal permite solicitar una revisión. No inventaría una explicación automática si el equipo no puede comprobarla.
Cómo empezar
- Identifica a quién va dirigida la explicación y qué decisión necesita comprender.
- Distingue el aviso de uso de IA de la explicación del resultado particular; pueden necesitar información diferente.
- Pide a alguien ajeno al proyecto que diga, con sus propias palabras, qué entendió y qué haría si encuentra un error.
- Deja claro quién responde las dudas y qué límites tiene la explicación disponible. Si falta información del proveedor, señálalo.
Qué riesgos humanos te ayuda a revisar
En mi Taxonomía IAConSentido lo relaciono con Autonomía y agencia, porque comprender una intervención ayuda a decidir cómo responder. También con Decisiones, organizaciones y sociedad, por la responsabilidad de explicar y revisar resultados. No presento estas familias como la clasificación utilizada por Open Loop. Puedes consultar los nombres y su alcance en la Taxonomía IAConSentido.
Qué necesitas tener presente
La prueba fue limitada en participantes, duración y contexto. Sus conclusiones no permiten asegurar que un aviso funcionará igual en una escuela, un hospital o cualquier empresa. Además, el apoyo de instituciones descrito en el reporte corresponde al momento del proyecto; no convierte el prototipo en una obligación actual ni sustituye una revisión jurídica.
¿Puedo copiar el prototipo como política de mi empresa?
Puedes consultarlo para preparar preguntas y comparar opciones. Antes de adoptarlo necesitas revisar tu sistema, tus destinatarios y las obligaciones que correspondan. Te recomiendo adaptar y probar el texto, no presentarlo como una política ya validada para tu caso.
Elige 1 aviso sobre IA que uses hoy. Después de leerlo, ¿la persona sabe qué ocurrió y con quién puede hablar? Si no, empieza por completar esa información.
Si quieres comparar otros documentos y herramientas, visita la Biblioteca de Riesgos Humanos de la IA.