Una organización puede tener una buena herramienta y aun así no saber qué hacer cuando se equivoca. ¿Quién avisa? ¿Quién corrige? ¿Qué le explicas a la persona afectada? Estas decisiones no deberían improvisarse después.
Qué encontrarás en este recurso
Model AI Governance Framework for Generative AI. El Model AI Governance Framework for Generative AI, desarrollado por IMDA y AI Verify Foundation, propone 9 dimensiones para abordar la gobernanza de IA generativa. El documento consultado es de 2024. Es distinto del marco de IA tradicional publicado en 2019 y actualizado en 2020.
Incluye responsabilidad, datos, desarrollo y despliegue, reporte de incidentes, pruebas, seguridad, procedencia del contenido, investigación sobre seguridad y alineación, e IA para el bien público. Propone trabajar estas dimensiones en conjunto, no confiar en una sola intervención.
Cómo te recomiendo aprovecharlo
A mí me interesa que uses el marco para revisar lo que sucede entre equipos. El proveedor puede desarrollar el modelo, otra empresa integrarlo y tu organización utilizar sus respuestas. Te conviene aclarar qué puede controlar cada parte y quién atiende a la persona cuando algo sale mal.
Un ejemplo: una respuesta incorrecta enviada a un cliente
Imagina que una IA comunica condiciones que tu servicio no ofrece. Es un ejemplo ficticio. Corregir el texto es necesario, pero no suficiente. Yo preguntaría quién avisará al cliente, cómo se registrará lo ocurrido y qué cambio evitará que otras personas reciban la misma información.
Qué puedes hacer en tu equipo
- Reparte responsabilidades: identifica quién desarrolla, integra, opera y revisa cada parte.
- Prepara el reporte de incidentes: acuerda qué se registra, quién recibe el aviso y cuándo se interviene.
- Explica la procedencia: distingue información de la organización, contenido generado y datos que todavía requieren comprobación.
- Usa los resultados para corregir: relaciona cada problema con una acción y una persona responsable.
Qué riesgos humanos te recomiendo observar
Decisiones, organizaciones y sociedad: te conviene evitar responsabilidades difusas. Relaciones, confianza y convivencia: te recomiendo explicar errores y correcciones de forma que las personas puedan entender qué ocurrió.
Relaciono estas situaciones con mi Taxonomía IAConSentido para ayudarte a identificar qué cuidar. Esta clasificación no pertenece a los autores del recurso ni supone que respalden el Método SENSE.
Lo que este recurso no resuelve por sí solo
Las 9 dimensiones de este marco no son los 3 dominios ni las 8 familias de IAConSentido. Tampoco son una certificación ni una sustitución de asesoría jurídica. Adapta sus propuestas al sector, al país y al papel real de tu organización.
¿Este marco sirve solo si desarrollo modelos?
También puede ayudarte si integras o utilizas herramientas. No todas las recomendaciones tendrán el mismo alcance para ti; empieza por las decisiones y procesos que realmente puedes controlar.
Te propongo empezar por esto
Antes de lanzar una función, escribe cómo recibirá ayuda alguien afectado por una respuesta incorrecta. Comprueba que la persona de contacto conoce el procedimiento y tiene una forma de escalar el problema.
Si necesitas ordenar estas decisiones, puedes conocer las preguntas del Método SENSE.