Cuando una herramienta de IA se equivoca, suele aparecer la misma pregunta: ¿a quién le toca resolverlo? Si la respuesta pasa del proveedor al equipo técnico y del equipo técnico a quien la usa, te conviene revisar cómo repartiste las responsabilidades antes de seguir.
Qué encontrarás: Cómo usar el marco de la OCDE para aclarar responsabilidades y revisar riesgos durante la vida de un sistema de IA.
Qué es este recurso y quién lo publica
La OCDE publicó este documento el 23 de febrero de 2023. Organiza la gestión del riesgo durante el ciclo de vida de la IA en 4 actividades: definir el contexto, evaluar los riesgos, tratarlos y mantener la gobernanza. Relaciona las responsabilidades de cada participante con su papel, el contexto y su capacidad de actuar. Es un marco de referencia, no una certificación. Advancing accountability in AI: Governing and managing risks throughout the lifecycle for trustworthy AI.
Cómo te recomiendo aprovecharlo
Yo empezaría por una decisión concreta de tu organización. ¿Qué propone la IA? ¿Quién acepta esa propuesta? ¿Quién recibe las consecuencias? Escribir esos nombres suele resultar más útil que añadir otra declaración general de uso responsable. También te recomiendo separar la tarea de detectar un problema de la autoridad para corregirlo: una persona puede darse cuenta del error y no tener permiso para detener el proceso.
Ejemplo: el proveedor cambió la herramienta
Imagina que una organización utiliza IA para ordenar solicitudes de atención. El proveedor actualiza el sistema y algunas solicitudes empiezan a quedar relegadas. El equipo de atención ve el problema… pero nadie sabe si puede suspender la clasificación. Este ejemplo es ficticio. Te propongo usarlo para preguntar qué información necesita cada participante y quién puede decidir que se revise una solicitud manualmente.
4 preguntas para llevarlo a tu trabajo
- Elige un uso de IA que afecte a personas y describe la decisión que ayuda a tomar.
- Identifica quién lo desarrolla, contrata, configura, utiliza y supervisa. No asumas que todos tienen la misma capacidad de intervención.
- Anota una señal que obligaría a revisar ese uso y quién debe recibirla.
- Acuerda cómo se documenta la corrección y cómo se comunica a las personas afectadas.
Qué riesgos humanos te propongo observar
Lo relaciono con Decisiones, organizaciones y sociedad porque te ayuda a pedir responsabilidades identificables. También con Autonomía y agencia: importa que las personas puedan cuestionar una recomendación y que alguien tenga autoridad para responder.
Estas relaciones pertenecen a mi Taxonomía IAConSentido; no son categorías atribuidas a los autores del documento.
Lo que conviene tener claro
No te recomiendo copiar el esquema como si todas las organizaciones necesitaran los mismos controles. El contexto, las personas afectadas y la gravedad de las consecuencias cambian lo que hace falta. El documento de 2023 tampoco sustituye la revisión de las normas vigentes que correspondan a tu actividad.
¿Para qué sirve Advancing accountability in AI?
Para organizar preguntas sobre riesgos y responsabilidades a lo largo de la vida de un sistema de IA. Puedes usarlo como referencia al definir quién revisa, decide, corrige y da seguimiento.
Por dónde empezar
En tu próxima revisión, elige un problema posible y pide que alguien explique, de principio a fin, quién haría qué. Si la explicación termina en «ya lo veremos», ahí tienes una decisión pendiente.
Consultar el documento original · Explorar la Biblioteca de Riesgos Humanos de la IA