IAConSentido · Guías y fuentes externas · Por Karine Boucher
Cuando escuchas que hay que gobernar la IA, puede parecer un asunto reservado a gobiernos y grandes empresas. Yo te propongo empezar con algo más cercano: cuando una decisión afecta a varias personas, ¿quién participa antes de tomarla y quién puede cuestionarla después?
Qué es Governing AI for Humanity
Governing AI for Humanity: Final Report es el reporte final de septiembre de 2024 del Órgano Asesor de Alto Nivel sobre IA de las Naciones Unidas. Propone cooperación internacional mediante iniciativas relacionadas con conocimiento científico, diálogo de políticas, estándares, capacidades, financiación, datos y coordinación dentro de la ONU.
Es un reporte de recomendaciones de 2024, no un tratado ni una prueba de que todas sus propuestas estén implementadas. Para conocer qué ocurrió después hay que consultar decisiones posteriores. Puedes localizar su registro en la Biblioteca Digital de las Naciones Unidas.
Qué pregunta me interesa llevar a tu organización
¿Estamos escuchando solo a quienes pueden comprar y desarrollar la tecnología, o también a quienes van a vivir con sus consecuencias? Te recomiendo plantearlo antes de dar por suficiente una reunión entre dirección y proveedor.
La participación tampoco se resuelve invitando a alguien cuando todo está decidido. Para que una opinión pueda influir, la persona necesita entender qué se propone, disponer de tiempo para responder y saber qué ocurrirá con sus comentarios.
Ejemplo ficticio: una escuela prepara sus reglas sobre IA
Imagina que una escuela quiere establecer cómo se utiliza IA en las tareas. El equipo directivo prepara un documento. Yo propondría revisarlo también con docentes, estudiantes y familias, con preguntas comprensibles y sin pedir datos personales innecesarios.
Un docente podría señalar dificultades para valorar el proceso de trabajo; un alumno, que una prohibición no distingue entre pedir una pista y entregar una respuesta ajena. Una familia podría necesitar saber qué información se comparte con servicios externos. Escuchar esas diferencias no obliga a aceptar cualquier propuesta… pero permite decidir con más contexto.
Es un ejemplo que propongo para conversar, no un programa escolar recomendado o evaluado por la ONU.
3 preguntas para que participar no sea solo aparecer en una lista
- Antes: ¿las personas reciben información suficiente para opinar sobre lo que realmente cambiará?
- Durante: ¿pueden explicar una dificultad sin tener que dominar lenguaje técnico?
- Después: ¿saben qué se decidió, por qué y cómo pedir una revisión?
Te recomiendo dejar por escrito también los desacuerdos que siguen abiertos. Si el documento final hace parecer que todo el mundo está conforme, puede ocultar precisamente los puntos que requieren seguimiento.
Cuando cites este reporte, distingue sus recomendaciones de tus propias decisiones. No necesitas decir que “la ONU exige” algo para explicar por qué consideras conveniente escuchar a las personas afectadas.
Familias de riesgos humanos relacionadas
Decisiones, organizaciones y sociedad: cómo se distribuyen las decisiones, la responsabilidad y las posibilidades de revisión. Relaciones, confianza y convivencia: qué ocurre cuando alguien siente que una decisión se le impone sin explicación. Esta relación corresponde a mi Taxonomía IAConSentido.
Si te interesa el problema de la representación internacional, también puedes consultar mi artículo sobre los 118 países y las 7 iniciativas analizadas por la ONU en 2024. Aquí el propósito es distinto: ayudarte a usar el reporte para preparar preguntas sobre tu propia forma de decidir.
¿Puedes aplicar sus recomendaciones directamente como una política interna?
No sin adaptarlas al caso. El reporte trata la cooperación internacional. Te puede ayudar a reconocer problemas de participación y capacidad, pero una política interna necesita alcance, responsables y procedimientos concretos. Para empezar, elige 1 decisión sobre IA que estés preparando y comprueba quién todavía no ha podido opinar.
Consultar Governing AI for Humanity: Final Report · Explorar la Biblioteca de Riesgos Humanos de la IA
Fuente consultada el 13 de noviembre de 2026. Septiembre de 2024. Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE.