La IA para el bien común: lecciones de la UNESCO con Gabriela Ramos

Ayer participé a una conferencia muy interesante que dio la maestra Gabriela Ramos, candidata de México a directora general de la UNESCO, en el lanzamiento del Laboratorio de Inteligencia Artificial en México. Fue una plática que dejó mucho para pensar sobre cómo la IA puede trabajar para todos.

¿Qué es la IA para el bien común?

Gabriela Ramos indica que su presentación se enfoca en el trabajo que la UNESCO ha estado haciendo sobre el marco ético de la inteligencia artificial. El enfoque busca alinear estas tecnologías con los objetivos del país, de las escuelas, en los diferentes rubros y como individuos.

Ella propone ampliar la discusión más allá de la dicotomía de regulación contra innovación, e incorporar temas de inversión e inclusión para realmente construir una inteligencia artificial que beneficie a todos.

La revolución tecnológica de la inteligencia artificial

Gabriela describe la inteligencia artificial como una revolución tecnológica profunda y disruptiva que abarca todos los ámbitos de nuestra vida, desde cómo consumimos hasta cómo interactuamos o estudiamos. La inteligencia artificial generativa, lanzada en 2022, ha aumentado sus capacidades vertiginosamente en un periodo muy corto de tiempo. Es una transformación tecnológica enorme que avanza muy rápido.

Ella señala la importancia de dar seguimiento a lo que sucede en el mercado, a las inversiones y a los desarrollos para decidir qué tipo de inserción queremos en esta evolución. Menciona tendencias recientes como las herramientas de inteligencia artificial agéntica, los desarrollos locales o regionales y los esfuerzos hacia una mayor sustentabilidad ambiental. Destaca que la UNESCO, en la cumbre de la Inteligencia Artificial en Francia, ha estado trabajando justamente para buscar una forma de reducir el impacto ambiental o la huella de carbono de la inteligencia artificial, que es uno de los retos más importantes.

Concentración de inversiones y democratización de aplicaciones

Ramos presenta datos sobre la concentración del mercado de inteligencia artificial en términos de flujos de inversión. Señala que Estados Unidos es la principal fuente de desarrollo, seguido por Japón, China y Reino Unido. Destaca la ausencia de países del sur global en estas inversiones y enfatiza la importancia de dedicar más recursos a la investigación y desarrollo, a los laboratorios, y a las herramientas de inteligencia artificial adaptadas a las realidades locales. Por eso, expresa su apoyo al lanzamiento de este laboratorio y busca justamente incrementar los recursos que se dedican tanto en el sector público como en las empresas y en la academia.

Muestra cómo Estados Unidos invierte principalmente en países avanzados con capacidades similares, creando un tipo de reciprocidad en inversiones. Ramos subraya la importancia de desarrollar aplicaciones concretas en ámbitos como salud, educación y agricultura. Comenta que la combinación de diagnósticos con IA y profesionales humanos ofrece mejores resultados que cualquiera por separado. Dice que la gama diversificada de productos y aplicaciones es donde hay que ponerle mucho énfasis, para tener una inteligencia artificial que nos ayude a manejar mejor los sistemas de salud, apoyar a los maestros, etc.

Convergencia tecnológica y accesibilidad de modelos

Ramos explica cómo las tecnologías y desarrollos tecnológicos están convergiendo. Menciona el trabajo de la UNESCO en la ética de la neurotecnología y cómo los avances en la comprensión del cerebro interactúan con herramientas digitales. Al mismo tiempo, señala que la biología sintética no podría avanzar sin los algoritmos y el análisis de datos proporcionados por la inteligencia artificial.

Como buena noticia, destaca que el costo de los modelos de lenguaje significativos ha caído, volviéndose mucho más accesibles. Esto facilita el desarrollo de herramientas específicas y muy vinculadas a las realidades de nuestras regiones, comunidades y gobiernos.

Impacto de la IA en los mercados laborales

Ramos aborda el impacto de la inteligencia artificial en los mercados laborales. Recuerda un estudio de la OCDE donde se demostraba que los trabajos rutinarios iban a transformarse. Sin embargo, señala que con el avance vertiginoso de la IA generativa, la que razona y los agentes, el panorama es distinto. Su recomendación es introducir capacidades anticipatorias en las instituciones, avanzar en la adaptabilidad y resiliencia de la mano de obra, y desarrollar competencias como el pensamiento crítico y el trabajo en equipo, que no pueden ser sustituidos totalmente por las tecnologías. Eso resueña mucho con la plática que dió Sue Duke de LinkedIn donde enfocaba en la importancia de desarrollar las capacidades humanas ante el desarrollo de la Era de la IA que iba a afectar al mercado laboral. 

Preocupaciones y riesgos de la inteligencia artificial

Ramos menciona las preocupaciones existentes con los modelos de aprendizaje automático y desarrollos algorítmicos, como asegurar resultados no discriminatorios, calidad de datos y representatividad. Señala que los nuevos desarrollos han generado más preguntas y han llevado a reflexionar sobre las respuestas de política pública necesarias.

Cuando habla de los riesgos que preocupan de la inteligencia artificial generativa y las acciones para mitigarlos, incluyee la falta de precisión (alucinaciones), la ciberseguridad, la protección de derechos de propiedad, el cumplimiento regulatorio, la privacidad, la justicia, el desplazamiento laboral, la equidad, la reputación organizacional, la seguridad nacional, el impacto ambiental y la estabilidad política.

Desigualdades en el acceso y desarrollo de la IA

También aborda el tema de la inteligencia artificial y las desigualdades. Recuerda que aproximadamente el 30% de la población mundial no tiene acceso a internet de calidad. Destaca que el sector digital tiene poca representación de mujeres (solo el 22% de la fuerza laboral) y menciona desigualdades estructurales en competencias y talentos. Señala la carrera global por atraer talentos en análisis de datos e ingeniería, lo que representa un reto para países en desarrollo. También menciona la barrera del lenguaje, ya que la mayoría de los desarrollos se realizan en inglés, aunque ya existen herramientas como ChatGPT en español.

El estándar global de ética de la inteligencia artificial de la UNESCO

Ramos presenta el estándar global de ética de la inteligencia artificial aprobado por la UNESCO en 2021 por 193 países (más tarde se unió Estados Unidos). El documento establece que las tecnologías deben promover y defender los derechos humanos, las libertades fundamentales, la dignidad humana, la equidad y la justicia.

Estos documentos con pilares en la visión y desarrollo de la UNESCO.

Destaca que el documento no se limita a principios, sino que los transforma en aplicaciones concretas de política pública en áreas como política de datos, género, gobernanza ética, desarrollo y cooperación internacional, medio ambiente, salud, comunicación e información, cultura, economía y trabajo, y evaluación de impacto.

Instrumentos de evaluación y capacidades nacionales

Ramos describe 2 instrumentos desarrollados por la UNESCO: el Readiness Assessment (RAM) para evaluar las capacidades de los países y el Ethical Impact Assessment para desarrolladores. Explica que estos instrumentos no solo se enfocan en competencias duras (infraestructura, capital, competencias), sino también en cultura, instituciones y visión para utilizar estas tecnologías. Se realizan de manera multisectorial, involucrando a gobiernos, empresas, sociedad civil y académicos. Ramos enfatiza que, si bien las tecnologías seguirán desarrollándose, es necesario invertir en marcos éticos y de competencias para maximizar beneficios y controlar impactos negativos.

Resultados de los Readiness Assessments globales

La UNESCO ha trabajando en estos RAM con 20 países en América Latina y 24 en África. Estos estudios están acompañados por foros regionales donde los países comparten experiencias y aprenden en conjunto. Señala que muchos países han indicado que estos estudios les han ayudado a entender dónde se encuentran y dónde deben enfocar sus inversiones. Sobre todo,  enfatiza que no es solo un tema de inteligencia artificial, sino de desarrollo económico, inversión en innovación, ciencia, infraestructura y educación. Gracias a este trabajo, la UNESCO tiene una idea clara de dónde están las brechas y qué se debe hacer para avanzar.

Hallazgos generales de los estudios por país

Finalmente, presenta los hallazgos generales de los Readiness Assessments realizados. Señala que solo el 30% de los países evaluados han implementado y coordinado plenamente estrategias nacionales de inteligencia artificial. Destaca la importancia de tener estas estrategias y celebra los avances en México con la creación de una Secretaría de Ciencias, una Agencia Digital y el lanzamiento del laboratorio. Menciona que más del 60% de los países analizados carecen de mecanismos formales para monitorear y evaluar los impactos sociales de la inteligencia artificial, y menos del 25% poseen capacidades regulatorias suficientes para supervisar sistemas complejos. También señala las brechas significativas en talentos, no solo en términos de género sino también en la formación de ingenieros y técnicos.

El caso de México y su Readiness Assessment

Ramos menciona que México fue uno de los primeros países en realizar su Readiness Assessment, trabajando con la alianza nacional y ahora con la agencia digital. El estudio proporcionó una hoja de ruta para avanzar en la gobernanza ética y efectiva de la inteligencia artificial. También, indica que México tiene una posición media en tecnología, una inversión creciente en IA, una adopción creciente entre empresas mexicanas, y un marco normativo existente bastante sólido. Señala la inclusión de grupos vulnerables en el desarrollo de reglas y la importancia de la creación de la Agencia Digital y el Ministerio de Ciencia como desarrollos institucionales significativos.

Iniciativas de la UNESCO para apoyar el desarrollo ético de la IA

Ramos describe varias iniciativas de la UNESCO para apoyar a los países en el desarrollo y utilización ética de la inteligencia artificial. Menciona la red de expertos en ética de inteligencia artificial sin fronteras, que incluye expertos nacionales que hablan el idioma local y entienden la cultura. Destaca la plataforma de mujeres por la ética de la inteligencia artificial, que aborda estereotipos y promueve políticas para atraer y retener mujeres en el sector. También menciona el Consejo Empresarial de la Ética de la Inteligencia Artificial liderado por Microsoft y Telefónica, con participación de Salesforce, Lenovo y LG. 

Visión para la UNESCO y compromiso con la IA ética

Para terminar su plática, Gabriela comparte su visión para la UNESCO como candidata a directora general. Destaca que la UNESCO es la única institución con mandato en ética de la ciencia y tecnología, y debe seguir liderando en estructurar cómo abordamos estos temas, trabajando con gobiernos para incrementar sus capacidades y lograr resultados positivos. Presenta su estrategia basada en inclusión, innovación e impacto. Afirma que la UNESCO puede convertirse en un socio estratégico de los estados miembros para aprovechar la inteligencia artificial, unir fuerzas, movilizar recursos, proporcionar cooperación técnica, elaborar y actualizar marcos normativos, y facilitar el acceso a herramientas, metodologías y financiamientos.