👋🏻 ¡Hola! Bienvenido a la 5.ª edición de ”IA con Sentido”.
Esta semana destilé para ti lo que realmente mueve decisiones en IA responsable. En minutos: qué pasó, por qué importa y cómo aplicarlo ya en tu equipo (en mi nueva sección).
Gracias por estar aquí; empecemos 👇
P.D.: Si te sirve, compártela y dime qué tema de tu país/sector quieres ver.
LOS CINCO TITULARES QUE TE IMPORTAN HOY
Top 5 noticias de la semana
🧩 Anthropic lanza Petri, herramienta open source para auditoría IA
→ Petri automatiza auditorías de comportamiento, detecta sesgos, engaño y autoconservación; mide alineación y compara 14 modelos.
🌎 CEPAL — América Latina acelera pero con deficiencias
→ ILIA 2025 muestra adopción creciente en ALC, pero déficit en financiamiento, evaluación de impacto, equidad e indicadores ambientales.
🧠 Consejo ético para IA en salud mental (EE. UU.)
→ Nace VERA-MH: marco abierto para evaluar herramientas de IA en salud mental con criterios clínicos, seguridad y ética.
🎓 Emiratos Árabes, Oxford y MIT lanzan beca en gobernanza de IA
→ Los EAU impulsan un programa de formación para líderes públicos en estrategia y gobernanza de IA, con apoyo de Oxford y MIT.
🏢 Empresas — brecha entre preocupación ética y supervisión real
→ Un estudio muestra que el 97 % de CIO y CTO teme un uso poco ético de IA, pero solo el 38 % cuenta con mecanismos de supervisión efectiva.
LO MÁS RELEVANTE DEL MUNDO HISPANO
¿Qué pasó en la Hispanósfera?
🇨🇴 Colombia adopta la norma ISO/IEC 42001:2023
→ El país se vuelve pionero regional al oficializar la certificación de sistemas de IA bajo ISO/IEC 42001, impulsando confianza e interoperabilidad.
🇦🇷 Argentina, sanciones judiciales por uso indebido de IA en abogacía
→ El Superior Tribunal de Justicia sanciona a abogados que presenten escritos con jurisprudencia o citas falsas generadas por IA.
🇲🇽 México – Gobernanza de IA no puede quedar en manos de unos pocos
→ La UNAM pide una gobernanza inclusiva, sostenible y multiactor que incorpore ética y deliberación colectiva en decisiones de IA.
🌎 América Latina con rezago y retos normativos
→ Se alerta que la región avanza lento en regulación de IA, con llamados a priorizar ética, transparencia y responsabilidad.
EL PULSO GLOBAL QUE TE IMPACTA LOCALMENTE
¿Qué más pasó en el mundo ?
🇬🇧 Banco de Inglaterra alerta sobre una posible “burbuja IA”
→ El organismo advirtió que una corrección abrupta en el mercado tecnológico centrado en la IA podría tener consecuencias financieras globales.
🇪🇺 Consejo de Europa — Bengio respalda el tratado marco de IA
→ Yoshua Bengio (Premio Turing) apoyó el “Framework Convention on AI” del Consejo de Europa, reforzando la campaña global de adopción de CAIDP.
🇸🇦 Arabia Saudí impulsa gobernanza responsable y se une a red global de supervisión de IA
→ “Saudi Data and Artificial Intelligence Authority” se integró a la “Global Network of AI Supervisory Authorities” de la ONU, fortaleciendo la cooperación.
🇪🇺 UE lanza estrategia “AI Made in EU” y plan “Apply AI”
→ Comisión Europea impulsa soberanía tecnológica: estrategia “AI Made in EU” y Apply AI con €1.000M para startups e industria.
🇨🇦 Canadá lanza fuerza de tarea para su nueva estrategia nacional de IA
→ Gobierno lanza consultas públicas y crea “AI Strategy Task Force” para definir la próxima fase de la estrategia nacional.
🌍 Nueva alianza global — AI Evidence Alliance for Social Impact (AEASI)
→ Con apoyo de Google.org y gobiernos de África y Asia, se impulsa la medición del impacto social de la IA mediante evaluaciones basadas en evidencia.
📩 ¿Te gusta esta edición? Reenvíala a quien quiera aprender sobre IA Responsable.
MOVIMIENTOS DE EMPRESAS
¿Y a nivel empresarial ?
📉 Deloitte – errores generados con IA en informe oficial
→ Admitió usar GPT-4o en un informe de $440 000 AUD con citas falsas, debiendo reembolsar parte del contrato.
💬 Meta usará conversaciones con IA para publicidad dirigida
→ Desde diciembre usará interacciones con Meta AI para personalizar anuncios en WhatsApp, Facebook e Instagram; sin opción de exclusión.
🏛️ Gartner – Lecciones sobre gobernanza de IA a nivel directivo
→ Consejos adoptan modelos basados en principios y estructuras dinámicas para integrar IA con seguridad, supervisión continua y responsabilidad.
🤯 Geoffrey Hinton – alerta sobre el desarrollo sin control de la IA
→ Advierte desarrollo descontrolado; riesgo ético mayor y posible catástrofe antes de comprender o mitigar completamente sus efectos.
📉 Gartner & MIT – Por qué el 95 % de los proyectos de IA fallan
→ Fallan por datos desordenados, mala gobernanza y poco seguimiento; el éxito requiere procesos claros, métricas y disciplina operativa.
🤖 Mira Murati ex-OpenAI a Thinking Machines Lab
→ Lanza start-up ética valuada en 12.000 M$, enfocada en IA personalizada y segura que atrae talento de grandes labs.
🇪🇺 Tilde AI LLM – Nuevo LLM europeo open-source
→ Nuevo LLM multilingüe open-source, alineado con AI Act, pensado para gobiernos y empresas que buscan independencia y cumplimiento.
🌍 20 empresas reportan prácticas de gobernanza a la OCDE
→ Google, Microsoft, OpenAI y otras firmas presentaron informes voluntarios sobre gestión de riesgos según el marco Hiroshima AI Process.
📊 Encuesta EY – brechas en gobernanza corporativa
→ Revela que la mayoría de las empresas no cuenta aún con mecanismos sólidos de monitoreo, ética ni evaluación de IA en sus operaciones.
DE QUIENES MUEVEN LA AGENDA REGULATORIA
Organizaciones y Estándares
📊 UNESCO – Mesa redonda sobre supervisión de IA
→ Reunión en París definió herramientas y métodos para auditar IA y coordinar autoridades supervisoras a nivel internacional.
🤝 Alianza Oxford–Clooney para IA ética
→ Oxford y la Fundación Clooney lanzan alianza para vigilar la militarización de la IA y promover usos éticos gubernamentales.
🌎 UNODC – la IA impulsa el cibercrimen en el Sudeste Asiático
→ La UNODC documenta redes criminales que usan IA para escalar fraudes con clonación de voz, deepfakes y automatización regional.
🇺🇸 EE.UU. – Paneles independientes de seguridad
→ Estados Unidos propone paneles independientes que certifiquen modelos de IA y otorguen inmunidad limitada a empresas que cumplan estándares.
ACCIONABLES DE LA SEMANA
De la Noticia a Tu Plan de Acción
Te convierto estas noticias en acciones concretas que puedes iniciar desde hoy para fortalecer tu gobernanza de IA. Elige 3 acciones para ejecutar esta semana:
🟪 Comité de IA → reúne a dirección, legales, TI, negocio, riesgo y voz de usuarios con agenda mensual y actas.
🟪 Política y capacitación BYOAI → define uso responsable y forma a roles clave en datos, sesgos, seguridad y reporte.
🟪 Auditoría continua de modelos → haz red teaming ligero mensual y pruebas antialucinaciones con una herramienta abierta como Petri.
🟪 Datos y transparencia → documenta procedencia, metadatos y tarjetas de modelo y declara el uso de IA en productos.
🟪 Cumplimiento y certificación → realiza un análisis de brechas con AI Act y normas locales y traza ruta a ISO/IEC 42001.
🟪 Ética y derechos humanos → aplica principios UNESCO e IDOS y evalúa impactos para biometría, menores y casos sensibles.
🟪 Proveedores y soberanía → selecciona por licencias, seguridad y portabilidad y define un plan de salida para cada servicio.
🟪 Seguridad y abuso → implementa detección de deepfakes y voz clonada, controles anti jailbreaking y un playbook de incidentes.
🟪 Participación y alianzas → participa en consultas y redes y colabora con universidades y fundaciones para auditoría y evidencia.
LECTURAS RELEVANTES Y SERIAS DE LA SEMANA
¿Qué leer este fin?
📚 CEPAL – Índice Latinoamericano de Inteligencia Artificial (ILIA 2025)
→ Analiza el estado de la IA en América Latina y el Caribe, evaluando políticas, talento, inversión y gobernanza.
📚 IDOS — Marcos globales para regular IA y reconocimiento facial
→ Propone modelos adaptativos e inclusivos para la regulación de IA, combinando principios éticos, cooperación internacional y enfoques de gobernanza flexible ante tecnologías de alto riesgo.
📚 Towards Adaptive AI Governance: Comparative Insights from the U.S., EU, and Asia
→ Compara los marcos regulatorios de IA proponiendo una gobernanza híbrida que equilibre control preventivo con innovación responsable.
✍🏼 Mis apuntes :
Los 3 textos apuntan a un mismo mensaje: sin gobernanza responsable, no hay IA sostenible.
EL LIBRO QUE TE RECOMIENDO
📚 Algorithms of Oppression 📚
Esta semana, en el “Club de Lectura de IA Responsable”, te recomiendo Algorithms of Oppression de Safiya Umoja Noble.
¿Por qué se destaca este libro?
Cuando el buscador deja de ser un “espejo” y se convierte en un sistema que prioriza ciertos intereses: sesgos, poder y responsabilidad en la era de la información. Lee mi reseña completa.
BASES DE DATOS, REPOS LISTOS PARA USAR
Recursos útiles
✅ MITRE ATLAS
Es un framework que proporciona una gran base de conocimiento para los profesionales de la seguridad, tanto desde el punto de vista ofensivo como desde el defensivo.
👉🏼 Cómo lo uso yo:
Selecciono 3 tácticas relevantes (por ej: data poisoning) y diseño pruebas de red-teaming ligeras.
📢 Tienes un equipo o comunidad interesada en IA Responsable?
Comparte esta newsletter con ellos.
PLANTILLA DE LA SEMANA
✅ Tu Check-list de Registro BYOAI
|
¿Sabes quién usa qué herramienta de IA, con qué datos y bajo qué controles? Gracias a este check-list, ahora podrás. Incluye todo lo necesario como Registro, Semáforo y Controles mínimos.
✍🏼 Cómo lo uso yo: me encanta difundir este tipo de plantillas para cuidar el uso de herramientas de IA. |
 |
¿Lo hacemos juntos?
“BYOAI Express” te ayuda en implementar esta plantilla de usos de IA, análisis de riesgos y controles mínimos y plan 30/60/90.
VACANTES DE TRABAJO EN IA RESPONSABLE
Ofertas de trabajo
Te preparé una selección de los mejores empleos en IA Responsable, Gobernanza de la IA, Ética, Cumplimiento normativo y Auditoría de sistemas de IA. Accede a la lista internacional completa y ve lo más destacado en LATAM aquí :
🇸🇻 Desarrollo de la Metodología de Evaluación de la Preparación (RAM) en El Salvador – UNESCO – El Salvador
🇪🇸 Senior – Trustworthy AI – Deloitte – España
🇲🇽 Director de Ciencia de Datos e IA – AT&T – Mexico
🇪🇺 Executive Director – European Network for AI Safety – Europa (Remoto)
Accede a la lista completa de ofertas laborales de esta semana.
HUMOR RESPONSABLE
¡Y hasta aquí por hoy!
Gracias por leer hasta el final. Si te sirvió, respóndeme con el tema que no debe faltar la próxima semana.
¿A quién más le ayuda? Reenvíala o compártela.
|
Con gratitud y té en mano ☕, Karine Mamá, apasionada con la IA Responsable a beneficio de las personas y también AI Governance Consultant & WiAIG Mexico Leader |
 |
Todas las fuentes fueron verificadas y con fecha; si ves un error, respóndeme y lo corrijo en la versión web.