Por Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
Tu equipo ya usa IA para responder correos, resumir documentos o preparar análisis. Todo parece avanzar más rápido… pero cuando preguntas quién revisa un error importante, cada persona señala a otra. Antes de añadir otra herramienta, te conviene aclarar esa parte.
Para ordenar esa conversación te recomiendo conocer el Artificial Intelligence Risk Management Framework (AI RMF) de NIST. No te dice qué decisión tomar en cada caso. Te ayuda a plantear cómo vas a reconocer, evaluar y gestionar los riesgos de un sistema de IA.
Qué es el AI RMF de NIST:
El AI RMF 1.0 es un marco voluntario publicado el 26 de enero de 2023. Su núcleo organiza el trabajo en 4 funciones: GOVERN, MAP, MEASURE y MANAGE. Puedes consultar el documento oficial AI RMF 1.0. La página de NIST indica que esta versión está en revisión; conviene comprobar allí las actualizaciones antes de iniciar un proyecto.
Cómo te propongo empezar:
Mi recomendación es elegir 1 uso real, no intentar describir toda la organización en una tarde. Escribe qué hace la herramienta, quién la utiliza y qué podría pasar si la respuesta fuera incorrecta. Si todavía no puedes explicar eso sin recurrir a frases como “optimizar procesos”, necesitas concretar un poco más.
- Responsabilidad: anota quién puede aprobar el uso, quién revisa sus resultados y quién puede detenerlo. No me basta con escribir “el equipo”. Te recomiendo señalar un cargo y confirmar que esa persona tiene autoridad para actuar.
- Contexto: identifica a las personas afectadas. Un resumen para uso personal no tiene las mismas consecuencias que un mensaje enviado a un cliente o una recomendación sobre un trabajador.
- Comprobación: decide qué evidencia necesitas antes de confiar en el resultado. Prueba también situaciones difíciles, no solo el ejemplo que funciona durante la demostración.
- Respuesta: deja por escrito qué harás cuando aparezca un problema. Incluye cómo corregirlo, a quién avisar y cuándo dejar de utilizar la herramienta.
Estas son preguntas que yo te propongo para comenzar. No sustituyen las funciones, categorías y orientaciones del documento ni constituyen una implementación completa del marco.
Ejemplo ficticio: una IA responde reclamaciones de clientes:
Imagina una tienda que usa IA para preparar respuestas sobre devoluciones. La herramienta redacta mensajes amables… pero algunas respuestas prometen condiciones que la tienda no ofrece. Revisar la ortografía no resuelve ese problema.
Yo empezaría por separar las tareas. La IA puede preparar un borrador; una persona comprueba las condiciones y autoriza el envío. Después probaría reclamaciones ambiguas, pedidos con incidencias y preguntas que no aparecen en la política. Si falta información, la respuesta debería reconocerlo y pasar el caso a alguien que pueda decidir.
Te conviene guardar qué se probó y qué falló. Si cambias de modelo o actualizas la política comercial, esas pruebas necesitan otra revisión. No daría por bueno el sistema solo porque funcionó el día de su presentación.
Qué riesgos humanos te recomiendo observar:
En la Taxonomía IAConSentido relaciono este uso con Decisiones, organizaciones y sociedad: importa quién responde por una decisión y cómo puede revisarla la persona afectada. También con Seguridad, privacidad y dignidad, porque una reclamación puede contener información que no necesitas compartir con el proveedor de IA.
Esta relación sirve para organizar los recursos de mi biblioteca. No significa que NIST utilice mis familias ni que avale el Método SENSE.
Preguntas frecuentes:
¿Usar el AI RMF certifica a mi organización?
No. Consultar o aplicar un marco voluntario no equivale a recibir una certificación. Tampoco demuestra por sí solo que cumplas todas las obligaciones legales de tu actividad.
¿Necesito empezar con un documento enorme?
Yo empezaría con una ficha breve del caso de uso y las preguntas que aún no sabes responder. Lo importante es que esas dudas tengan una persona responsable y un siguiente paso, no llenar páginas que nadie consulta.
¿Sirve para IA generativa?
NIST publicó además un perfil específico de IA generativa en 2024, enlazado desde la página del marco. Te recomiendo revisar qué recurso corresponde a tu sistema y a la versión que estás evaluando.
Si quieres seguir explorando, te invito a mi Biblioteca de Riesgos Humanos de la IA. Elige el recurso que responde a la pregunta que tienes hoy.
Fuente oficial consultada el 13 de noviembre de 2026. Las recomendaciones prácticas y los ejemplos identificados como ficticios son míos; no implican afiliación ni aval de la institución.