IAConSentido · Guías y fuentes externas · Por Karine Boucher
Te presentan una herramienta de IA y te aseguran que es transparente porque tiene una model card. Perfecto… pero ¿esa ficha te ayuda a entender cuándo puede fallar o solo te deja con más términos técnicos?
Qué encontrarás en este artículo de IAPP
En 5 things to know about AI model cards, Anokhy Desai explica qué son estas fichas, qué información suelen incluir y qué límites tienen como instrumento de transparencia. El artículo fue publicado por IAPP el 23 de agosto de 2023. Sus ejemplos pertenecen a ese momento, no a una comparación actual de proveedores.
Una model card documenta aspectos de un modelo: propósito, evaluación, datos, limitaciones y consideraciones de uso. Que exista no demuestra, por sí solo, que esté completa, sea comprensible para cualquier persona o responda a tu situación.
Te recomiendo empezar por lo que no debe hacer
La descripción de capacidades suele recibir toda nuestra atención. Yo empezaría también por los usos excluidos y las condiciones en las que los resultados empeoran. Si el documento no las explica, deja esa pregunta abierta y pídele una respuesta al proveedor.
Después compara la versión de la ficha con la versión del modelo que realmente utilizarás. No sirve revisar un documento de otro lanzamiento y dar por hecho que las mismas pruebas cubren el producto actual.
Ejemplo ficticio: una buena puntuación no responde tu pregunta
Imagina que un equipo quiere resumir reclamaciones en español. La ficha muestra un resultado excelente en una prueba de preguntas y respuestas en inglés. No hay contradicción: el modelo puede rendir bien en esa prueba… pero todavía no tienes evidencia sobre los resúmenes que necesitas.
Yo prepararía ejemplos sin datos personales y revisaría si el resumen conserva el problema, distingue hechos de interpretaciones y no elimina una petición importante. También comprobaría qué ocurre con una reclamación larga, ambigua o escrita de forma poco habitual.
5 preguntas que puedes llevar a tu proveedor
- ¿Qué versión del modelo describe esta ficha?
- ¿Qué usos se evaluaron y cuáles quedaron fuera?
- ¿En qué idiomas y condiciones se hicieron las pruebas?
- ¿Qué errores conocidos podrían afectar a nuestras personas usuarias?
- ¿Cómo nos enteraremos de cambios relevantes y cómo reportaremos un problema?
Estas preguntas son mi propuesta para usar la documentación, no una reproducción de los 5 apartados del artículo. Si no conoces una métrica, pide que te expliquen qué cuenta como acierto y qué queda fuera de la medición. No necesitas fingir que entendiste para poder seguir conversando.
Qué riesgos humanos te recomiendo observar
Cognición y criterio: aceptar una puntuación sin comprender qué demuestra. Decisiones, organizaciones y sociedad: aprobar un uso sin definir quién revisa los errores y responde por sus consecuencias. Son relaciones con mi Taxonomía IAConSentido, no categorías propuestas por IAPP.
¿Una model card sustituye una evaluación del producto?
No. El modelo es parte de un sistema que puede añadir instrucciones, datos y acciones. Te recomiendo revisar tanto la documentación del modelo como el uso concreto. Una ficha útil debería ayudarte a formular mejores preguntas, no a cerrar la conversación antes de tiempo.
Consultar 5 things to know about AI model cards · Explorar la Biblioteca de Riesgos Humanos de la IA
Fuente consultada el 13 de noviembre de 2026. 23 de agosto de 2023. Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE.