Tu equipo quiere medir si una IA es confiable. Encuentra una herramienta, ejecuta una prueba y obtiene un resultado… pero ¿qué acaba de comprobar exactamente?
Qué encontrarás en este recurso
Catalogue of Tools & Metrics for Trustworthy AI. El catálogo de OECD.AI reúne herramientas, métricas y casos de uso para apoyar el desarrollo y la utilización de sistemas de IA confiables. Permite explorar por objetivos y tipos de recurso. Incluye opciones técnicas y no técnicas, desde medición hasta documentación.
La OCDE advierte que los recursos corresponden a sus autores y que no están validados ni respaldados por la organización o sus países miembros. La consulta del catálogo es pública; cada herramienta enlazada tiene su propio acceso, mantenimiento y condiciones.
Cómo te recomiendo aprovecharlo
Te recomiendo entrar con una pregunta, no con la intención de encontrar “la mejor herramienta”. Si te preocupa que un resultado perjudique a ciertas personas, primero define qué consecuencia quieres revisar y con qué información podrías observarla. Después busca una métrica que responda a esa duda.
Un ejemplo: una buena puntuación que no responde tu pregunta
Imagina que una organización evalúa un asistente de atención y obtiene una buena precisión general. Es un ejemplo ficticio. Esa cifra no explica si las personas entienden cuándo hablan con una IA ni si pueden corregir una respuesta. Podrías necesitar una prueba técnica y una revisión del recorrido de atención.
Qué puedes hacer en tu equipo
- Escribe el problema: identifica qué decisión necesitas tomar y quién puede verse afectado.
- Revisa la ficha y la fuente: comprueba propósito, requisitos, versión y autor antes de descargar o contratar.
- Pregunta qué queda fuera: una medida de rendimiento no cubre automáticamente privacidad, trato justo o posibilidad de reclamar.
- Documenta el uso del resultado: acuerda qué hallazgo requiere cambios y quién los revisará.
Qué riesgos humanos te recomiendo observar
Decisiones, organizaciones y sociedad: te conviene elegir pruebas que ayuden a tomar decisiones justificadas. Relaciones, confianza y convivencia: te recomiendo comunicar los resultados sin convertir una medición limitada en una promesa total.
Relaciono estas situaciones con mi Taxonomía IAConSentido para ayudarte a identificar qué cuidar. Esta clasificación no pertenece a los autores del recurso ni supone que respalden el Método SENSE.
Lo que este recurso no resuelve por sí solo
Un catálogo no sustituye una evaluación contextual ni garantiza que todos sus enlaces sigan activos. Algunas herramientas necesitan especialistas, datos o infraestructura. Antes de usarlas, revisa también qué información tendrías que proporcionarles.
¿Una herramienta incluida está aprobada por la OCDE?
No. La propia página distingue la inclusión de un aval. Te corresponde revisar al proveedor, la metodología y si la herramienta sirve para tu caso.
Te propongo empezar por esto
Compara 2 recursos para una sola pregunta. Anota qué mide cada uno, qué necesitas para usarlo y qué no podrás concluir. Si las respuestas son distintas, no compares sus cifras como si fueran equivalentes.
Si necesitas ordenar estas decisiones, puedes conocer las preguntas del Método SENSE.