IAConSentido · Guías y fuentes externas · Por Karine Boucher
Una demostración puede salir muy bien… pero lo difícil empieza cuando la herramienta llega a personas con necesidades, preguntas y contextos que no estaban en la presentación. Te recomiendo preguntar no solo cómo se probó, sino qué ocurrirá cuando aparezca un problema después del lanzamiento.
Qué es la guía de Partnership on AI
PAI’s Guidance for Safe Foundation Model Deployment es un marco dirigido a proveedores de modelos fundacionales. Presentado en 2023, organiza prácticas según capacidades y forma de acceso al modelo. La web permite explorar recomendaciones sobre evaluación, documentación, seguimiento, incidentes e impactos sociales.
No es una certificación ni una garantía de que un modelo sea seguro. Tampoco es una lista idéntica para cualquier organización que utiliza un chatbot. Su destinatario principal es quien desarrolla y ofrece modelos; quien los integra en una aplicación conserva responsabilidades propias.
Si no desarrollas modelos, ¿para qué te sirve?
Yo lo utilizaría para preparar preguntas al proveedor y distinguir lo que ya está demostrado de lo que sigue siendo una promesa. No necesitas convertirte en desarrollador para preguntar qué límites se conocen, cómo se comunican las actualizaciones o qué canal existe para reportar un problema.
También te conviene distinguir el modelo de la aplicación que compras. Una empresa puede construir un servicio con un modelo de otra organización. En ese caso, pregunta quién responde por cada parte y qué información recibe tu equipo.
Ejemplo ficticio: la respuesta cambió después de una actualización
Imagina que una organización utiliza un asistente para orientar a usuarios sobre sus trámites. Después de una actualización, algunas respuestas omiten un requisito. El servicio sigue funcionando y no aparece ningún aviso técnico.
Yo preguntaría cómo se detecta ese cambio, quién revisa las respuestas y qué posibilidad existe de limitar el servicio mientras se corrige. Esperar a que cada usuario descubra el error no es un procedimiento de seguimiento.
El ejemplo es ficticio. No describe un incidente de un proveedor concreto ni una prueba realizada por Partnership on AI.
Lo que puedes pedir antes de depender del servicio
- Documentación de usos previstos y límites conocidos.
- Información sobre las pruebas pertinentes para tu caso.
- Un canal claro para reportar errores o daños.
- Condiciones para conocer cambios importantes del servicio.
- Un procedimiento propio para revisar, limitar o detener el uso.
Estas preguntas son mi adaptación para una organización usuaria, no una reproducción completa del marco. La guía original contempla distintos tipos de modelos y acceso; conviene revisar la selección aplicable antes de afirmar que una práctica concreta corresponde a todos.
También te recomiendo hablar con las personas que atienden las dificultades cotidianas. A veces un problema aparece primero en una consulta repetida o en una corrección manual, antes de que alguien lo registre como incidente.
Qué familias de riesgos humanos conviene observar
Seguridad, privacidad y dignidad: qué consecuencias puede tener una respuesta incorrecta o un uso indebido. Decisiones, organizaciones y sociedad: quién vigila, quién recibe las alertas y quién puede intervenir. Son relaciones con mi Taxonomía IAConSentido, no un aval de Partnership on AI.
¿Cumplir una lista basta para aprobar el lanzamiento?
No te recomiendo tratarla como un trámite. La documentación debe corresponder al sistema y al contexto, y las decisiones necesitan responsables reales. Para empezar, elige 1 problema plausible y comprueba si tu equipo sabe quién lo recibiría, cómo lo revisaría y qué haría mientras tanto.
Consultar PAI’s Guidance for Safe Foundation Model Deployment · Explorar la Biblioteca de Riesgos Humanos de la IA
Fuente consultada el 13 de noviembre de 2026. Marco presentado en 2023 · web consultada el 13 de noviembre de 2026. Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE.