Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
Cuando alguien te dice que una IA es abierta, te conviene preguntar qué está realmente disponible. Poder descargar los pesos de un modelo no significa conocer todos sus datos, tener los recursos para revisarlo o contar con alguien que responda si algo sale mal.
El reporte de NTIA Dual-Use Foundation Models with Widely Available Model Weights, de julio de 2024, ayuda a ordenar esa conversación. Es un documento histórico de política pública estadounidense, no una garantía de seguridad para modelos actuales.
Qué pregunta intenta responder
El reporte compara beneficios y riesgos adicionales de hacer disponibles los pesos. En ese momento recomendó reunir y evaluar evidencia, mantener capacidad de respuesta y no imponer restricciones generales por defecto. Esa posición no equivale a afirmar que nunca podrían ser necesarias restricciones.
Ejemplo ficticio: instalar un modelo en tu organización
Imagina que un equipo quiere dejar de enviar documentos a un servicio externo y propone ejecutar un modelo local. Esa opción puede cambiar dónde circula la información… pero todavía necesitas revisar quién accede al servidor, qué registros quedan y quién mantiene la instalación.
Te recomiendo pedir una explicación del recorrido de los datos antes de aprobar el cambio. No confundas una posibilidad técnica con una protección que ya está configurada. También conserva una alternativa para las tareas que el modelo no puede realizar con suficiente fiabilidad.
Riesgos humanos que te conviene observar
Seguridad, privacidad y dignidad: importa el uso real de la información, no solo la etiqueta del modelo. Decisiones, organizaciones y sociedad: alguien debe asumir mantenimiento, revisión y respuesta a incidentes.
Qué significa tener más control
Te propongo separar la posibilidad de modificar un modelo de la capacidad de mantenerlo bien. Tu organización puede tener acceso a los archivos y, aun así, depender de otra empresa para instalarlos, actualizarlos o comprobar cómo funcionan. El control no aparece solo por cambiar de proveedor.
Antes de elegir, pregunta quién podrá revisar los resultados, corregir un problema y explicar las limitaciones al equipo. Si la respuesta es “ya lo veremos después”, todavía falta una parte importante de la decisión. También conviene saber qué trabajo seguirá necesitando una revisión humana y qué no debería pasar por esa herramienta.
Una comparación útil, sin etiquetas absolutas
Compara opciones para la misma tarea, con datos adecuados y criterios definidos de antemano. Observa si el equipo comprende los errores y puede detectarlos. No uses una demostración afortunada como prueba de que una opción es segura en cualquier situación.
En una prueba ficticia de resumen de documentos, podrías revisar si se conserva una excepción importante o si se atribuye una obligación a la persona equivocada. No necesitas introducir información real de clientes para empezar a detectar ese tipo de fallos. Prepara primero materiales apropiados y decide qué resultados impedirían continuar.
Qué conservar del reporte de 2024
A mí me interesa su insistencia en evaluar evidencia antes de sacar conclusiones generales. Esa forma de preguntar sigue siendo útil, pero las capacidades descritas y el contexto político pertenecen a su fecha. No debes presentar la recomendación del documento como una autorización gubernamental vigente para tu despliegue.
Preguntas frecuentes
¿Pesos disponibles significa código abierto en todos los sentidos?
No necesariamente. Revisa qué componentes, datos, licencias y condiciones acompañan al modelo concreto.
¿Ejecutarlo localmente garantiza privacidad?
No. La instalación, los accesos y las prácticas del equipo también cuentan. Te recomiendo verificar el recorrido real de la información.
¿Qué decisión conviene dejar por escrito?
Te recomiendo anotar por qué eligieron esa opción, qué límites encontraron y quién revisará si sigue sirviendo. Si el equipo cambia de modelo, de datos o de tarea, vuelve a comprobar esas condiciones. No des por válida una evaluación anterior solo porque el nombre de la herramienta parece el mismo. La comparación útil es entre usos concretos, no entre etiquetas comerciales.
Explora más recursos en la Biblioteca de Riesgos Humanos de la IA.
Fuente consultada el 13 de noviembre de 2026. Orientación editorial; no sustituye una evaluación jurídica de tu caso.