Encontraste un modelo de IA que puedes descargar, probar y adaptar. Eso te da más opciones… pero todavía falta una pregunta: ¿qué necesitas revisar antes de usarlo con información o decisiones de otras personas?
Yo empezaría por separar lo que está disponible de lo que es adecuado para tu situación. Que puedas acceder a un recurso no te dice, por sí solo, cómo se obtuvieron sus datos, qué limitaciones tiene o qué usos permite su licencia.
Qué documento te recomiendo consultar:
Ethics and Society Newsletter #3: Ethical Openness at Hugging Face, publicado el 30 de marzo de 2023, explica cómo Hugging Face planteaba la relación entre apertura, participación y prevención de daños. Describe documentación de modelos, reportes comunitarios, restricciones de acceso y otras medidas. También reconoce que ampliar el acceso puede reducir el control sobre ciertos usos.
Como antecedente, Ethics and Society Newsletter #1, del 22 de septiembre de 2022, presenta la colaboración, la transparencia y la responsabilidad como parte de su enfoque. Es la explicación de la propia organización, no una evaluación independiente de su eficacia.
Importante: te comparto estos textos como referencias históricas de 2022 y 2023. No los presento como las políticas actuales de la plataforma ni como instrucciones para encontrar hoy sus controles.
Ejemplo hipotético: un conjunto de datos listo para descargar
Imagina que tu equipo encuentra una colección pública de conversaciones y quiere usarla para preparar un asistente. Parece útil y descargarla es fácil. Al revisar unas muestras, aparecen nombres y detalles que podrían identificar a quienes participaron.
Mi recomendación sería detener esa incorporación y aclarar el origen y las condiciones de uso. No añadiría más datos personales a un reporte público para demostrar el problema. Buscaría una forma de comunicarlo compartiendo solo lo necesario y, mientras tanto, usaría ejemplos ficticios para trabajar en el diseño.
Este caso es inventado. Lo propongo para distinguir una decisión técnica, descargar un archivo, de las decisiones sobre las personas que pueden verse afectadas.
Qué te conviene comprobar:
- Origen: ¿la documentación explica de dónde salió el recurso y qué información falta?
- Permisos: ¿qué permite la licencia y qué otras cuestiones de privacidad o consentimiento necesitas aclarar?
- Límites: ¿para qué situaciones fue pensado y cuáles no se evaluaron?
- Respuesta: ¿a quién puedes avisar si detectas un problema y qué harás mientras se revisa?
No daría por resueltas esas preguntas porque haya muchas descargas o una descripción atractiva. Te conviene conservar las respuestas y la versión que revisaste.
Cómo lo relaciono con los riesgos humanos de la IA:
Autonomía y agencia: me interesa que puedas decidir con información suficiente y que las personas afectadas no desaparezcan de esa decisión. Seguridad, privacidad y dignidad: revisa si compartir o reutilizar el recurso puede exponer información o causar daños.
Estas conexiones corresponden a mi Taxonomía IAConSentido. Las 6 categorías éticas que describe el texto de Hugging Face pertenecen a su propio enfoque, no a mis 8 familias.
¿Un recurso abierto se puede usar para cualquier propósito?
No debes darlo por hecho. Revisa las condiciones del recurso concreto y tu contexto. Si faltan datos importantes, te recomiendo resolver esas dudas antes de incorporarlo, no después de que ya forme parte de una decisión.
Para conversar sobre lo que vas a delegar y lo que necesitas revisar, puedes empezar por las preguntas del Método SENSE.