IEEE · Primera edición, 2019 · Orientaciones éticas, no certificación ni obligación universal.
Cuando una herramienta funciona rápido y hace lo que pedimos, es fácil quedarnos con esa primera impresión. Yo te propongo mirar también qué cambia para las personas que la usan o reciben sus decisiones. ¿Pueden entenderla? ¿Pueden negarse? ¿Qué opciones conservan cuando la recomendación del sistema no les sirve?
Qué encontrarás en este recurso
Ethically Aligned Design es una publicación de la iniciativa global de IEEE sobre ética de sistemas autónomos e inteligentes. Aquí consulto la primera edición de 2019, no el borrador de 2016. Propone principios y recomendaciones que consideran derechos humanos, bienestar, control sobre los datos, transparencia y responsabilidad, entre otros asuntos. Su alcance incluye sistemas autónomos e inteligentes; no se limita a los asistentes generativos actuales. Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems.
Por qué te lo recomiendo
Me interesa porque invita a revisar lo que valoramos cuando decimos que una tecnología es buena. Ahorrar tiempo puede importar, pero también importa quién lo ahorra, quién hace trabajo adicional y quién pierde capacidad de decidir. Te recomiendo incluir esas preguntas desde el comienzo de un proyecto, cuando todavía puedes cambiar su objetivo y no solo su interfaz.
Una aplicación organiza la jornada de un equipo:
Imagina una aplicación que recomienda el orden de las tareas y premia a quien sigue todas sus sugerencias. Puede parecer cómoda… pero una persona necesita cambiar la prioridad para atender una situación que el sistema desconoce. Yo preguntaría si puede apartarse de la recomendación sin recibir una penalización automática y quién puede revisar esa consecuencia. Es un ejemplo ficticio para conversar sobre diseño, no un caso documentado por IEEE.
Cómo empezar
- Explica qué beneficio buscas y para quién; evita usar «bienestar» sin decir qué observarás.
- Incluye a las personas afectadas al identificar necesidades y posibles consecuencias.
- Revisa qué puede decidir el usuario y qué sucede cuando rechaza o corrige una recomendación.
- Documenta límites, responsables y formas de revisar problemas durante el uso, no solo antes del lanzamiento.
Qué riesgos humanos te ayuda a revisar
Lo relaciono con Autonomía y agencia por la posibilidad de mantener decisiones propias. También con Decisiones, organizaciones y sociedad, porque las elecciones de diseño y supervisión afectan a otras personas. Esta relación corresponde a mi Taxonomía IAConSentido; no atribuyo sus familias a IEEE ni presento el documento como aval del Método SENSE. Puedes consultar los nombres y su alcance en la Taxonomía IAConSentido.
Qué necesitas tener presente
La edición de 2019 ayuda a trabajar preguntas de fondo, pero no describe todas las tecnologías o normas actuales. Tampoco equivale a una certificación, a una norma obligatoria ni a haber implementado los estándares de la serie IEEE 7000. Para un proyecto concreto necesitas contrastar sus recomendaciones con evidencia reciente y requisitos aplicables.
¿Es útil para alguien que no programa?
Sí, especialmente si decides qué herramienta se compra, cómo se utiliza o qué se espera de las personas. No necesitas diseñar el código para preguntar quién conserva el control o qué ocurre cuando una decisión perjudica a alguien.
Antes de aprobar una nueva herramienta, pide que el equipo explique 1 beneficio esperado y 1 situación en la que una persona deba poder apartarse de su recomendación. Si no puede hacerlo, revisa el diseño de esa decisión.
Si quieres comparar otros documentos y herramientas, visita la Biblioteca de Riesgos Humanos de la IA.