IAConSentido · Guías y fuentes externas · Por Karine Boucher
Cuando una herramienta falla, es fácil buscar el error en la tecnología. Yo te propongo mirar también qué decisiones la rodean: quién la puso en uso, qué señales se ignoraron y quién podía detenerla. La seguridad no depende únicamente de que el modelo responda bien.
Qué encontrarás en este libro
Introduction to AI Safety, Ethics, and Society, de Dan Hendrycks, aborda riesgos de sistemas avanzados de IA desde perspectivas técnicas y sociales. Su sitio ofrece materiales sobre fundamentos, seguridad, sistemas complejos, ética, cooperación y gobernanza, y cita la obra como publicada en 2024.
Es una propuesta amplia del autor, con atención a riesgos de gran escala. No debes confundir todos sus escenarios con hechos que ya ocurrieron ni tratar sus argumentos como un consenso absoluto. Te recomiendo distinguir evidencia, hipótesis y propuestas mientras avanzas.
Por dónde te recomiendo empezar
Si no tienes formación técnica, empezaría por una pregunta concreta y un apartado relacionado, en lugar de intentar dominar todo de una vez. Por ejemplo: ¿qué ocurre en una organización cuando alguien detecta un problema, pero no se siente con libertad para señalarlo?
El apartado sobre Organizational Risks examina la importancia de la cultura de seguridad. El de Safe Design Principles presenta ideas como límites de permisos, separación de funciones y medidas ante fallos. Puedes usarlos para preparar preguntas, no como una auditoría ya completada.
Ejemplo ficticio: todos vieron el error, nadie lo detuvo
Imagina que un equipo prueba un asistente que redacta respuestas a clientes. Varias personas detectan que inventa condiciones. Cada una supone que otra persona lo revisará antes del lanzamiento. La herramienta entra en funcionamiento y el mismo error llega a clientes reales.
El ejemplo es ficticio. Te lo propongo porque permite examinar algo más que la calidad del texto: ¿había un responsable?, ¿se registró el problema?, ¿existía un criterio para detener el lanzamiento?, ¿alguien tenía autoridad para hacerlo?
No necesitas atribuir intenciones a la IA para formular esas preguntas. Hay decisiones humanas y procedimientos que puedes revisar.
Cómo aprovechar el recurso sin aceptar todo sin discutirlo
- Anota qué afirmación del autor quieres entender.
- Busca si se apoya en evidencia, una analogía o un escenario posible.
- Identifica qué condiciones tendrían que darse para que ocurriera.
- Pregunta qué medidas serían pertinentes en tu propio contexto.
- Contrasta las conclusiones importantes con otras fuentes.
Te recomiendo conservar también tus desacuerdos. Un recurso puede ser útil precisamente porque te obliga a explicar por qué una propuesta te parece insuficiente o qué información necesitarías antes de aceptarla.
Familias de riesgos humanos relacionadas
Seguridad, privacidad y dignidad: qué daños pueden sufrir las personas y qué límites hacen falta. Decisiones, organizaciones y sociedad: quién puede intervenir y cómo se responde por un problema. Es una relación con mi Taxonomía IAConSentido, no una equivalencia con las categorías del libro.
¿Este libro sustituye una evaluación de seguridad?
No. Te ayuda a estudiar problemas y enfoques; una evaluación real exige conocer el sistema, sus usos y sus condiciones. Tampoco te recomiendo convertir una hipótesis de riesgo en una predicción inevitable. Para empezar, elige 1 situación de tu trabajo y comprueba si está claro quién puede decir “todavía no está listo”.
Consultar Introduction to AI Safety, Ethics, and Society · Explorar la Biblioteca de Riesgos Humanos de la IA
Fuente consultada el 13 de noviembre de 2026. Obra de referencia citada como 2024 por el sitio oficial. Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE.