Hoy hablamos de: Human Compatible, de Stuart Russell, y una pregunta que no hace falta dejar para el futuro: cuando autorizas a una IA a hacer algo por ti, ¿hasta dónde llega ese permiso?
Human Compatible, de Stuart Russell: delegar en la IA sin perder la posibilidad de decidir
Stuart Russell plantea el problema del control de la IA. Lo conecto con decisiones concretas sobre permisos, límites y revisión humana.
Human Compatible: AI and the Problem of Control
Stuart Russell · inglés
Consultar la ficha oficial del libro
¿De qué trata Human Compatible?
Stuart Russell plantea cómo mantener la IA al servicio de las personas a medida que aumentan sus capacidades. La presentación editorial cuestiona el diseño de sistemas que persiguen objetivos fijados de antemano como si esos objetivos reflejaran perfectamente lo que queremos. Su propuesta pone en el centro la incertidumbre sobre las preferencias humanas y la necesidad de aprender de ellas.
El libro aborda beneficios, riesgos y el problema del control, incluidos escenarios de IA más avanzada. Es importante conservar esa distinción: una posibilidad futura no es un hecho ya ocurrido. Aquí utilizo su planteamiento para pensar en permisos y decisiones cotidianas, no para anunciar una predicción. Presentación editorial y ediciones en la página del autor.
Autonomía y agencia · Libertad y protección
Dirección H → IA → H · Pilar E · Estrategia / Autonomía · Taxonomía IAConSentido
«Hazlo por mí» puede significar muchas cosas
Piensa en esta situación hipotética: pides a una herramienta que organice un viaje. Puede buscar opciones, compararlas, elegir una o comprarla. Son acciones diferentes, aunque todas puedan caber en una instrucción breve. Tal vez querías ahorrar tiempo al investigar… pero no autorizar un pago. Este ejemplo es hipotético y lo propongo para observar un límite que conviene aclarar antes de delegar.
Además de los posibles errores de la IA, me interesa qué ocurre cuando ejecuta una instrucción que parecía clara y descubre una situación que no habías previsto. ¿Puede detenerse? ¿Te pregunta? ¿Te muestra qué va a hacer? La autonomía humana necesita algo más que un botón de aceptar al principio.
La comodidad no tiene que llevarse toda la decisión
Delegar puede ser útil. No necesitas revisar manualmente cada operación para conservar criterio. Sí te conviene distinguir las acciones reversibles de las que comprometen dinero, información, derechos o relaciones. El esfuerzo de revisión puede ser proporcional a lo que está en juego. Una sugerencia para ordenar notas no requiere el mismo cuidado que enviar un mensaje en tu nombre.
En una organización, además, no basta con que alguien haya activado una función. Hace falta saber quién puede autorizarla y quién responderá si afecta a otras personas. Lo que resulta cómodo para un equipo puede crear trabajo o dificultades para otro. Esa conversación debería formar parte del diseño, no comenzar solo después de un incidente.
3 límites que puedes definir antes de delegar
1. Separa proponer de ejecutar
Escribe qué puede preparar la herramienta y qué necesita tu confirmación. «Compara opciones y muéstrame las diferencias» es distinto de «elige y compra». Si hay una acción externa, revisa el destinatario, el contenido y las condiciones relevantes antes de autorizarla. No asumas que una preferencia general resuelve cualquier caso futuro.
2. Nombra lo que la herramienta no debe decidir sola
Pueden ser gastos fuera de un límite, envío de información privada o compromisos con otras personas. Evita una lista tan abstracta que nadie pueda aplicarla. Para cada límite, anota un ejemplo que tu equipo reconozca. Después comprueba que la configuración real lo respete: escribir una regla no significa que el sistema tenga capacidad para cumplirla.
3. Conserva una forma de detener y revisar
Antes de utilizar una automatización, averigua cómo se pausa, qué registro deja y qué puede revertirse. Si algo no se puede deshacer, el momento de revisar es anterior a la ejecución. También conviene acordar qué sucede cuando falta información. Pedir ayuda o no continuar puede ser una respuesta más adecuada que completar la tarea a toda costa.
Cómo lo conecto con el Método SENSE
En mi taxonomía, este tema pertenece principalmente a Autonomía y agencia: que puedas elegir, comprender el alcance de lo que autorizas e intervenir. Lo relaciono también con Decisiones, organizaciones y sociedad: los permisos y las responsabilidades afectan a más personas que quien escribe una instrucción.
Desde el Método SENSE, te propongo pensar unos momentos en esta pregunta: ¿qué necesito seguir decidiendo yo, aunque la herramienta pueda hacerlo? Es mi aplicación práctica del tema. No equivale a implementar la propuesta técnica de Russell ni demuestra que una configuración sea segura.
Qué conviene distinguir al leerlo hoy
Una discusión sobre control de sistemas muy avanzados y una lista de permisos en una aplicación son escalas distintas. La conexión puede servir para formular preguntas, pero no permite trasladar conclusiones sin más. Antes de confiar en una función actual, revisa sus capacidades, límites y controles concretos. No alcanza con que su descripción parezca compatible con tus intenciones.
Preguntas frecuentes
¿Conservar el control significa no automatizar?
No. Significa definir el alcance de la delegación y disponer de una intervención apropiada a sus consecuencias. Algunas tareas admiten mucha automatización. Otras necesitan confirmación o supervisión especializada.
¿Human Compatible demuestra que una IA futura será peligrosa?
No debe leerse como una prueba de un resultado inevitable. La presentación editorial plantea riesgos condicionales y una propuesta para abordarlos. Las predicciones y los hechos actuales necesitan evaluarse por separado.
Un paso concreto: elige una tarea que ya delegas y completa esta frase: «Puedes preparar esto por mí, pero antes de hacer aquello necesitas mi confirmación».
Fuentes consultadas
Para seguir explorando
¿Qué pregunta te gustaría llevar a tu próxima lectura? Puedes encontrar otros puntos de vista en mi selección de libros sobre riesgos humanos de la IA.
Sigamos esta conversación
En IAConSentido comparto cada sábado preguntas y recursos para convivir con la IA con criterio. También puedes empezar por el Semáforo de Riesgo Humano.
Karine Boucher
Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
Soy Karine, profesional franco-mexicana con más de 25 años de experiencia en entornos internacionales. Creé el Método SENSE para ofrecer lo que los marcos técnicos de gobernanza no dan: herramientas protectoras, claras y utilizables en la vida real — especialmente para familias y educadores.
Formada en Ciencia de Datos en el MIT y especializada en riesgos humanos de la IA, gobernanza y ética aplicada. Creo que la pregunta más urgente de nuestro tiempo es cómo seguir siendo humanos mientras convivimos con la IA.
Comments
Pingback: The Alignment Problem: IA, objetivos y valores humanos