IAConSentido · Riesgos humanos de la IA
Riesgos humanos de la IA: qué son y cómo reconocerlos
La IA es una herramienta que puede ayudarnos a aprender, crear y trabajar. También puede influir en cómo pensamos, decidimos y nos relacionamos con otras personas.
En esta página te comparto situaciones que pueden aparecer en el salón, en casa o en el trabajo, y acciones para empezar a usar la IA con más criterio y cuidado.
¿Qué son los riesgos humanos de la IA?
Cuando hablamos de los riesgos de la inteligencia artificial, podemos pensar en muchas cosas: errores en sus respuestas, robo de datos, ciberataques o incluso su impacto ambiental.
Los riesgos humanos de la IA se centran en cómo el desarrollo y uso de esta tecnología pueden afectar a las personas: su capacidad de pensar, aprender y crear; su libertad, bienestar y derechos; y sus relaciones con los demás.
Estos riesgos pueden aparecer cuando usas una herramienta de IA, cuando otra persona la utiliza de una manera que te afecta o cuando una organización se apoya en ella para tomar una decisión sobre ti.
Por ejemplo: una IA puede resolver correctamente un ejercicio de matemáticas. Pero si un estudiante le pide que haga todas sus tareas sin intentar comprender el procedimiento, puede terminar el trabajo sin haber aprendido a resolverlo por sí mismo.
Los riesgos humanos también pueden estar relacionados con otros riesgos de la IA. Por ejemplo, una filtración de datos es un problema de seguridad que puede afectar la privacidad y el bienestar de las personas.
Conocer estos riesgos te ayuda a reconocer cuándo la IA te está ayudando y cuándo necesitas revisar su respuesta, poner un límite o buscar apoyo.
En IAConSentido, mi enfoque es ayudarte a identificar estos riesgos y tomar decisiones para usar la IA de una manera que cuide lo que es importante para ti.
Por qué te importa
Conocer los riesgos te ayuda a decidir qué quieres cuidar
La IA puede influir en tus decisiones, tus hábitos y tus relaciones. Entender los riesgos humanos te ayuda a reconocer qué puede estar en juego y cuándo necesitas verificar, poner un límite o pedir apoyo.
-
Reconocer lo que puede pasar inadvertido
Aceptar una sugerencia o consultar a la IA antes de decidir puede volverse una costumbre (aún sin darte cuenta). Conocer los riesgos te ayuda a observar si esa ayuda sigue respondiendo a lo que tú quieres.
-
Elegir qué quieres seguir haciendo tú
Puedes apoyarte en la IA y decidir qué delegar, qué necesitas seguir practicando y qué decisiones quieres seguir tomando tú. También asegurar si lo que produces con ella expresa tus ideas y tu criterio.
-
Cuidar tu bienestar, tu identidad y tus vínculos
Presta atención a cómo te sientes al usar la IA, qué lugar ocupa en tu vida y cómo influye en tu relación con otras personas. Darte cuenta de eso puede ayudarte a poner límites o buscar apoyo humano cuando lo necesitas.
-
Saber cómo reaccionar aunque no uses IA
Una voz clonada, una imagen falsa o una decisión automatizada pueden afectarte y a las personas de tu entorno. Conocer estos riesgos te ayuda a verificar lo que recibes, pedir explicaciones y buscar apoyo o una revisión cuando sea posible.
-
Tener en cuenta a quienes pueden verse afectados
Lo que haces con IA puede influir en un estudiante, un compañero, un cliente o tu familia. Conocer los riesgos te ayuda a medir las consecuencias. Las organizaciones y quienes diseñan las herramientas también tienen responsabilidades.
Conocer los riesgos es el punto de partida para que puedas reconocerlos y decidir cómo actuar. Obviamente, no garantiza evitar todo daño, pero te ayuda a estar más alerta y a tomar decisiones con más conciencia sobre lo que quieres proteger.
Un mapa para entender qué queremos proteger
Organicé los riesgos humanos de la IA en 8 familias de riesgos, agrupadas en 3 dominios.
Cada dominio representa una parte de nuestra vida que puede verse afectada por cómo usamos o recibimos la IA:
- Capacidades humanas: lo que puedo pensar, aprender y crear.
- Libertad y protección: lo que me hace libre y me protege como persona.
- Vínculos y sociedad: lo que construimos con otros.
Las 8 familias de riesgos humanos de la IA
Qué protege cada familia, cómo puede aparecer y qué puedes hacer.
Dominio 1
CAPACIDADES HUMANAS
Lo que puedo pensar, aprender y crear
Familia 1
Cognición y criterio
Protege tu capacidad de pensar, razonar y evaluar una respuesta.
Ejemplo: aceptas una respuesta porque suena convincente, aunque no hayas comprobado si es correcta.
Qué puedes hacer: forma primero tu propia idea y verifica la información importante en una fuente independiente.
Familia 2
Aprendizaje, desarrollo y capacidades
Protege lo que aprendemos y las habilidades que necesitamos seguir practicando.
Ejemplo: un estudiante entrega una tarea terminada con IA, pero no puede explicar cómo llegó a la respuesta.
Qué puedes hacer: utiliza la IA para pedir pistas o explicaciones y realiza la parte que necesitas aprender. Al final, intenta explicar el proceso con tus palabras.
Familia 3
Creatividad, autoría e identidad
Protege tu voz propia y tu participación en lo que creas.
Ejemplo: recibes un texto bien escrito, pero al leerlo sientes que ya no expresa lo que querías decir.
Qué puedes hacer: empieza con tus ideas y revisa el resultado para asegurarte de que refleja tu intención. También te recomiendo respetar la autoría ajena y explicar la participación de IA cuando sea relevante para quien recibe tu trabajo.
Dominio 2
LIBERTAD Y PROTECCIÓN
Lo que me hace libre y me protege como persona
Familia 4
Autonomía y agencia
Protege tu capacidad de decidir y actuar de acuerdo con tus propios objetivos.
Ejemplo: pides una recomendación y acabas siguiéndola sin revisar si responde a lo que realmente querías.
Qué puedes hacer: usa la IA para comparar opciones y pregúntate por qué elegirías una. En decisiones de salud, dinero o asuntos legales, busca la orientación profesional adecuada.
Familia 5
Bienestar psicológico y emocional
Protege tu equilibrio emocional y la posibilidad de recibir el apoyo que necesitas.
Ejemplo: te cuesta dejar de hablar con la IA y estás dejando de buscar apoyo en personas de confianza.
Qué puedes hacer: observa qué lugar ocupa la IA en tu vida y busca apoyo humano o profesional cuando lo necesites.
Familia 6
Seguridad, privacidad y dignidad
Protege tu integridad, tu información personal y el respeto hacia tu persona.
Ejemplo: recibes un mensaje urgente con una voz que parece la de un familiar y te pide dinero.
Qué puedes hacer: antes de actuar, confirma la solicitud por otro medio que ya conozcas. Revisa también qué información compartes con las herramientas.
Dominio 3
VÍNCULOS Y SOCIEDAD
Lo que construimos con otros
Familia 7
Relaciones, confianza y convivencia
Protege los vínculos y la confianza entre personas.
Ejemplo: recibes un audio de alguien cercano y no sabes si su voz es real, o utilizas IA para escribir un mensaje que termina sin expresar lo que querías decir.
Qué puedes hacer: Si usas IA para preparar una conversación importante, revisa que el mensaje diga lo que quieres comunicar y conserva el diálogo con la persona. Ante un audio o una imagen dudosa, verifica por otro canal que ya conozcas.
Familia 8
Decisiones, organizaciones y sociedad
Protege la calidad de las decisiones y la responsabilidad cuando estas afectan a otras personas.
Ejemplo: una organización usa una recomendación de IA para decidir sobre una persona, pero nadie sabe quién revisó el resultado o quién responde por la decisión.
Qué puedes hacer: define quién revisa los resultados, quién decide y cómo puede una persona pedir una revisión.
Un riesgo puede aparecer de distintas maneras
Las direcciones nos ayudan a mirar cómo intervienen las personas con la IA y viceversa.
-
La IA me cambia a mí
Una persona interactúa con una IA y esa interacción puede influir en su criterio, sus hábitos o su bienestar.
Ejemplo: aceptar una respuesta equivocada sin verificarla. -
Alguien usa la IA para afectar a otra persona
Alguien utiliza IA de una manera que afecta a otra persona.
Ejemplo: crear y compartir una imagen falsa para humillar a una compañera. -
El riesgo crece en equipos y comunidades
El uso de IA en un proceso puede tener consecuencias para otras personas o colectivos.
Ejemplo: una organización toma decisiones sobre personas sin revisar suficientemente las recomendaciones del sistema.
Una misma situación puede combinar más de una dirección.
Del riesgo a una toma de decisión concreta
La taxonomía de Riesgos Humanos te ayuda a reconocer qué puede verse afectado. Con la ayuda de mi Método SENSE, te propongo 5 preguntas para ayudarte a definir cómo usas la IA y elegir una acción que ayude a reducir el riesgo o responder a sus efectos.
· Seguridad Humana
¿Esto es seguro para mi mente, mi privacidad y mi identidad?
· Ética Aplicada
¿Esto es correcto, justo y responsable en la vida real?
· Neuroergonomía
¿Cómo impacta este uso en mi atención y en mi capacidad de pensar profundo?
· Sentido / Sociedad
¿Qué produce esto en mí, en los demás y en mi comunidad a largo plazo?
· Estrategia / Autonomía
¿Esto me hace más libre o más dependiente?
¿Dónde empiezo?
Simplemente revisando tus hábitos
Creé el Semáforo de Riesgo Humano como una autoevaluación gratuita para reflexionar sobre tu uso de la IA y encontrar un punto de inicio. Con tus respuestas, te mando por correo las áreas a las que te recomiendo prestar más atención y te regalo recursos para seguir trabajando en ello.
Elige tu siguiente paso
Quién creó este mapa de riesgos y cómo lo construyó
Karine Boucher
Trabajo en los riesgos humanos de la inteligencia artificial y los convierto en herramientas prácticas gracias al Método SENSE. Uso la IA todos los días. Lo que cuido es que ella no use mi criterio (ni el tuyo).
Fuentes consultadas
Esta Taxonomía de Riesgos Humanos de la IA es un marco de análisis y comunicación que cree recoplidando referencias internacionales como mencionadas a continuación. Lo reviso cuando cambian los marcos de referencia o aparece nueva evidencia.
- MIT AI Risk Repository
- NIST AI 600-1 (perfil de IA generativa)
- International AI Safety Report
- Taxonomía de daños sociotécnicos (Shelby et al., Google Research)
- AIAAIC (daños centrados en las personas)
- EU AI Act
Estas son las principales fuentes internacionales que sigo acerca de los Riesgos de la IA.
Preguntas frecuentes
¿En qué se diferencian los riesgos humanos de los riesgos técnicos, como los de ciberseguridad?
Los riesgos técnicos están relacionados con el funcionamiento, la fiabilidad y la seguridad de los sistemas. Por ejemplo, la ciberseguridad busca prevenir accesos no autorizados, robo de datos o ataques. También toma en cuenta cómo las personas usan y protegen la tecnología.
Los riesgos humanos ponen el foco en cómo la IA puede afectar a las personas: su capacidad de pensar y aprender, su autonomía, bienestar, derechos o relaciones.
Los 2 pueden estar relacionados. Por ejemplo, una filtración de datos es un problema de seguridad que puede tener consecuencias para las personas. También puede haber un riesgo humano aunque la herramienta funcione como fue diseñada: si siempre delegamos una tarea a la IA, podríamos dejar de practicar una habilidad.
¿Me pueden afectar estos riesgos si no uso IA?
Sí. Por ejemplo, otra persona puede utilizar tu imagen o tu voz sin permiso, o una organización puede tomar una decisión sobre ti apoyándose en IA.
¿Tengo que dejar de usar la IA?
No, para nada. Te comparto todo eso para crear conciencia y estes alerta para revisar para qué la usas, qué información compartes, qué verificas y qué necesitas seguir haciendo por tu cuenta. En algunas situaciones te conviene poner límites o dejar de usar una herramienta concreta.
¿En qué se relacionan los riesgos técnicos y los humanos?
Una respuesta incorrecta o una falla del sistema puede afectar a una persona. Esta es la razón por la cual, recomiendo revisar la tecnología y cuidar cómo la utilizamos ya que son responsabilidades complementarias.
¿Cómo puedo empezar a revisar mis hábitos?
Te invito a conocer el Semáforo de Riesgo Humano que es una autoevaluación gratuita para reflexionar sobre tu uso de la IA. Es una herramienta de orientación, que te guiará para mejorar tu relación con la IA.
¿La Taxonomía de Riesgos Humanos de la IA es una clasificación científica?
Es un marco propio de análisis y comunicación creado por Karine Boucher, contrastado con las fuentes internacionales que indiqué arriba.