Cuando un gobierno anuncia una medida para impulsar la tecnología, te recomiendo mirar más allá de su objetivo. ¿Qué facilita? ¿Qué restringe? ¿Quién puede aprovecharla y quién tendrá que asumir sus consecuencias? Esas preguntas también importan cuando hablamos de IA.
Qué encontrarás: Cómo examinar decisiones de política tecnológica con The Policy Playbook de CSET, sin confundirlo con un manual empresarial.
Qué es este recurso y quién lo publica
Jack Corrigan, Melissa Flagg y Dewey Murdick publicaron este reporte de CSET en junio de 2023. Examina política tecnológica y seguridad nacional a partir de 3 objetivos: impulsar innovación, limitar el avance de adversarios y promover un despliegue seguro y acorde con valores. Describe 15 instrumentos de política, agrupados en 9 directos y 6 facilitadores. Su propuesta es analizar cómo interactúan, incluyendo tensiones y efectos que necesitan seguimiento. The Policy Playbook: Building a Systems-Oriented Approach to Technology and National Security Policy.
Cómo te recomiendo aprovecharlo
Me parece útil para evitar una discusión reducida a estar a favor o en contra de la IA. Una política puede facilitar ciertos usos y dificultar otros. Eso merece una explicación concreta. Te conviene distinguir el objetivo que se anuncia, el instrumento elegido y la evidencia que permitiría saber si está funcionando. Un objetivo deseable no demuestra por sí solo que la medida elegida sea adecuada.
Ejemplo: comprar tecnología antes de preparar a quienes la usarán
Imagina una administración que financia herramientas de IA para distintas oficinas, pero no aclara qué personal revisará los resultados ni cómo se resolverán las quejas. Es un ejemplo ficticio para pensar en la relación entre una inversión y las condiciones necesarias para usarla. Yo preguntaría qué problema se quería resolver y si las personas que reciben el servicio pueden advertir o cuestionar un error.
4 preguntas para llevarlo a tu trabajo
- Busca el objetivo explícito de una medida, sin sustituirlo por lo que supones que pretende.
- Identifica qué acción concreta cambia: financiación, reglas, contratación u otra intervención.
- Pregunta por los grupos que pueden beneficiarse y los que podrían resultar perjudicados.
- Define qué información pública permitiría revisar sus efectos y corregir decisiones.
Qué riesgos humanos te propongo observar
Lo vinculo con Decisiones, organizaciones y sociedad porque las políticas distribuyen recursos, oportunidades y responsabilidades. También con Autonomía y agencia, cuando esas decisiones modifican las opciones que tienen las personas y las instituciones.
Estas relaciones pertenecen a mi Taxonomía IAConSentido; no son categorías atribuidas a los autores del documento.
Lo que conviene tener claro
Este documento trata tecnología y seguridad nacional; no es un manual de gobernanza empresarial de IA. Su listado de instrumentos es analítico y no exhaustivo. No te recomiendo trasladar sus objetivos estratégicos a una escuela o empresa sin explicar la diferencia de contexto.
¿Por qué incluirlo en una biblioteca de riesgos humanos de la IA?
Porque ayuda a examinar las decisiones públicas que condicionan el desarrollo y uso de tecnología. La relación con los riesgos humanos requiere analizar sus efectos concretos, no asumir que cualquier política tecnológica protege a las personas.
Por dónde empezar
Cuando leas el próximo anuncio sobre IA, prueba a escribir 3 frases: qué cambia, para quién cambia y cómo se comprobará el resultado. Si alguna respuesta falta, ya sabes qué información pedir antes de sacar una conclusión.
Consultar el documento original · Explorar la Biblioteca de Riesgos Humanos de la IA