Una solicitud rechazada, una condición que cambia o una respuesta que nadie sabe explicar… cuando un sistema decide algo importante sobre una persona, te conviene preguntar cómo puede pedir una revisión.
La Personal Information Protection Law of the People’s Republic of China (PIPL) trata esta cuestión en su artículo 24. Es una ley china de protección de datos, vigente desde el 1 de noviembre de 2021. Aquí me centro en las decisiones automatizadas y en las preguntas que te recomiendo hacer, sin convertirla en una guía completa de cumplimiento.
Qué dice sobre una decisión que te afecta
El artículo 24 exige transparencia y resultados justos e imparciales al usar datos personales para decisiones automatizadas. Cuando una decisión tiene un impacto significativo en los derechos e intereses de una persona, esta puede pedir una explicación y rechazar que se tome exclusivamente mediante automatización. Eso no equivale a un derecho a rechazar cualquier uso de IA en cualquier situación.
A quién se aplica
El artículo 3 contempla el tratamiento dentro de China y ciertos tratamientos realizados fuera sobre personas que se encuentran allí, como ofrecerles productos o servicios o analizar su comportamiento. La nacionalidad del proveedor no resuelve por sí sola si la ley aplica a tu caso. Si tu organización opera en ese contexto, te recomiendo revisarlo con asesoría jurídica.
Un ejemplo: nadie puede explicar el rechazo
Imagina este caso ficticio: una empresa utiliza un sistema para evaluar solicitudes y una persona recibe una negativa. Al pedir explicaciones, le responden que así lo decidió el programa.
Yo empezaría por revisar qué información se utilizó, si estaba actualizada y quién puede atender la inconformidad. No te propongo concluir que hubo una infracción a partir de esa escena. Te propongo comprobar si existe una forma real de entender y cuestionar lo ocurrido.
Qué te conviene preparar antes de automatizar
La ley también prevé una evaluación previa del impacto cuando se usan datos personales para decisiones automatizadas (artículos 55 y 56). El artículo 50 exige un mecanismo para atender solicitudes de ejercicio de derechos y explicar los rechazos.
Para tu equipo, yo lo convertiría en 3 tareas concretas: identificar qué decisiones pueden afectar a personas, asignar quién recibe sus preguntas y comprobar que esa persona puede investigar el resultado. Un correo de contacto sirve de poco si nadie tiene información para responder.
Cómo lo relaciono con los Riesgos Humanos de la IA
Seguridad, privacidad y dignidad: te conviene revisar los datos usados y sus posibles efectos. Decisiones, organizaciones y sociedad: te recomiendo aclarar quién responde y cómo se puede cuestionar una decisión. Son relaciones de mi Taxonomía IAConSentido, no categorías de la ley china.
¿Estas reglas se aplican a cualquier persona en México?
No automáticamente. Este artículo explica una disposición china; la protección aplicable depende del caso y de la jurisdicción. Antes de adoptar un procedimiento legal, revisa las normas y disposiciones complementarias que correspondan. Como práctica organizacional, sí te recomiendo no dejar a una persona sin alguien que pueda escuchar y revisar su situación.