Dos integrantes del personal escolar revisan una hoja en una tabla con clip, junto a una computadora portátil, en una oficina.

Antes de activar una IA en tu escuela, ¿qué datos le vas a dar?

Hoy hablamos de: cómo cuidar los datos de tus estudiantes antes de abrirles una herramienta de IA.

IAConSentido · Noticia Radar SENSE

Una resolución internacional y su carta modelo ofrecen un punto de partida para hablar con tu equipo y con las familias.

¿Qué revisar antes de activar IA en una escuela?

Define qué quieres enseñar y prueba la actividad con datos ficticios. A partir de esa prueba, identifica cuáles serían los datos indispensables y revisa qué haría la herramienta con ellos. Explica a estudiantes y familias el uso previsto, quién puede corregir un dato y a quién acudir si algo sale mal. Si todavía faltan respuestas, mantén el uso con datos reales en pausa.

Riesgo humano Seguridad, privacidad y dignidad · Libertad y protección

Dirección H → IA → H · Pilar S — Seguridad Humana · Taxonomía IAConSentido

Una lista de alumnos parece el camino más rápido

El lunes quieres probar un asistente que propone ejercicios de lectura. Para avanzar, alguien sugiere importar la lista del grupo y sus observaciones. En esa hoja están los nombres, los resultados de la última actividad y algunas notas de seguimiento. Antes de elegir una configuración o abrir cuentas, vale la pena hacer una pregunta más simple: ¿qué necesita saber la herramienta para proponer el ejercicio?

Es un ejemplo ficticio. Para diseñar una actividad, quizá baste indicar el grado, el tema y la dificultad, sin identificar a nadie. Si se envía la hoja completa, en cambio, podrían quedar en manos de otro servicio notas que una familia compartió para ayudar a su hija o hijo en la escuela. Y si una nota era inexacta, el equipo puede acabar tomando decisiones a partir de una versión que nadie sabe cómo corregir.

Me interesa esa pausa. Antes de la primera actividad todavía puedes cambiar el ejercicio, pedir explicaciones al proveedor o decidir que la tarea funciona sin una cuenta para cada estudiante.

Qué propone la resolución

El 20 de noviembre de 2026, la CNIL, autoridad francesa de protección de datos, publicó un resumen de la resolución sobre IA y educación que la Asamblea Mundial para la Protección de la Privacidad adoptó en noviembre. Presenta 11 principios. Entre ellos: poner primero el interés del menor, definir responsabilidades, limitar el tratamiento a su finalidad y proteger la privacidad desde el diseño.

El modelo de carta para centros educativos, en las páginas 25 y 26, lleva esos principios a decisiones concretas. Propone limitar los datos a lo necesario, revisar las garantías del proveedor, explicar el uso en lenguaje claro y facilitar que la información errónea pueda corregirse con intervención humana. También contempla actuar y avisar con rapidez ante una afectación importante de la privacidad.

La resolución y su carta modelo ofrecen orientación. Las obligaciones de tu escuela siguen dependiendo de las reglas aplicables y de cómo vaya a usar la herramienta. Mi propuesta es llevar el modelo a una conversación que puedas tener antes de dar acceso a un grupo.

1. Decide qué necesita la actividad

Anota el objetivo en una frase. Si quieres que el grupo reconozca la idea principal de un texto, prueba con un fragmento preparado por el docente y ejemplos inventados. Pregunta qué resultado podrías obtener sin nombre, correo, historial de calificaciones ni informes de seguimiento. Si terminas necesitando un dato real, explica para qué y cómo se limitará su uso.

Antes de activarla, pide una explicación verificable de quién accede a los datos, cuánto se conservan, cómo pueden borrarse y si el proveedor los reutiliza, por ejemplo para entrenar modelos. Comprueba la configuración que recibirían los estudiantes, no solo la que ves en una demostración. Una escuela puede decidir aplazar el uso si las garantías no están claras.

2. Escribe el aviso como si fueras a leerlo en una reunión con familias

Empieza con lo que la familia necesita saber: qué actividad se hará, qué información se compartirá, para qué se usará y quién podrá verla. Explica también cómo enviar una pregunta o solicitar una revisión. Si el plan aún no está definido, pon por escrito lo que falta resolver antes de abrir el acceso.

Te propongo leer el borrador con un docente y pedirle que lo explique con sus palabras. Si para responder «¿Van a subir las calificaciones?» tienen que abrir cuatro documentos, esa respuesta merece aparecer en el aviso. Escucha también qué dudas plantean estudiantes y familias. Una pregunta que no estaba en el borrador puede ayudarte a corregir la actividad o su explicación.

3. Aclara quién puede corregir una información

Si una familia indica que un registro está mal, necesita una persona que escuche la solicitud, compruebe el dato y confirme qué cambió. Aclara también quién revisará una recomendación que se apoyó en el dato anterior. Cambiar la nota en un sistema puede dejar intacto un informe que ya salió de él.

Si la herramienta propone agrupaciones o apoyos para alumnos, deja por escrito quién revisa esa recomendación y cómo puede reconsiderarla. Ese paso protege a la persona sobre la que alguien va a decidir. Para probarlo, usa un caso inventado: un registro atribuye a una estudiante una dificultad que corresponde a otro ejemplo. ¿Quién detecta el error, quién lo corrige y cómo sabrá la familia que se revisó?

4. Practica cómo responder si se expone información

No esperes al primer incidente para decidir quién recibe el aviso. Designa un punto de contacto y una persona suplente. Define cómo limitar una exposición, registrar lo ocurrido sin volver a difundir los datos y pedir ayuda al proveedor y a quien lleva privacidad en tu centro.

En un incidente significativo, el modelo propone limitar las consecuencias y avisar pronto a las personas afectadas. Tu equipo debe determinar, conforme a las reglas aplicables, a quién informar, cuándo y si también corresponde notificar a la autoridad competente. Ensaya el recorrido con un caso ficticio antes de depender de él.

Qué quiero proteger con esta revisión

Cuando un adulto introduce datos de un alumno en una herramienta, el alumno puede verse afectado aunque nunca haya abierto una cuenta. Por eso ubico este caso en Seguridad, privacidad y dignidad, dentro de mi Taxonomía de Riesgos Humanos de la IA. La dirección describe cómo una decisión de quien usa la herramienta puede repercutir en otra persona.

Desde la Seguridad Humana, uno de los pilares del Método SENSE, te propongo llevar a tu próxima reunión una sola actividad y una hoja con cuatro preguntas: qué necesitamos, qué explicaremos, quién puede corregir y qué haremos si hay un incidente. Si falta una respuesta, anota quién puede conseguirla antes de abrir el acceso al grupo.

¿Puedo probar una herramienta antes de elegirla?

Sí, puedes empezar con material ficticio o preparado para la práctica que no identifique a ningún estudiante. Prueba la tarea y sus límites. Antes de pasar a un uso real revisa los permisos, el tratamiento de datos y las reglas de tu centro.

¿Quitar los nombres es suficiente?

Mira también el resto de la información. Una combinación de grupo, fecha y observaciones particulares puede revelar de quién hablas. Para la primera prueba, escribe un ejemplo desde cero y conserva únicamente lo necesario para el ejercicio.

¿La carta modelo sustituye el aviso de privacidad de mi escuela?

Úsala como guía para preparar preguntas y acuerdos. El aviso de tu centro debe reflejar el uso concreto, las personas responsables y las reglas aplicables. Si tienes dudas, revisa ese aviso con quien lleva privacidad antes de publicar o activar la herramienta.

Para seguir observando cómo usamos la IA

Cada semana te comparto en IAConSentido una reflexión sobre la IA y preguntas para reconocer sus riesgos humanos. Puedes suscribirte aquí.

Si quieres revisar tus propios hábitos antes de decidir qué cambiar, puedes empezar por el Semáforo de Riesgo Humano.

Karine Boucher — Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
MIT · Ciencia de Datos
Gobernanza IA
Método SENSE
TEDxCancún
Women in AI Governance MX · Presidenta
+25 años experiencia internacional
Especialista en Riesgos Humanos de la IA

Karine Boucher
Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE

Soy Karine, profesional franco-mexicana con más de 25 años de experiencia en entornos internacionales. Creé el Método SENSE para ofrecer lo que los marcos técnicos de gobernanza no dan: herramientas protectoras, claras y utilizables en la vida real — especialmente para familias y educadores.

Formada en Ciencia de Datos en el MIT y especializada en riesgos humanos de la IA, gobernanza y ética aplicada. Creo que la pregunta más urgente de nuestro tiempo es cómo seguir siendo humanos mientras convivimos con la IA.

LinkedIn
Newsletter
karine.ai
Recursos gratuitos

Leave a Comment