Por Karine Boucher · Especialista en Riesgos Humanos de la IA · Creadora del Método SENSE
Tu equipo quiere usar conversaciones de clientes para mejorar una IA. Alguien pregunta si la herramienta funciona bien. Otra persona pregunta dónde se guardarán los datos. Son 2 conversaciones distintas… pero están hablando de la misma decisión.
Por eso incluyo en mi biblioteca AI, data governance and privacy: Synergies and areas of international co-operation, un informe de la OCDE publicado el 26 de junio de 2024. Te conviene consultarlo si las decisiones sobre IA y privacidad se están tomando por separado en tu organización.
Qué encontrarás en el informe:
El documento compara los principios de privacidad y de IA de la OCDE, revisa iniciativas nacionales y regionales y plantea áreas de cooperación. Señala que trabajar por separado puede generar malentendidos y dificultades de coordinación. Tiene 55 páginas y forma parte de OECD Artificial Intelligence Papers, número 22.
El PDF oficial permite consultar el desarrollo completo. Es un informe de 2024, no una recopilación permanentemente actualizada de todas las leyes sobre privacidad.
Lo que te recomiendo revisar antes de compartir datos:
Yo empezaría por una pregunta sencilla: ¿necesitas esos datos para resolver ese problema? Tener un archivo disponible no significa que sea adecuado para cualquier uso. Tampoco basta con decir que servirá “para mejorar la experiencia”.
Te propongo describir el recorrido de la información en palabras que todo el equipo pueda entender. De dónde sale, quién la recibe, qué hace con ella y qué queda guardado después. Si una parte depende del proveedor, anota la pregunta y pídele una respuesta por escrito.
No asumiría que borrar el nombre resuelve todo. Un mensaje puede contener detalles que identifican a una persona sin nombrarla. Tampoco afirmaría que los datos están anonimizados sin comprobar cómo se hizo y qué posibilidades de identificación siguen abiertas.
Ejemplo ficticio: usar mensajes de soporte para entrenar una IA:
Imagina una empresa que quiere entrenar una herramienta con sus conversaciones de atención al cliente. El equipo técnico necesita ejemplos; el de soporte quiere ahorrar tiempo; la persona responsable de privacidad pregunta para qué se recogieron esos mensajes.
Te recomiendo que revisen juntos una muestra controlada, sin subirla primero a un servicio externo. Pueden aparecer datos sobre pagos, salud o problemas familiares que no necesitan para aprender a responder una consulta comercial. La primera decisión podría ser excluirlos o preparar ejemplos ficticios, no buscar una herramienta que acepte el archivo completo.
Después conviene distinguir si se está entrenando un modelo, consultando una base interna o simplemente enviando información en cada conversación. Son usos diferentes. Yo pediría al proveedor que explique cuál ocurre realmente y qué controles ofrece para ese uso.
Este caso es inventado para mostrar las preguntas. No describe una empresa ni establece una base jurídica válida para tratar sus datos.
Una reunión útil, con un resultado concreto:
Te propongo reunir a quien decide el objetivo, quien conoce los datos, quien implementa la herramienta y quien revisa privacidad. No para aprobar una frase general, sino para dejar resueltas estas 4 cuestiones:
- Qué información se necesita y cuál debe quedar fuera.
- Qué hará el proveedor y qué puede comprobar la organización.
- Quién atenderá una solicitud o un problema relacionado con esos datos.
- Qué preguntas siguen abiertas y quién debe responderlas antes de avanzar.
Si no hay respuesta para una cuestión importante, prefiero que quede visible. Es más útil que marcar toda la revisión como completada por haber compartido un documento.
Las familias que te recomiendo observar:
Lo relaciono con Seguridad, privacidad y dignidad, porque detrás de los datos hay personas. Y con Decisiones, organizaciones y sociedad, porque las responsabilidades no desaparecen al contratar un proveedor. Son categorías de la Taxonomía IAConSentido, no una clasificación oficial de la OCDE.
Preguntas frecuentes:
¿Sirve como asesoría jurídica para México?
No. Puede ayudarte a reconocer asuntos que necesitas revisar, pero no sustituye la evaluación de las normas que correspondan a tu organización y a las personas afectadas.
¿Tengo que leerlo completo antes de empezar?
Te recomiendo comenzar por el resumen y el índice, elegir la pregunta que necesitas resolver y consultar la sección pertinente. Conserva el enlace y la fecha del documento para no confundir su contexto con la situación normativa actual.
Si quieres seguir explorando, te invito a mi Biblioteca de Riesgos Humanos de la IA. Elige el recurso que responde a la pregunta que tienes hoy.
Fuente oficial consultada el 13 de noviembre de 2026. Las recomendaciones prácticas y los ejemplos identificados como ficticios son míos; no implican afiliación ni aval de la institución.