Escuchas una voz conocida en un audio. Dice algo que te sorprende… pero suena tan parecida que casi lo reenvías sin preguntar. Antes de hacerlo, te recomiendo comprobar quién lo publicó y confirmar con la persona por un canal que ya conozcas.
Para conversar sobre estos casos, conviene separar el permiso para usar una voz, el aviso de que fue generada y la veracidad de lo que dice. Una etiqueta no responde las 3 preguntas.
Qué documento es y qué fecha debes tener en cuenta:
互联网信息服务深度合成管理规定 es el título oficial de las disposiciones chinas sobre gestión de servicios de síntesis profunda. Uso esa descripción en español para orientarte; no es una traducción jurídica oficial. El texto publicado por la Administración del Ciberespacio de China entró en vigor el 10 de enero de 2023, no el 1 de enero.
Se refiere a servicios de información por internet que usan esas tecnologías dentro de su ámbito chino. No es una regla universal para cualquier persona que edite una imagen. El artículo 14 dispone que los proveedores de funciones de edición biométrica, como rostro o voz, recuerden al usuario la necesidad de informar y obtener el consentimiento separado de la persona editada conforme a la ley. Los artículos 16 a 18 abordan marcas y avisos.
Por qué también hay que consultar las medidas de 2025:
Las 人工智能生成合成内容标识办法, medidas sobre identificación de contenido generado o sintetizado con IA, entraron en vigor el 1 de septiembre de 2025. Distinguen avisos perceptibles y marcas en los datos del archivo, además de responsabilidades de distribución y declaración del usuario.
No conviene resumirlas como «todo contenido siempre lleva una etiqueta visible»: el artículo 9 contempla supuestos sujetos a condiciones. Tampoco basta con leer estos textos para implementar un sistema: hay estándares técnicos y otras normas que deben revisarse. Aquí no evalúo la conformidad de ningún servicio.
Ejemplo ficticio: la voz de una compañera en un anuncio
Un equipo prepara un video interno. A alguien se le ocurre usar una voz sintética parecida a la de una compañera porque «ella siempre presenta estas cosas». Añaden un aviso de IA y consideran resuelto el asunto.
Yo les preguntaría algo antes de aprobarlo: ¿la compañera aceptó que su voz se utilizara de esa manera? ¿Sabe qué mensaje se le atribuye? ¿Podría alguien ver un fragmento fuera de contexto y creer que lo dijo ella?
El aviso ayuda a explicar cómo se hizo el contenido… pero no convierte una decisión del equipo en una decisión de la persona representada. Para este ejemplo, mi recomendación sería detener la difusión hasta aclarar el permiso y el uso previsto, o elegir una voz que no imite a alguien real del equipo.
Qué te recomiendo acordar antes de publicar:
- La persona representada: qué aceptó, para qué pieza y con qué límites.
- El mensaje: quién lo revisa y confirma que no atribuya declaraciones falsas.
- El aviso: dónde se verá y si seguirá siendo comprensible cuando se comparta un fragmento.
- La respuesta: a quién puede acudir la persona si encuentra un uso que no reconoce.
Estas preguntas son mi propuesta para trabajar con más cuidado. No sustituyen el análisis legal del país y del servicio involucrados ni describen todas las obligaciones de la regulación china.
Qué familias de riesgos humanos te propongo observar:
Creatividad, autoría e identidad: una voz o un rostro pueden hacer que atribuyamos a alguien un mensaje que no creó. Relaciones, confianza y convivencia: el daño también puede estar en la confianza entre quienes reciben el contenido y la persona representada.
Relaciono el caso con mi Taxonomía IAConSentido para ayudarte a reconocer qué puede verse afectado. No es una clasificación oficial china ni implica aval institucional.
¿Una etiqueta de IA demuestra que el contenido es falso?
No. Te informa sobre su elaboración, no resuelve por sí sola si una afirmación es cierta. Y la ausencia de una etiqueta tampoco prueba que una grabación sea auténtica. Ante un mensaje importante, te recomiendo confirmar la información antes de actuar o reenviarla.