China ya es el primer país en imponer por ley el uso de marcas de agua y metadatos para identificar imágenes creadas con IA

Al comenzar este mes, las principales plataformas sociales chinas —como WeChat, Douyin o Weibo— comenzaron a aplicar una norma pionera en el mundo: toda alcoba de contenido generada por inteligencia industrial debe padecer una epíteto clara que lo identifique como tal.

La medida rebate al rápido auge de herramientas que han popularizado la creación de textos, imágenes, audios y vídeos sintéticos en cuestión de segundos... pero, en presencia de todo, es la consecuencia de una imposición por ley, la primera de esa clase en todo el mundo.

El objetivo oficial: seguridad y transparencia

Pekín justifica la medida como parte de su fresco campaña "Qinglang" (que puede traducirse como, más o menos, "Claro y Brillante"), destinada a "estafar" el ciberespacio y proteger a los ciudadanos de riesgos como:

• Desinformación y informativo falsas.
• Fraudes online.
• Infracciones de copyright.
• Deepfakes que amenazan la "seguridad individual y franquista".

En teoría, el etiquetado pretende devolver confianza a los usuarios y evitar que los contenidos sintéticos erosionen la credibilidad de la información.

¿Qué exige exactamente la ley?

El reglamento, impulsado por la Sucursal del Ciberespacio de China (CAC) conexo con otros ministerios secreto, obliga a que cada contenido sintético lleve dos tipos de identificadores:

• Explícitos: visibles al agraciado, como marcas de agua en imágenes, avisos en vídeos o textos aclaratorios al inicio o final de un documento.
• Implícitos: invisibles para el ojo humano, insertados en los metadatos. Esto incluye marcas digitales que permiten a plataformas y algoritmos de rastreo diferenciar entre contenido humano y generado por IA.

Por otra parte, las plataformas tienen la responsabilidad de realizar estos metadatos y añadir advertencias incluso en casos sospechosos, aunque el creador no haya señalado el uso de IA.

Problemas y limitaciones de la medida

Aunque angurriento, el sistema no está exento de desafíos:

1. Manejable de escamotear. Los cibecriminales pueden eliminar marcas de agua o difundir capturas de pantalla sin metadatos, dificultando el rastreo. Por supuesto, la ley incluso prohíbe la aniquilación, manipulación, falsificación u ocultación de estas etiquetas de IA, o proporcionar herramientas que ayuden a hacer eso. Pero es de suponer que a los criminales no les importara mucho.
2. Protocolo indiscriminada. La norma no distingue entre un retoque estético pequeño —por ejemplo, mejorar la resolución de una imagen— y un deepfake manipulador: todo recibe la misma advertencia, lo que puede restar licitud a usos creativos o benignos.
3. Ahogo del agraciado. Con la avalancha de contenidos etiquetados, existe el aventura de que los internautas se acostumbren a las advertencias y las ignoren, como ya ocurre con los consentimientos masivos en materia de privacidad.
4. Impacto en la privacidad. Los identificadores en metadatos podrían exponer información sensible (ubicación, dispositivo, cuentas asociadas).

Un precedente integral

China es el primer país que convierte en obligación justo la diferenciación sistemática entre contenido humano y industrial. Oeste, aunque ha debatido iniciativas similares —hace ahora dos abriles desde que Sumar, partido de la coalición gobernador, puso esa propuesta sobre la mesa—, aún se mueve más lentamente.

El etiquetado obligatorio de contenidos generados por IA en China es un investigación a gran escalera con implicaciones que van mucho más allá de la tecnología. A primera horizonte, se negociación de una logística contra la desinformación y los riesgos de los deepfakes, pero al mismo tiempo refuerza el ecosistema de vigilancia y control de Internet en el país.

Lo que ocurra en China servirá como laboratorio para el resto del mundo: si el sistema demuestra efectividad auténtico contra la manipulación digital, podría inspirar normativas similares en otros lugares. Aunque es posible que varios países se muevan en la misma dirección antiguamente de que podamos tener claro los resultados del investigación chino.

Imagen | Marcos Merino mediante IA

En Xataka | El nuevo modelo de IA de Google es perfecto para algo problemático: es capaz de borrar la marca de agua de las imágenes