Entrando hoy en vigor, el nuevo marco normativo que regla los productos audiovisuales generados o editados por software de inteligencia artificial que alteran la expresión facial o la voz convierte a China en el primer país en regular la producción de deepfakes. El objetivo de la Administración del Ciberespacio de China (CAC, Cyberspace Administration of China) es proteger a las personas de posibles suplantaciones de identidad sin su consentimiento. 

Al constituir los deepfakes imágenes prácticamente indistinguibles del original, pueden ser fácilmente empleadas para la manipulación o la desinformación. En este sentido, la normativa está orientada a frenar los riesgos que podrían surgir de las actividades proporcionadas por plataformas que utilizan el aprendizaje profundo (deep learning) o la realidad virtual para alterar contenido online, lo que el regulador llama “proveedores de servicios de síntesis profunda”. 

La iniciativa alude a las herramientas de generación de texto, audio e imagen impulsadas por inteligencia artificial y supone el primer intento integral del mundo por parte de una agencia reguladora para ordenar esta tecnología. Las reglas fueron dadas a conocer el pasado mes de diciembre, y se suman a las normas establecidas en agosto destinadas a gobernar los algoritmos que sustentan las plataformas de internet más poderosas del mundo.

Uno de los aspectos más destacados del nuevo marco es la prohibición del uso de contenido generado por IA para difundir "noticias falsas" o información que pueda considerarse perjudicial para la economía, la seguridad nacional o la imagen de China. Estas categorías han sido ampliamente definidas dando a las autoridades pertinentes una significativa libertad de interpretación.

Asimismo, la CAC ha determinado que los proveedores de “tecnologías de síntesis profunda”, incluidas empresas, organizaciones de investigación o individuos, deben etiquetar de forma visible las imágenes, los videos y el texto generado o editado con inteligencia artificial cuando puedan ser malinterpretados como reales, y cada deepfake tendrá que ser autenticado con una identidad real. Además, cualquier usuario ha de proporcionar su consentimiento para que su imagen se utilice para este tipo de fines.

Noticias Relacionadas

¿Cómo saber si un texto está escrito por IA? Varias herramientas ayudan a determinarlo

‘Inteligencia artificial’ es la expresión del año 2022, según la FundéuRAE

Para una sección del sector tecnológico, la implantación de estas nuevas medidas reflejan los esfuerzos de las autoridades chinas por regular un terreno complejo y en el epicentro del debate social respecto al contenido online. En cambio, otro segmento considera que se trata de un intento por proteger la imagen de políticos de alto rango, así como de continuar restringiendo la presencia y posicionamiento de grandes compañías como Google o Meta. 

No obstante, China no es el único mercado que está avanzando en materia de regulación de la inteligencia artificial. En Estados Unidos, por ejemplo, se ha tratado de abordar la proliferación de contenidos generados con esta tecnología, así como sus falsificaciones vinculadas, pero los esfuerzos han encontrado trabas relacionadas con la libertad de expresión. La Unión Europea, por su parte, ha adoptado un enfoque más cauteloso que China, centrándose en las plataformas e instándolas a ampliar sus capacidades en la mitigación de la difusión de deepfakes y desinformación.