China presentará reglas que rigen el uso de tecnología de síntesis profunda en enero de 2023. La tecnología deepfake, en la que se utiliza inteligencia artificial para procesar imágenes y videos, es una preocupación para Beijing, ya que aumenta su control sobre el contenido en línea.
Fotografíaenlace | istock | imágenes falsas
En enero, China introducirá la primera regulación de su tipo sobre “deepfakes”, aumentando el control sobre el contenido de Internet.
Deepfakes son imágenes o videos creados o alterados sintéticamente que se generan utilizando alguna forma de inteligencia artificial. La tecnología se puede utilizar para modificar un video existente, por ejemplo, poniendo la cara de un político sobre un video existente o incluso creando un discurso falso.
El resultado son medios fabricados que parecen reales pero no lo son.
Beijing anunció sus reglas que rigen las “tecnologías de síntesis profunda” a principios de este año y las finalizó en diciembre. Entrará en vigor el 10 de enero.
Estas son algunas disposiciones clave:
- Los usuarios deben dar su consentimiento si su imagen se utilizará en cualquier tecnología de recolección profunda.
- Los servicios de ajuste profundo no pueden usar la tecnología para difundir noticias falsas.
- Los servicios de Deepfake necesitan autenticar la identidad real de los usuarios.
- El contenido sintético debe contener un aviso de algún tipo que informe a los usuarios que la foto o el video ha sido alterado usando tecnología.
- Se prohíbe el contenido que contradiga las leyes existentes, así como el contenido que ponga en peligro la seguridad y los intereses nacionales, perjudique la imagen nacional o perturbe la economía.
La poderosa administración del ciberespacio de China es el regulador detrás de estas reglas.
Desde finales de 2020, China ha tratado de controlar el poder de los gigantes tecnológicos del país e introdujo regulaciones radicales en áreas que van desde antimonopolio hasta protección de datos. Pero también ha buscado regular las tecnologías emergentes y ha ido más allá que ningún otro país en sus normas técnicas.
A principios de este año, China introdujo una regla que rige cómo las empresas de tecnología usan algoritmos de recomendación, en otra ley de este tipo.
Los analistas dicen que la ley aborda dos objetivos: reforzar el control sobre Internet y adelantarse a las regulaciones sobre nuevas tecnologías.
“Está claro que las autoridades chinas están dispuestas a suprimir la capacidad de los elementos contrarios al régimen para utilizar falsificaciones profundas de los principales líderes, incluido Xi Jinping, para difundir una declaración contra el régimen”, Paul Triolo, director de política tecnológica de la consultora Albright Stonebridge. , le dijo a CNBC. .
“Pero las reglas también dejan en claro que las autoridades chinas están tratando de abordar problemas de contenido difíciles en línea de una manera que pocos países lo hacen, y están buscando salir adelante a medida que las nuevas tecnologías, como el contenido generado por IA, comienzan a proliferar en línea”.
Triolo agregó que las regulaciones de IA que Beijing ha introducido en los últimos años están “diseñadas para mantener los esfuerzos de censura y regulación de contenido un paso por delante de las tecnologías emergentes, asegurando que Beijing pueda continuar anticipando el surgimiento de tecnologías que pueden usarse para eludir el sistema de control general”. “
La tecnología de síntesis profunda no es del todo mala. Podría tener algunas aplicaciones positivas en áreas como la educación y la atención médica.
Pero China está tratando de abordar su papel negativo en la producción de información falsa.
Kendra Schaefer, socia de la firma de asesoría Trivium China, con sede en Beijing, señaló a CNBC su nota publicada en febrero cuando se anunciaron las reglas preliminares, en la que discutió las implicaciones de la regulación histórica.
“Lo interesante es que China está apuntando a una de las graves amenazas para nuestra sociedad en los tiempos modernos: la erosión de la confianza en lo que vemos y oímos, y la creciente dificultad de separar la verdad de las mentiras”, dice el memorando.
A través de la introducción de regulaciones, varias agencias reguladoras en China han acumulado experiencia en la aplicación de reglas técnicas. Hay algunas partes de la regulación de deepfakes que no están claras, como por ejemplo, cómo probar que ha obtenido el consentimiento de otra persona para usar su imagen. Pero en general, dijo Trivium en su nota, el régimen regulatorio actual de China lo ayudará a hacer cumplir las reglas.
“China puede establecer estas reglas porque ya cuenta con sistemas para controlar la transmisión de contenido en espacios en línea y agencias reguladoras que hacen cumplir estas reglas”, dice la nota.