Zao
Zao: los posibles riesgos a la privacidad de la polémica aplicación china que intercambia los rostros
La herramienta que permite suplantar la identidad de un famoso se ha convertido en la más descargada de China, aunque los expertos temen su impacto en la privacidad de los usuarios y los posibles datos que almacena
Si no estás familiarizado con los llamados « deep fakes » tal vez es el momento de sumergirse en esta tecnología emergente que, en manos de personas malintencionadas, puede llegar a alterar el curso de la historia. Se trata de herramientas que pueden manipular secuencias de vídeo hasta tal punto que pueden hacerlas pasar por reales.
El mayor miedo, ahora, es que pueda llegar a democratizarse este tipo de servicios digitales; algo que empieza a suceder como ha demostrado Zao, una aplicación para dispositivos móviles iOS diseñada en China que ha causado un gran revuelo por los resultados obtenidos: en solo ocho segundos puede generar un vídeo intercambiando el rostro del actor Leonardo diCaprio por el de otra persona. Fácil, efectivo, pero también peligroso por diversos motivos.
En tan solo tres días desde que se diera a conocer, el servicio ha causado una tremenda polémica en el país por las posibles consecuencias que puede tener en la lucha por la desinformación en redes sociales. La «app» se presenta, sin embargo, como un generador de filtros para «convertirse» en superestrellas.
In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.
— Allan Xia (@AllanXia) September 1, 2019
Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) 🤯 pic.twitter.com/1RpnJJ3wgT
A partir de una fotografía personal en miniatura, el sistema creado por Zao consigue integrarla de manera natural en un vídeo, aunque ha empezado a suscitar dudas acerca de su intromisión en la privacidad de los usuarios. Para utilizarla tan solo requiere de asociar el número de teléfono y darle permiso al carrete de fotografías almacenada en el terminal. Entonces, los usuarios pueden seleccionar un vídeo de un extenso catálogo de personajes famosos a los que se va a superponer la imagen. Entre ellos, personajes internacionales como Marilyn Monroe o Leonardo diCaprio.
Lanzada hace escasos días, las descargas de Zao se han disparado: es una de las tres primeras aplicaciones más descargadas en la tienda digital App Store en China . Los responsables del proyecto es Momo Inc., servicio local de retransmisiones en directo. Según la documentación a la que ha tenido acceso el medio Bloomberg, está fundada por Wang Li y Lei Xiaoliang .
Tras hacerse viral, la compañía se ha visto obligada a modificar algunas de las cláusulas que ha generado una mayor preocupación entre los usuarios. En la versión origincial, la «app» se reservaba tener derechos «libres, irrevocables, permanentes, transferibles y con licencia» para utilizar el contenido de los usuarios, aunque en una actualización ha prometido que el material cargado por el usuario no se comercializará sin su permiso.
«Poner en manos de todos los usuarios de internet esta tecnología, ciertamente avanzada, puede generar un caos importante»
El grupo de investigación del Centro de Investigación de Comercio Electrónico de China ha manifestado también que la aplicación Zao «viola ciertas leyes y estándares establecidos por la nación y la industria», instandol así a las autoridades a iniciar un análisis exhaustivo de sus posibilidades. «Si la app solamente te hace el vídeo no hay ningún problema. Si al final se da cuenta que tiene un gran volumen de datos, ya sea rostros de personas o la producción de vídeos, podemos estar en el juego del consentimiento y puede chocar con el derecho del honor», valora a este diario Samuel Parra , jurista experto en derecho digital. «La empresa va a tener que explicar y concretar exactamente la finalidad de los datos; un simple consentimiento genérico no sería válido», apunta.
Además del posible conflicto acerca de la privacidad de los usuarios, Zao también ha puesto de manifiesto los accesible de esta tecnología. «Hace unos años los “deep fakes” era algo que tenía acceso unas pocas empresas, y ahora cualquier lo puede hacer. Estamos colocando a la gente herramientas que pueden causar mucho daño», añade Parra, quien quien aprovecha para descargar parte de la responsabilidad en las empresas que desarrollan este tipo de servicios digitales : «me preocupa porque es un generador de “fake news” asombroso. Poner en manos de todos los usuarios de internet esta tecnología, ciertamente avanzada, puede generar un caos importante».
Noticias relacionadas
