Esta semana, una nueva aplicación revolucionó el mundo de la tecnología. Pero no precisamente para bien. Este es el caso de ZAO, un programa especializado en crear contenidos tipo Deepfakes.
La app china, lanzada el pasado viernes por al empresa Momo, utiliza inteligencia artificial para reemplazar rostros dentro de un video.
Así, solamente es necesario seleccionar una fotografía y listo, puedes cambiar el contenido de la imagen.
Por ejemplo, un usuario de la app logró logró sustituir la cara del actor Leonardo DiCaprio por la suya, en tan solo 8 segundos y en diferentes extractos de sus películas.
¿Cuál es el problema con los Deepfakes?
Si bien para muchos esta no es más que una aplicación de entretenimiento, que podría permitirte protagonizar tus películas favoritas, otros expertos han hablado de los peligros de esta app. Especialmente por su capacidad para crear “deepfakes“.
Este término surgió en 2017, a partir de un usuario de Reddit, y se refiere a la creación de videos con el rostro de personajes conocidos en el cuerpo de otras personas.
Lo especial de estos contenidos es el uso de inteligencia artificial para adaptar las facciones de una persona, muchas veces a partir de una foto, al rostro del protagonista original del video.
Como resultado, se han creado diferentes tipos de contenidos realistas como un video de “El Resplandor” protagonizado por Jim Carrey, una entrevista al actor Billy Hader con el rostro de Tom Cruise, o incluso el mismo Jim Carrey, en una entrevista a Alison Brie .
Esto significa que es una tecnología que permite que la imagen de una persona haga o diga cosas que no ha dicho o hecho, obviamente sin el consentimiento del protagonista.
Unas de las primeras afectadas fueron diferentes actrices conocidas, que fueron incluidas en videos porno, solamente con utilizar imágenes base de sus caras.
Por otro lado, estas prácticas pueden ser especialmente peligrosas en el caso de políticos. Como es el caso del video falso de la presidenta de la cámara de representantes de Estados Unidos, Nancy Pelosi, donde aparecía supuestamente borracha.
O como adelanta la serie Years and Years, con imágenes falsas de políticos, hablando de temas polémicos. ¿Para qué? Para dañar su reputación y favorecer a ciertos candidatos, o incluso, para dar veracidad a fake news.
Incluso existen videos de Barack Obama, hablando de esta problemática. Todo por medio de un contenido publicado por Buzzfeed y obviamente creado sin su participación directa.
Otros problemas de seguridad
Por otro lado, todos los contenidos generados por medio de esta app puede ser utilizados por los desarrolladores del programa, de forma libre y gratuita.
No obstante, la compañía ha aclarado que estos términos y condiciones de uso no permiten que los contenidos de la app sean utilizados para otros propósitos, sin el consentimiento previo del usuario.
Agregando, además, que si los usuarios borran la app, también podrán eliminar todo su contenido de la plataforma.
Por el momento el uso de la app está limitado exclusivamente a China. Así que aún queda ver, cuáles podrían ser los primeros efectos de su uso masivo. Y si la democratización del deepfake es tan peligrosa, como muchos expertos ya auguran que puede ser.
