En la actualidad, en un mundo conectado a través de internet, y donde los datos se propagan en las redes sociales a una velocidad vertiginosa, no es de sorprenderse que estamos expuestos a una gran cantidad de contenido audiovisual. Sin embargo, no todo ese contenido audiovisual al que tenemos acceso es real. Para muestra basta un botón: le invito a ver este video de YouTube, donde nuestro Récord Guinness como presentador de noticias con más años al aire ininterrumpidamente, Don Alfonso Espinoza de los Monteros, nos transmite un mensaje muy importante para nuestras vidas.
Como se habrá dado cuenta, por el contenido del mensaje y los defectos en la sincronización de los labios y las palabras que pronuncia, este video no es real: es decir, Don Alfonso nunca pronunció en la realidad dicho discurso. Lo que tenemos en este video es un deepfake. Los deepfakes son imágenes, videos o audios (con estilo realista) que son parcial o totalmente falsos (de ahí el nombre fake), que son generados usando algoritmos avanzados de inteligencia artificial. Usualmente, se usan redes neuronales artificiales profundas, que es un algoritmo de deep learning, (de ahí el nombre deep). Por lo tanto, en un mundo digital, donde el contenido audiovisual prolifera, los deepfakes se han convertido en un fenómeno de gran impacto social.
Los algoritmos más usados para crear deepfakes permiten la generación o alteración de imágenes, clonación y generación de voz, y generación o alteración de video. Entre estos tipos de deepfakes, uno de los más usados es la alteración de video debido a que, combinando audio y video, aumenta la probabilidad de captar el interés de la audiencia. Hay varias maneras de generar videos alterados, con estilo realista. Una de las más populares es la siguiente. Primero se clona el tono de voz de una persona. Luego, se genera un audio falso a partir de un texto, usando el tono de voz clonado. Finalmente, se fusiona el audio falso con el video original. En este último paso se suele sincronizar el movimiento de los labios, y otras expresiones corporales, del video original para que vayan acorde con el audio falso, generando así la apariencia realista del contenido generado.
Una vez que sabemos qué son los deepfakes vamos a analizar sus potenciales usos. Alguna vez Usted habrá visto una película doblada de inglés a español. Actualmente, en la industria del entretenimiento el doblaje de películas, en su mayoría, todavía se lo hace de forma manual. Primero se traduce y adapta el discurso de inglés a español. Luego se hace que actores, cuyo tono de voz encaja con los personajes de la película, interpreten dicho discurso, de tal manera que las voces dobladas coincidan lo más posible con la gesticulación labial de los personajes originales. Este proceso demanda mucho tiempo y dinero. Aparte, el tono de las voces de la película doblada no es el mismo que el de la película original. Usando el procedimiento antes descrito para la generación de deepfakes, podemos doblar una película, en tiempos mucho más cortos, y conservando el tono de voz de los personajes originales.
En la misma línea, usando deepfakes podemos doblar contenido educativo como cursos o discursos de personajes famosos. En el sector educativo podemos generar material más atractivo que ayude a captar el interés de los estudiantes. En el arte podemos crear exhibiciones de artistas famosos que ya han fallecido, haciendo que el propio personaje nos guíe a través de la exhibición mediante su deepfake. Como nos podemos dar cuenta, las potenciales aplicaciones con impacto positivo de los deepfakes son múltiples en muchas áreas de nuestra cotidianidad.
Volviendo al procedimiento para generación de deepfakes, cualquier persona que tenga imágenes, videos o audios publicados en internet es un potencial candidato para su generación. En palabras más simples, solo los que han estado y están completamente aislados del mundo digital, que son muy pocos en el mundo, son inmunes a los deepfakes. Obviamente, de entre todos los que somos susceptibles a los deepfakes, unos son más probables que otros. Usualmente, el nivel de interés radica en el grado de exposición pública que tiene una persona. Es por esta razón que usualmente vemos deepfakes de políticos, figuras públicas relevantes, actores, artistas o deportistas.
Desafortunadamente, como toda tecnología, también hay malos usos para los deepfakes. Estos malos usos van desde la generación de publicidad engañosa, hasta la diseminación de noticias falsas o ejecución de estafas. Por ejemplo, hace unos días se difundió en redes sociales un video alterado de una entrevista dada por el Ministro de Gobierno de Ecuador, Arturo Félix Wong, en el contexto de la crisis energética que atravesamos en Ecuador. Este video, sumado a la molestia ciudadana por los cortes de energía eléctrica, despertó la molestia de muchos ciudadanos que no se percataron de la falsedad del video.
Entonces, si casi todos somos susceptibles para que nos generen deepfakes o de recibir contenido alterado o falso, la pregunta es ¿cómo nos protegemos ante esta situación? Los gigantes tecnológicos, que están detrás de las redes sociales y de la búsqueda de datos en internet, están al tanto de este tema y cada día toman medidas más estrictas para protegernos. Sin embargo, hay un segundo nivel de seguridad que le corresponde al usuario. Para evitar la generación de deepfakes con fines maliciosos usando sus datos, tenga siempre precaución con las fotografías, videos y datos personales que publica en redes sociales. Adicionalmente, administre correctamente los permisos para controlar quién puede acceder al contenido que publica.
Para evitar ser víctima de desinformación, engaños, estafas o robos mediante el uso de deepfakes, antes de dar por verdadero lo que le intentan transmitir, analice con mucho detenimiento su contenido. Si no está seguro, verifique los datos que contiene el contenido sospechoso. Con educación, datos verificados y pensamiento crítico, Usted tendrá mayor inmunidad a los deepfakes y demás contenido digital falso. Por lo tanto, no crea todo el contenido digital que ve o escucha, en su lugar, analice y verifique lo que consume.
