Deep fake, del engaño de las fake news al video manipulado

Las posibilidades pueden ser infinitas. Un mandatario de una superpotencia amenazando con invadir un país vecino, provocando un estado de preguerra; el presidente de una multinacional lamentándose de la quiebra de su empresa con el consiguiente hundimiento de las acciones de la compañía; un reputado premio Nóbel de medicina hablando de las bondades de un falso medicamento consiguiendo que se acaben las existencias en la web…  todo ello con imágenes del protagonista y con su propia voz. Y, sin embargo, todo falso y manipulado por un algoritmo informático. ¿Ciencia ficción? Pues ya se puede conseguir con bastante facilidad.

Todo empezó hace un par de años con un proyecto de la Universidad de Washington llamado “Synthesezing Obama” por el que un algoritmo manipulaba las imágenes y la voz del ex presidente de EEUU Barack Obama para que dijese lo que los investigadores habían preparado. El algoritmo era capaz de manipular los videos sincronizando sonidos con movimientos faciales: los labios, el arqueado de las cejas, la respiración, los ojos… el resultado fue sorprendente.

Desde entonces, varias actrices famosas como Scarlett Johansson con imágenes eróticas o mandatarios como George Bush o Vladimir Putin han aparecido en vídeos (habitualmente en Youtube) en sitios a los que no habían ido y diciendo cosas que no habían salido de sus bocas. Pero la voz de alarma surgió en el video que se hizo viral en el que Obama llamaba idiota a Trump. Imaginen las consecuencias que puede provocar.

Al menos de momento, siempre se trata de videos con personas famosas de las que se dispone de mucho material gráfico. Para realizar una manipulación de este tipo es necesario tener un archivo inmenso con imágenes del protagonista, con discursos, gestos, voces, apariciones públicas… mucho material real y poco “inventado” para que sea más difícil detectarlos.

Según el tiempo que se le deje trabajar al algoritmo, la calidad será mejor o peor. Actualmente, con una hora trabajando ya puede quedar un video “decente”, aunque con algunos fallos de sincronización entre el sonido y los labios. Sin embargo, tras doce horas de trabajo resulta casi imposible distinguir si es real o no y sólo las técnicas de informática forense pueden detectarlos.

Pero esa solución no es suficiente. Al ritmo con que se difunden las noticias por internet y las redes sociales, cuando se detecte el fraude o los medios de comunicación logren contrastar la noticia, el daño ya estará hecho. Y aunque se demuestre su falsedad, muchos ya no se enterarán de la rectificación y siempre quedará la duda.

Como les decía al principio, parece ciencia ficción, pero es una realidad desde hace tiempo. Hace dos años, en un foro sobre desinformación de la Universidad de Stanford, el director del centro de la OTAN de “Excelencia en comunicaciones estratégicas” (en Riga, Letonia) dijo lo siguiente: “Los gobiernos ya han comenzado a desarrollar tecnologías avanzadas y técnicas de propaganda computarizada utilizando inteligencia artificial y logaritmos que pueden crear y distribuir desinformación a un ritmo alarmante”. Me parece que lo de Obama es un simple juego si lo comparamos con lo que ya se hace por ahí.

Como reza el dicho, “no te creas nada de lo que te digan y de lo que veas, la mitad”. A partir de ahora, ni eso.