Deepfake: una realidad distorsionada

Deepfake / Agenda Digital

• El auge de la desinformación en la red está siendo provocada por la gran cantidad de noticias

• Las amenazas de la tecnología artificial llegan a otro extremo: la suplantación de identidades

Con las redes sociales la intoxicación de las personas con la información ha sido inevitable.  Tanto, que ahora es difícil distinguir la falsedad de la realidad. Los avances de la tecnología y la inteligencia artificial han permitido nuevas formas de generar bulos y fake news como es el caso de las deepfake: superponer el rostro de una persona y falsificar sus gestos.

Completamente robotizado con la ayuda de los nuevos medios y programas tecnológicos. Como aparece en la fotografía de portada, como un rostro de un joven es retocado donde se le analizan todos sus rasgos con precisión para poder falsificarlo por otra persona.

En demasiadas ocasiones hemos escuchado repetitivamente la palabra fake news. Las noticias falsas tradicionalmente conocidas se han visto fagocitas por el auge de internet y por ende, de las redes sociales. Este ritmo frenético y expansivo es difícilmente controlable. La cantidad de información a la que estamos sometidos y expuestos diariamente es incalculable. 

No existen medios que nos protejan de los que nosotros mismos creamos. El avance de la tecnología ha propiciado la aparición de nuevas técnicas para suplir la vida real. Es el caso del famoso deepfake. Ha llegado un momento en el que el frenesí de la tecnología ha acaparado, traspasado y pisoteado el mundo real. Cada día uno es más esclavo de la red. La ley de Metcalfe ya lo dijo en su momento, el valor exponencial de una red se multiplicaría cuántos más usuarios tuviera. La red es el imán del que todos acaban enganchados. 

Una pandemia mundial: la infodemia

Cabe distinguir entre dos conceptos muy parecidos en su forma, pero con un significado realmente diferente. Las noticias falsas son hechos creados, sesgados y manipulados con la intención de hacer creer a una parte de la sociedad una verdad absolutamente falsa. En cambio, la desinformación es aquella parte de los hechos que acontecen en un día y no tienen la utilidad práctica y moral de informar, sino de todo lo contrario. Ambos términos coinciden en algo: pretenden causar el caos. Aclamando al miedo y a la desesperanza. Juegan con la mente de quién los lee, ve o escucha. 

No fue el presidente Donald Trump quien popularizó el término de Fake News. Este hecho lleva intrínseco en el periodismo desde su nacimiento. Tal vez con otro nombre menos marketiniano. Lo cierto es que el desarrollo y el auge de internet ha propiciado que las informaciones falsas campen a sus anchas por la red. Una red donde no existen los límites. Por lo que, el grado de penetración de estas calumnias de la realidad es cada día más creciente. Lo preocupante es que siguen apareciendo novedosos desarrollos de inteligencia artificial que ayudan a la expansión imbatible de los bulos y las desinformaciones. No llegan herramientas eficaces para frenar este tipo de cuestiones. Tal vez no interese. 

Un paso más de las fake news

El deepfake se ha consagrado como uno de los mayores avances de la inteligencia artificial. Se trata de algoritmos creados a partir de datos que los usuarios de internet van cediendo migaja a migaja como si del cuento de pulgarcito se tratara. A raíz de estos algoritmos se construye una realidad virtual perfectamente irreconocible a la realidad. Un programa es capaz de crear un rostro humano real, dándole la misma voz que la persona real, incluso ofrece la posibilidad de incluir los propios gestos de la persona. 

Sus inicios se remontan en 2017, cuando alguien con nombre de usuario deepfake publicó un vídeo falso en la web. Después se bautizó con este mismo término a las grabaciones pornográficas manipuladas donde aparecían las caras de mujeres reconocidas para atacar su reputación. Luego saltaron al cine y terreno político.

Deepfake de Tom Cruise / VerificaRTVE

En la red social de TikTok se han viralizado varios vídeos de deepfake protagonizados por Tom Cruise bajo la cuenta de @DeepTomCruise que llegan a acumular más de diez millones de visualizaciones.  Borja Díaz-Merry componente del equipo de verificación de noticias en RTVE, VerificaRTVE. «Para poder detectar si se trata de un video real o un deepfake hay que hacer un análisis a velocidad superreducida, que nosotros lo hicimos con el programa VLC, lo que nos permitió ver fotograma a fotograma el vídeo», explica Borja Díaz. 

Esto les permitió detectar en el minuto 00:03 que las gafas de sol del imitador desaparecen y sus dedos quedaban borrosos.  «Hay que estar atentos a los fallos y en los objetos, porque todos son imprescindibles. Cualquier desajuste puede ser la clave del éxito». 

Borja Díaz dejó un mensaje claro para todos los periodistas «Desde VerificaRTVE insistimos en llamar a las noticias falsas, bulos y no fake news. Por el simple hecho de que es un término que ha nacido para menospreciar el trabajo de los periodistas por parte de los presidentes del gobierno, como Trump». 

Borja Díaz-Merry redactor en VerificaRTVE / VerificaRTVE

La cara positiva del deepfake

Idoia Salazar, presidenta y cofundadora del Observatorio del Impacto Ético y Social de la Inteligencia Artificial (OdiseIA), señalaba que la utilización del deepfake no tiene por qué servir hacía una mala práctica, «pueden resucitar a famosos ya fallecidos, como hizo la cervecera Cruzcampo en un anuncio que revivió a la cantante española Lola Flores durante unos minutos, o ahorrar costes en películas que puedan prescindir de actores reales para las  secuencias más peligrosas». 

Y no solo eso, sino que también supondría un gran avance en el mundo del cine. La mejoría de los doblajes sería, sin lugar a dudas, la eliminación del nerviosismo provocado por el desajuste entre gestos, el movimiento de los labios, la vocalización y la voz. 

¿Se convertirá el deepfake en la nueva cara de la red? Todo en la era digital pasa a ser réplicas del mundo real, llegado el momento, los rostros humanos también han entrado en la lista. Recrear con exactitud y profundidad. Lo intangible se vuelve tangible con esta herramienta. Puede ser una técnica perfecta para el desarrollo de la educación. Las nuevas tecnologías mejoran la calidad de la enseñanza, y a través del deepfake se puede contextualizar un hito histórico con el rostro y la voz del protagonista real. Esta novedosa herramienta de comunicación podría suponer un antes y un después en la asimilación de contenidos por parte del alumnado. Por ejemplo: contar de manera interactiva las hazañas de Julio César aportaría dinamismo e interacción en la clase. 

Deepfake de Lola Flores por Cruzcampo / Cruzcampo

Para Guillermo Fouce, Presidente de Psicología sin Fronteras, «hay que aprender a convivir con estos hechos. No obsesionarse. La clave está en mirarse a uno mismo. No mirarse de manera comparativa. No valorarse por lo que piensen otros. La autoestima defecto-físico es complicada, cuando los trastornos mentales llegan motivados por la absorción de cánones de belleza impuestos en el mundo digital son difíciles de tratar. Puede que el deepfake tenga un componente muy positivo, pero también considero que es un arma muy peligrosa con la que se puede hacer un daño irreversible». 

Los niños nacen con una nueva habilidad, desde pequeños juegan con móviles. Una persona debe tener acceso a las redes sociales cuando tiene la capacidad de controlarlo y de saber en qué se está metiendo. Educar es una parte primordial para que los nativos digitales no caigan en los algoritmos de inteligencia artificial, ya sea deepfake, fake news, etc.  

Un mundo fake en la sociedad digital

Se ha especulado demasiado sobre si el deepfake es una ramificación de las denominadas fakes news. Aunque ambas comparten el mismo camino de generar vidas paralelas en torno a una realidad ficticia, queda evidenciado que el poder de esta nueva ramificación de falsedad puede llegar más lejos que las tradicionales noticias falsas. Borja Díaz-Ferry señalaba que «gran parte de los deepfakes se utilizan para degenerar la imagen de la mujer».

Las mentiras profundas, término al que se refieren los profesores Victor Cerdán y Graciela Padilla, pueden generar vídeos fake donde superponen la imagen de una persona sobre el cuerpo de otra para hacer auténticas barbaridades. El deepfake asociado al porno es un nuevo tipo de violencia contra la mujer, así lo demostró una investigación de la compañía neerlandesa Sensity AI, descubrió que entre el 90% y 95% de los deepfakes son pornografía no consensual. Alrededor del 90% es porno no consentido de mujeres, según la información publicada en Technology Review, la revista del Instituto Tecnológico de Massachussets (MIT). 

Guillermo Fouce, psicólogo / Guillermo Fouce

Guillermo Fouce, Doctor en Psicología y Presidente de Psicología sin Fronteras, señalaba que «desde la psicología en general las redes sociales se abordan como parte de nuestra identidad. algo que tenemos ahí y que manejamos y tocamos. Desde la psicopatología se mira si hay adicción, ansiedad, pérdida de identidad e incluso cambios de identidad». Para el doctor Fouce las redes sociales forjan «relaciones más líquidas», menos profundas a la hora de establecerse. Ante el déficit de salud mental que se está viviendo actualmente, ha provocado que las personas accedan a salir de ese «armario emocional». «Cada vez somos más vulnerables a lo que nos encontramos en la red. Las redes sociales permiten la canalización, cada vez más, de noticias sesgadas e incluso falseadas por nuestra propia voluntad», afirmaba  Guillermo Fouce, psicólogo social. 

La red es anónima. Protege a cualquiera de hacer cosas no éticas. Las redes permiten crear una identidad falsa y difundir lo que uno quiera. El problema de las noticias falsas es que buscan llamar la atención, por eso los perfiles falsos en la red proliferan a sus anchas, difundiendo masivamente desinformación y generando una oleada de infoxicación.