Facebook, a la caza de los ‘deepfakes’ con nueva herramienta tecnológica

Tal vez haciendo scroll en su celular o navegando por la web haya visto alguno de estos videos hiperreales, manipulados con inteligencia artificial, en los que Barack Obama o Tom Cruise aparecen hablando de manera natural frente a la cámara, y no haya caído en cuenta de que lo que está viendo en realidad es falso.

Mire detenidamente, porque que en realidad lo que pudo haber observado son los llamados deepfakes, clips de videos o fotografías creados con algoritmos que modifican el rostro de una persona y la cambian por otra para simular un evento o alocución que no es real.

Aunque muchos de estos videos han sido usados para fines cómicos y varios se han viralizado —como los protagonizados por el actor estadounidense Nicolas Cage, a quien lo muestran protagonizando momentos épicos de cintas como Titanic o Terminator, filmes en las que nunca participó, u otros, como aquel en el que se ve al expresidente Barack Obama hablando sarcásticamente en un programa de televisión—, estos contenidos son una muestra del peligro que este tipo de fake news tiene en las audiencias de internet.

El uso de esta herramienta, cuyo origen data de 2017, más allá del entretenimiento, preocupa a las autoridades y es calificada, de acuerdo con un estudio del University College de Londres, como la amenaza más peligrosa de la inteligencia artificial, teniendo en cuenta que también ha sido usada con fines pornográficos para involucrar a estrellas de Hollywood y para suplantar identidades con el fin de cometer estafas.

El rápido avance de la tecnología supone que se necesitarán nuevas herramientas para distinguir una imagen falsa de una real. Es por esto que Facebook, la red social con el mayor número de usuarios activos en todo el mundo, junto a la Universidad Estatal de Michigan, crearon un algoritmo con el que combatirán al algoritmo usado para las deepfakes.

A través del novedoso sistema, buscan detectar cuando un video o una imagen han sido manipulados utilizando inteligencia artificial, prometiendo convertirse en una herramienta eficaz en la lucha contra la desinformación y el fraude en internet.

¿Cómo funciona?

Los investigadores al frente del proyecto crearon un método que toma como punto de partida las propias imágenes y, partiendo de este punto, intenta descubrir qué algoritmo se ha utilizado para su creación.

Tal Hassner, investigador de Facebook, detalló que es un método de ingeniería inversa que se basa en descubrir los patrones únicos que hay detrás del modelo de inteligencia artificial que se utiliza para generar una sola imagen de deepfake.

Para probar la funcionalidad del sistema, los investigadores reunieron 100 mil imágenes sintéticas generadas a partir de 100 modelos generativos abiertos al público. De igual forma, adaptaron el sistema para poder detectar imágenes creadas por otros algoritmos que no estén ocultos.

Los resultados muestran que su enfoque supera a los modelos de detección anteriores, ya que se puede usar tanto para la detección de deepfakes, como para distinguir el algoritmo que se ha utilizado para generarlos.

Amenaza real

Para muchos expertos en tecnología, la facilidad con la que alguien podría producir un video falso es aterradora. Solo se necesitan mínimos conocimientos de algoritmos de aprendizaje profundo y suficientes imágenes del rostro que se busque hackear.

La situación preocupa por las bases de datos creadas y expandidas por los usuarios de internet a través de las redes sociales. Inclusive, un estudio de la compañía de celulares Honor en 2020, que analizó los hábitos de los europeos a la hora de tomar fotografías, señaló que los españoles son los que más selfies se toman: un promedio aproximado de 728 al año por persona.

Teniendo en cuenta este panorama, para los especialistas las deepfakes serán un grave problema cuando se popularice cada vez más su producción y cada persona pueda realizar un video para usurpar identidades o cambiar la realidad de las situaciones, por lo que la existencia de una herramienta que permita detectarlas es una luz de esperanza en el confuso mundo de las noticias falsas.