El deepfake, qué es y cómo detectarlo

Hace mucho tiempo el dicho popular estableció que “una imagen vale más que mil palabras”. Al parecer esa creencia dejará muy pronto de tener sentido, si no es que ya no lo tiene. Desde 2017 en la Internet puedes encontrar imágenes conocidas como deepfake. Pero ¿qué son? ¿Representan algún peligro? ¿Es posible detectarlos?

Un deepfake o ultrafalso es un vídeo que se crea mediante el uso de inteligencia artificial. En este material un programa reemplaza la cara de una persona por otra con gran precisión. La tecnología usa un algoritmo que estudia los rostros de decenas de fotografías y videos tomadas desde distintos ángulos. Con los datos el software recrea la imagen, simulando gestos y voz de una persona sobre la de otra.

Si bien es cierto que no es una tecnología inherentemente perniciosa, sus orígenes han demostrado el peligro que conllevan. Los deepfake surgieron en 2017 cuando un usuario de Reddit, que utilizaba ese nombre, subió pornovídeos utilizando el rostro de personalidades famosas, como Taylor Swift o Gal Gadot.

Uno de los peligros del deepfake es el fácil acceso a la tecnología. No se requiere de un genio informático para crear material muy verosímil. Basta con tener un teléfono inteligente.

Adam Dodge, abogado y fundador de la empresa de seguridad en línea EndTab, declaró a Reuters que una vez que el punto de entrada es tan bajo que no requiere ningún esfuerzo. «Una persona poco hábil puede crear un video pornográfico ultrafalso, muy sofisticado y no consentido, estamos en el punto de inflexión”, alertó.

En solo cuatro años la tecnología del ultrafalso ha avanzado tanto que los expertos señalan que un deepfake puede llegar a ser indetectable para una persona normal

Ser o parecer, peligros reales del deepfake

Idoia Salazar, presidenta y cofundadora del Observatorio del Impacto Ético y Social de la Inteligencia Artificial (OdiseIA) advirtió que «el nivel de alarma ahora mismo debe de ser elevado. «En cuanto a la desinformación, los deepfakes pueden ser tremendamente peligrosos», asentó.

Salazar explicó que al ver algo escrito una persona puede percibir, por ciertas características, que es un contenido alterado. Pero cuando una persona ve una imagen que se mueve y se expresa con naturalidad «se lo va a creer casi seguro», dijo.

Cómo reconocerlo

Detectar un deepfake no es sencillo. Sin embargo, no es imposible. El truco está en los detalles. El experto en ciberseguridad Juan David Cardona explicó que una de las primeras cosas que se debe hacer es fijarse en la gesticulación de la persona que aparece en el vídeo. En los «deepfakes» siempre va a haber retrasos en los fotogramas o en la voz. Técnicamente se conoce como delay. También puede haber movimientos en los que se desplace la imagen sobrepuesta, señaló.

Los bordes de las imágenes son aliados al tratar de detectar un ultrafalso. Son especialmente visibles cuando están cerca de la ropa, el pelo o las joyas. Los detalles como pendientes, gafas e incluso los dientes son difíciles de lograr para los algoritmos. En un deepfake las líneas que definen esos elementos estarán borrosos. Igualmente, los fondos serán poco nítidos.

Por último, Cardona recomienda estar atentos al origen del material ¿La procedencia del material es confiable, es reconocida? Si no es así hay que contrastar en fuentes más establecidas.

Lea también en Cambio16.com:

Suscríbete y apóyanos «Por un mundo más humano, justo y regenerativo»

Gracias por leer Cambio16. Vuestra suscripción no solo proporcionará noticias precisas y veraces, sino que también contribuirá al resurgimiento del periodismo en España para la transformación de la conciencia y de la sociedad mediante el crecimiento personal, la defensa de las libertades, las democracias, la justicia social, la conservación del medio ambiente y la biodiversidad.

Dado que nuestros ingresos operativos se ven sometidos a una gran presión, su apoyo puede ayudarnos a llevar a cabo el importante trabajo que hacemos. Si puedes, apoya a Cambio16 ¡Gracias por tu aportación!