deepfake

Fake News Vs Deepfake

Hemos oído hablar mucho de las fake news. Las fake news son noticias falsas generadas con el objetivo de ganar unos cuantos clicks/ visitas extra o dañar la imagen de alguien.

Pero..¿Qué es eso del deepfake o falsedad profunda?

El deepfake va un paso más allá de las noticias. Consiste en crear vídeos o audios falsos a partir de algoritmos de inteligencia artificial (deep learning). Mediante  una técnica de aprendizaje automático (GAN) se usan datos reales para aprender a producir versiones falsas. El objetivo es siempre el mismo, manipular un vídeo sin que el destinatario final pueda percibirlo. Por ejemplo, poniendo la cara de otra persona.

Cualquiera puede ser víctima del deepfake

Probablemente una de las víctimas más famosas del deepfake sea Barack Obama. Hace ya unos años, en 2016, se hacía viral un vídeo en el que Braack Obama, supuestamente, afirmaba que el presidente Trump era un total y completo idiota. Declaraciones que, a priori, no parecían muy propias del ex presidente estadounidense. Efectivamente, se comprobó después que el vídeo no era real. Se trataba de un experimento realizado por investigadores de la Universidad de Washington con el que trataban de demostrar el peligro del deepfake.

¿Cuál es la clave del deepfake?

La clave de este tipo de engaño es sincronizar un determinado audio con los movimientos de la boca de la persona. Las posibles discrepancias que pueda haber son mínimas pero, a veces, pueden llegar a detectarse. Prestando atención podemos identificar momentos en que el audio y los movimiento no encajan a la perfección, o bien la tonalidad de la piel de la persona que aparece en el vídeo es sospechosa o no parpadea o lo hace de manera poco natural.

¿Cuál es el riesgo? ¿Cuál puede llegar a ser su alcance?

Dada la cantidad de información a la que estamos expuestos y la facilidad con que las redes sociales pueden hacernos creer que algo falso es real, debemos tener especial cuidado con la información que publicamos en Internet. A nivel personal puede ocasionarnos perjuicio pero  llevado a ámbitos tan delicados como la política o la economía puede suponer una gran amenaza. En manos de la persona inadecuada, el deepfake puede ser realmente peligroso. Imaginemos, por ejemplo, el efecto que podría tener en un proceso electoral o entre países ya de por sí enfrentados.

¿Es posible detectarlo?

Sí, la misma tecnología utilizada para crearlos es la que mejor puede ayudarnos a detectarlos. Mediante la Inteligencia Artificial (IA) podemos aplicar el deep learning para detectar de forma automática casos de deepfake. Cuanto más evoluciona un falsificador, más lo hace también su capacidad para detectar dichas falsificaciones. Pensar que podemos poner cualquier palabra en la boca de cualquier persona, nos da una idea de la magnitud del riesgo que el deepfake supone. ¿Qué pasaría en un mundo en el que se desdibujara la línea entre lo real y lo falso y no pudiéramos fiarnos de la información?. 

¿Pasaría lo mismo con RITech, la tecnología de aislamiento web de Randed?

Síguenos en Twitter y LinkedIn para estar al tanto de las últimas actualizaciones. ¡Recuerda que puedes suscribirte a nuestro blog!