Los "deepfake"

Este momento de inteligencia artificial y realidad virtual, de multimedia y redes sociales, sabemos que tenemos a la mano un mundo de muchas ventajas y cosas positivas; pero también debemos saber que, como todo avance tecnológico y social, ese mendo tiene también cosas negativas. Una de ellas es lo que ahora se llama "deepfake". Un deepfake (o "falsedad profunda") es un tipo de contenido multimedia, como un vídeo, una imagen o un audio, que ha sido manipulado mediante inteligencia artificial (IA) para que parezca que alguien dice o hace algo que nunca dijo o hizo. Se crea utilizando técnicas de aprendizaje profundo, que permiten a los algoritmos informáticos aprender a crear imágenes y sonidos realistas a partir de grandes conjuntos de datos compilados.

Esto es tremendo, porque los deepfakes terminan siendo muy convincentes y pueden emplearse para crear todo tipo de contenido no verídico, desde noticias falsas hasta vídeos de propaganda. Esto los convierte en una herramienta potencialmente peligrosa que puede utilizarse para engañar a la gente y difundir información errónea. Pongo aquí algunos ejemplos de cómo se pueden usar los deepfakes:

• Crear noticias falsas: se puede utilizar un deepfake para hacer que parezca que un personaje está diciendo algo que nunca dijo, o para crear un vídeo falso de un evento noticioso. Aquí la descontextualización es clave.
• Difundir propaganda: es muy usual crear un vídeo que promueva una agenda política o ideológica en particular, pero con fuentes falsas.
• Dañar la reputación de alguien: es posible usar un deepfake para crear un vídeo que haga parecer que alguien está haciendo algo vergonzoso o ilegal.
• Cometer fraude: esto es tremendo, porque se puede hacer un deepfake para crear una voz falsa que se utilice para autorizar transacciones financieras o acceder a información confidencial.

Sabiendo esto, es importante estar consciente de los peligros que esta modalidad presenta y saber cómo identificar estas "mentiras profundas". Hay algunas recomendaciones: prestar atención a la calidad del vídeo o audio, porque normalmente los deepfakes tienen una calidad inferior a la de los vídeos o audios reales. Buscar inconsistencias y prestar atención a cualquier cosa que parezca fuera de lugar, como movimientos faciales extraños o sincronización labial. Es clave comprobar la fuente y asegurarse de que el vídeo o audio proviene de una fuente fiable. Y finalmente, ser escéptico; si algo parece demasiado bueno o demasiado extraño para ser verdad, probablemente no lo sea.

Recordemos que la tecnología detrás de estos deepfake todavía está en desarrollo, y se está volviendo cada vez más difícil detectar aquellos de alta calidad. Por lo tanto, es importante ser más crítico que nunca con la información que se consume en línea.