Deepfakes of Elon Musk: A New Investment Scam

Los especialistas de Palo Alto Networks descubrieron una red de campañas fraudulentas que utilizan deepfakes de personas famosas para engañar a los usuarios y robar fondos.

Las campañas se difunden en varios idiomas, incluidos inglés, español, francés, italiano, turco, checo y ruso. Cada campaña está dirigida a países específicos, como Canadá, México, Francia, Italia, Turquía, Chequia, Singapur, Kazajistán y Uzbekistán.

La mayoría de estas campañas probablemente están organizadas por el mismo grupo de delincuentes. Los videos con deepfakes se utilizan para promover esquemas de inversión fraudulentos y falsos sorteos de dinero, supuestamente del gobierno. Hasta junio de 2024, se habían identificado cientos de dominios para la promoción de estas campañas. El promedio de tráfico en cada dominio alcanzaba las 114,000 visitas a nivel global.

Inicialmente, los investigadores se centraron en una campaña que promovía un esquema de inversión llamado Quantum AI. Al analizar la infraestructura relacionada con la campaña, los especialistas descubrieron otras redes fraudulentas que utilizaban métodos similares, pero dirigidas a diferentes audiencias, según el idioma y las figuras públicas involucradas.

La investigación sobre Quantum AI mostró que los delincuentes usan nuevos dominios para alojar videos e involucrar a las víctimas en sus esquemas fraudulentos. En la mayoría de los casos, comenzaban con un video legítimo, superponiendo una pista de audio generada por IA y utilizando tecnologías de sincronización de labios (lip-sync) para crear videos más convincentes. Los ciberdelincuentes recurren con mayor frecuencia a deepfakes con la imagen de Elon Musk, aunque también se han encontrado casos en los que se utilizan otras figuras públicas, como Tucker Carlson, o el ex primer ministro de Singapur, Lee Hsien Loong.

En mayo de 2024, los investigadores notaron que el número de dominios relacionados con Quantum AI aumentó significativamente, lo que indica una expansión de la campaña. Además, los estafadores comenzaron a trasladar sus videos a otros dominios para evitar el bloqueo.

El uso de tecnologías de deepfake en estafas y ataques de phishing es un fenómeno cada vez más común, representando una amenaza seria para los usuarios. Es importante destacar que, a pesar de las dificultades asociadas con la identificación de la fuente de tales ataques, el uso de métodos tradicionales de investigación combinado con las tecnologías más avanzadas sigue siendo un aspecto crucial para la protección contra ciberamenazas.