Los asistentes a DEF CON podrán participar en un masterclass sobre deepfakes
Brandon Kovacs demostrará lo avanzadas que están las tecnologías de engaño.
En la próxima conferencia de hackers DEF CON en Las Vegas, los visitantes tendrán una oportunidad única. Brandon Kovacs , especialista senior de la compañía Bishop Fox, mostrará lo fácil que es crear un video deepfake en tiempo real.
La idea del experimento surgió después de un notorio caso de fraude de 25 millones de dólares. En febrero de este año, un financista de Hong Kong fue víctima de un engaño al creer que estaba comunicándose por videoconferencia con el director financiero de su empresa en Londres, cuando en realidad era un deepfake creado por delincuentes.
"Estaba asombrado por los aspectos técnicos de esta estafa y decidí entender cómo funcionaba", compartió Kovacs en una entrevista con The Register.
Para su experimento, Kovacs contó con la colaboración de Alete Denis, cuya imagen es bien conocida en la red debido a sus numerosas entrevistas y presentaciones en conferencias. Utilizando videos y grabaciones de audio públicos con Denis, Kovacs creó su doble digital.
Para generar el deepfake realista se utilizó una cámara profesional DSLR, lentes, iluminación de estudio y software de edición de video.
El resultado fue tan convincente que incluso los hijos de Denis no sospecharon durante una videollamada a través de Microsoft Teams. "Lo llamamos 'la prueba de Turing para deepfakes'", comentó Kovacs.
En DEF CON, Kovacs traerá un compacto "estudio en una caja" — un kit de equipo con pelucas, iluminación y una pantalla verde. Los visitantes podrán participar personalmente en la creación de deepfakes.
"En tiempo real, transformaré a las personas en otros personajes, colocándolos en un entorno de oficina virtual o un ambiente interactivo", explicó Kovacs.
Sin embargo, detrás de la fachada entretenida hay un objetivo serio. Los deepfakes creados servirán como material para probar una nueva herramienta desarrollada por la agencia DARPA como parte del programa Semantic Forensics. Esta herramienta está diseñada para detectar videos falsos.
Will Corvi, jefe del programa de DARPA, explicó que su plataforma, que será presentada en DEF CON, permite analizar videos, audios, imágenes y textos en busca de manipulaciones, identificando su origen.
"Queremos ayudar a las personas a comprender los métodos actuales de este tipo de análisis forense y, a su vez, mejorar nuestras herramientas", explicó Corvi.
Kovacs señaló que para crear deepfakes, los delincuentes podrían utilizar herramientas de acceso público, como DeepFaceLab para entrenar modelos y crear videos falsos, así como el proyecto Retrieval-based Voice Conversion (RVC) de código abierto para asistentes de voz.
No esperes a que los hackers te ataquen: ¡suscríbete a nuestro canal y conviértete en una fortaleza impenetrable!