El ejército invisible de EE. UU.: soldados virtuales listos para invadir las redes sociales

El Comando de Operaciones Especiales de EE. UU. (SOC) está interesado en la creación de deepfakes: usuarios falsos de internet que no puedan ser detectados ni por personas ni por algoritmos. Según un documento en poder del medio The Intercept, el desarrollo de estas tecnologías es necesario para llevar a cabo misiones militares secretas.

En la lista de requisitos del Pentágono se solicita la creación de identidades virtuales convincentes para redes sociales y otras plataformas en línea. El Comando está interesado en desarrollar perfiles que se perciban como personas reales, con fotografías, expresiones emocionales y fondos únicos que cumplan con los estándares de calidad de documentos oficiales.

El plan incluye no solo el uso de imágenes estáticas, sino también videos. Los usuarios falsos creados deberán generar “videos selfie” con entornos realistas, imposibles de detectar por los algoritmos de las redes sociales. Se espera que estas identidades falsas ayuden a recopilar información en foros públicos y participen en operaciones de influencia informativa.

Las tecnologías que busca el Pentágono incluyen algoritmos como StyleGAN de Nvidia, que permite identificar imágenes deepfake. En 2019, este algoritmo fue la base del sitio This Person Does Not Exist , y al año siguiente Facebook* bloqueó cuentas que usaban estos métodos para generar imágenes falsas.

A pesar del objetivo de EE. UU. de limitar la difusión de datos falsos en el extranjero, el interés en estas tecnologías ha generado preocupación. Anteriormente, la NSA, el FBI y CISA advirtieron sobre la creciente amenaza de los medios falsificados, calificándolos como uno de los mayores problemas de 2023. Agentes de inteligencia estadounidenses expresaron su preocupación por el uso de estas herramientas por parte de China e Irán para la manipulación y desinformación.

El uso de deepfakes por parte de los militares estadounidenses podría normalizar su empleo por otros países, lo que escalaría las guerras de información. Según expertos, estas tecnologías son difíciles de utilizar con fines distintos al engaño, poniendo en riesgo tanto la confianza internacional como la estabilidad interna.

* Meta y sus productos están catalogados como extremistas y su actividad está prohibida en Rusia.