Los bots de IA de Overwatch ya están entre nosotros: espían a las personas

Las fuerzas del orden estadounidenses en las zonas fronterizas con México están gastando cientos de miles de dólares en una tecnología enigmática que aún no ha demostrado su eficacia, basada en la generación de identidades virtuales mediante inteligencia artificial. Estas personalidades digitales se utilizan para comunicarse en mensajería y redes sociales con presuntos infractores de la ley, desde traficantes de personas y drogas hasta usuarios potencialmente sospechosos.

La tecnología es desarrollada por la empresa Massive Blue, con sede en Nueva York, que promociona su producto llamado Overwatch como un “muro cibernético” capaz de infiltrarse en comunidades delictivas y recopilar pruebas. Documentos, contratos y presentaciones internas obtenidos por el medio 404 Media mediante solicitudes de información pública revelan los detalles del funcionamiento de esta herramienta polémica.

El producto de Massive Blue se llama Overwatch y se presenta como un “potenciador de seguridad pública basado en IA”. En los materiales oficiales se afirma que la tecnología “despliega agentes virtuales realistas capaces de infiltrarse en redes delictivas a través de diversos canales digitales”. En la práctica, se crean personajes ficticios con biografía y apariencia plausibles, capaces de entablar conversaciones con el objetivo de identificar sospechosos.

Esquema de funcionamiento de las soluciones de Massive Blue

Entre los escenarios de uso declarados se encuentran la lucha contra la trata de personas, la seguridad escolar y la protección fronteriza. Sin embargo, hasta el verano de 2024 no se había confirmado ningún arresto como resultado del uso de Overwatch.

El condado de Pinal, en Arizona, firmó un contrato con Massive Blue por un monto de 360.000 dólares, financiado mediante una subvención del Departamento de Seguridad Pública del estado, destinada a combatir la trata de personas. Según informes del departamento de adquisiciones del condado, se trata de una vigilancia ininterrumpida del espacio digital y del despliegue de hasta 50 personajes virtuales en tres líneas de investigación. Otro condado, Yuma, llevó a cabo un breve piloto en 2023 por 10.000 dólares, pero decidió no continuar la colaboración tras considerar que la tecnología era ineficaz.

En reuniones del consejo de supervisores de Pinal, los representantes del sheriff se negaron a explicar cómo funciona exactamente Overwatch. Un subcomisario alegó que divulgar esa información podría “dar pistas a los delincuentes sobre qué evitar”.

Las presentaciones internas de Massive Blue muestran ejemplos de agentes digitales:

• Activista radicalizada: mujer de 36 años, divorciada, interesada en repostería, el movimiento de aceptación corporal y el activismo.

• Honeypot: mujer de 25 años, originaria de Dearborn (Míchigan), de ascendencia yemení, activa en Telegram, Signal y otras aplicaciones.
• Jason: niño de 14 años, hijo de inmigrantes ecuatorianos, aficionado al anime y que oculta su presencia en Discord a sus padres.
• Clip, el proxeneta de IA: interactúa con trabajadoras sexuales virtuales o reales usando jerga callejera.

Los personajes generados por IA utilizan imágenes creadas artificialmente, textos simulados e incluso supuestas “pruebas de vida”: fotos con inscripciones que imitan imágenes reales de víctimas.

Overwatch monitoriza redes sociales para identificar posibles sospechosos, tras lo cual los agentes virtuales inician conversaciones con ellos. La IA también emplea datos de telecomunicaciones, geolocalización y análisis de blockchain: rastrea monederos de criptomonedas, transacciones e incluso posibles intercambios off-ramp.

Ejemplo de conversación entre un agente virtual y un sospechoso

Uno de los correos promocionales de Massive Blue afirma que en solo 24 horas, el sistema identificó 3.266 presuntos traficantes de personas en Dallas, Houston y Austin, de los cuales el 25% supuestamente tenía vínculos con organizaciones criminales importantes. Sin embargo, 404 Media no pudo verificar si estos datos eran precisos ni si dieron lugar a procedimientos penales reales.

A pesar de la ausencia de arrestos, Massive Blue recibió la aprobación del condado de Pinal en junio de 2024. Sin embargo, en el consejo del condado se expresó escepticismo público hacia el proyecto, señalando que el sitio web de la empresa consiste en una sola página sin información de contacto. Un miembro del consejo subrayó que “no se puede gastar medio millón de dólares a ciegas en una tecnología no probada bajo el pretexto de combatir la trata”.

Organizaciones de derechos civiles, como Electronic Frontier Foundation, consideran peligrosa esta práctica, ya que la tecnología apunta a “objetivos mal definidos” y podría convertirse en una herramienta de represión y vigilancia. También causa preocupación que la tecnología sea promovida activamente por exempleados de aduanas y fronteras que ahora trabajan en Massive Blue. Uno de ellos denomina Overwatch como un “muro cibernético” y aparece en público con políticos vinculados a la administración Trump, como Tulsi Gabbard y Robert F. Kennedy Jr.