La IA se sumerge en la clandestinidad: hackers abren un mercado negro de accesos a modelos generativos

Los ciberdelincuentes integran cada vez más la IA en esquemas antiguos, pero por ahora usan la nueva tecnología no solo como herramienta, sino también como producto para vender y para autopromoción. Los especialistas de Sophos analizaron las discusiones en foros clandestinos y en canales de Telegram y concluyeron que la IA generativa se ha convertido en un tema notable en el entorno delictivo, aunque muchas afirmaciones llamativas de los participantes de esas plataformas no están confirmadas.

El principal interés práctico está relacionado con el acceso a servicios populares de IA. En los foros se venden claves de API, cuentas compartidas y acceso intermedio a ChatGPT, Claude, Grok y otros modelos. Ante estas ofertas aparecen rápidamente compradores, y ciertos participantes crean canales para intercambiar instrucciones, prompts y métodos para eludir las restricciones de los modelos públicos.

Parte de las discusiones trata sobre la ingeniería social. Los atacantes consideran la IA como una forma de redactar más rápidamente correos de phishing, mensajes y guiones para llamadas, y también de mantener un estilo de comunicación uniforme en distintos idiomas. En las plataformas clandestinas ya se anuncian bots de voz para estafas telefónicas y servicios para crear personas sintéticas, incluidas imágenes y conversaciones para esquemas románticos.

Un conjunto aparte son las herramientas que los vendedores denominan "IA gestionada" o "IA potenciada". Entre los ejemplos Sophos cita la plataforma Leak Bazaar para analizar datos corporativos robados, la herramienta Apex AI para la supuesta generación de malware y Metatron, un asistente local para probar defensas. Los especialistas subrayan que las capacidades descritas en la mayoría de los casos no han sido verificadas y que parte de los anuncios puede ser marketing.

En los foros también debaten ataques reales con asistencia de asistentes públicos de IA, incluidos reportes sobre el uso de Claude en un ataque a redes gubernamentales mexicanas. Otros participantes afirman que con más frecuencia detectan ayuda de IA en muestras de malware, pero esas observaciones también son afirmaciones de los propios participantes de las plataformas clandestinas.

No obstante, el entorno criminal no percibe la IA de manera unánime. Unos participantes buscan ingenieros de prompts y tratan de integrar modelos en operaciones habituales; otros dudan de la utilidad de la tecnología y temen que la automatización reduzca el valor del trabajo manual. Sophos considera que, por ahora, la IA suele acelerar técnicas ya conocidas más que crear métodos de ataque totalmente nuevos.

Para reducir el riesgo, los especialistas aconsejan no confiar en una sola capa de protección, aplicar actualizaciones a tiempo, activar la autenticación multifactor y las claves de acceso, y también monitorizar los eventos en la infraestructura para detectar actividad inusual antes de que se desarrolle un ataque.