Hackers boicotean ChatGPT, Claude y Gemini: el arma digital perfecta resultó ser demasiado "correcta"

Las mismas herramientas de IA que ayudan a empleados de oficina a acelerar tareas rutinarias cada vez con más frecuencia están al servicio de los atacantes —y les funcionan no menos eficazmente. Esto se indica en el tercer informe anual de la empresa ReliaQuest dedicado al uso de la inteligencia artificial en los ciberataques.

La conclusión principal es simple: la IA casi no genera nuevos tipos de ataques, pero hace que los anteriores sean más rápidos, más baratos y menos detectables. Los delincuentes la integran en casi cada fase del ataque —desde la creación de páginas de phishing convincentes hasta la recopilación de credenciales y la escritura de código malicioso.

Un ejemplo mostró cuánto acelera esto el trabajo. Con ayuda de la IA, el llamado web shell, un script malicioso que da control remoto sobre un servidor comprometido, los especialistas desplegaron uno en apenas un minuto. Una persona no es capaz de hacerlo manualmente.

Paralelamente, en plataformas clandestinas creció la oferta de herramientas listas para ataques: desde programas para sustituir rostros en videos hasta paquetes que automatizan un ataque de principio a fin.

Sin embargo, modelos avanzados como Claude, Grok, Gemini y ChatGPT resultan difíciles de manejar para los delincuentes. Las limitaciones integradas contra usos maliciosos interrumpen el ataque a mitad de camino, y no se logra eludirlas de forma consistente, a pesar de la difusión de peticiones diseñadas para sortearlas. Por eso los atacantes recurren a modelos abiertos sin censura —Qwen, Dolphin y Mistral—. Son inferiores en calidad, pero funcionan de forma más predecible y no dependen de un proveedor en la nube que pueda interrumpir la sesión, ya que se ejecutan localmente.

Una táctica específica se basa en la confianza en marcas de IA conocidas. Se convence a los usuarios de instalar una extensión maliciosa o de ejecutar comandos alegando que son ajustes normales. Así actuaron agrupaciones dedicadas a la ingeniería social, a la distribución de malware y a la contratación de falsos trabajadores de TI de Corea del Norte. Los objetivos varían: extorsión, acceso a datos, fraude y apoyo al espionaje.

Según el informe, la defensa por ahora conserva la ventaja. Las limitaciones de los modelos avanzados dificultan a los atacantes, y la defensa basada en IA permite detectar y contener amenazas en cuestión de segundos. Apostar por estos medios ayuda a reducir el riesgo: ganan las organizaciones que ya los han adoptado y los aplican plenamente.