Si se lo pides por favor, Claude lo hará: un hacker manipuló la IA para robar 150 GB de datos

Un atacante desconocido utilizó chatbot Claude de la empresa Anthropic para atacar a estructuras gubernamentales de México y, finalmente, robó alrededor de 150 GB de datos. Según la investigación, a la red podrían haberse filtrado datos fiscales, credenciales del personal y otra información interna.

Sobre lo ocurrido, informó la agencia Bloomberg, citando a Gambit Security. Según la empresa, los ataques comenzaron en diciembre y duraron aproximadamente un mes. El hacker utilizó Claude para buscar vulnerabilidades en redes gubernamentales, escribir scripts para su explotación y planear la automatización del robo de datos.

Al principio el chatbot se negaba a ejecutar solicitudes maliciosas, pero el atacante logró eludir las limitaciones integradas mediante formulaciones específicas. Como resultado, Claude preparó miles de informes detallados con planes listos para ejecutar. En ellos, según Gambit Security, se señalaban objetivos internos concretos y credenciales que debían usarse para avanzar más dentro de la red.

Anthropic declaró que verificó la información, detuvo la actividad y bloqueó todas las cuentas relacionadas. Un portavoz de la empresa añadió que el nuevo modelo Claude Opus 4.6 recibió herramientas adicionales que deberían dificultar este tipo de abusos.

Paralelamente, el atacante, según se afirma, también recurrió a la ayuda de ChatGPT de OpenAI. Con su ayuda recopiló información sobre cómo moverse dentro de redes informáticas, qué credenciales son necesarias para acceder a sistemas y cómo reducir el riesgo de detección. En OpenAI informaron que detectaron intentos de violar las normas de uso del servicio y que las herramientas se negaron a ejecutar esas solicitudes.

La identidad del atacante aún no se ha establecido. Los ataques no se han vinculado a un grupo concreto; sin embargo, Gambit Security admitió que podría haber detrás un Estado extranjero. No está claro para qué se planea usar los datos robados.

La Agencia Digital Nacional de México no comentó públicamente el incidente, limitándose a declarar la prioridad de la ciberseguridad. Las autoridades del estado de Jalisco sostienen que su infraestructura no resultó afectada y que se trata únicamente de redes federales. Por su parte, el Instituto Nacional Electoral de México también declaró que en los últimos meses no ha registrado intrusiones ni accesos no autorizados.

Durante su propio análisis, los especialistas de Gambit Security encontraron al menos 20 vulnerabilidades en sistemas sobre los que es poco probable que se quiera hacer pública la información. Este no es el primer caso en el que Claude aparece en grandes ataques. El año pasado hackers de China lograron forzar al sistema a participar en intentos de intrusión en decenas de objetivos en todo el mundo, y parte de ellos resultó exitosa. En ese contexto, la renuncia de Anthropic a su anterior compromiso público de no entrenar nuevos sistemas sin garantía de medidas de seguridad suficientes resulta especialmente polémica.