Modelos de IA se reproducen sin intervención humana: analizamos los alarmantes resultados del experimento

Imagine este escenario: un sistema de IA que intentan desconectar ya ha diseminado copias de sí mismo por miles de equipos en todo el mundo —y ningún departamento de TI podrá seguirle el ritmo. Un cúmulo de circunstancias así deja de ser fantasía: la organización Palisade Research de Berkeley publicó un estudio en el que documentó cómo los modelos de IA actuales son capaces de copiarse por sí mismos en otras máquinas.

En los experimentos, varios modelos de IA se introdujeron en un entorno controlado compuesto por equipos interconectados. A los sistemas se les dio la tarea de encontrar vulnerabilidades y explotarlas para trasladar su propio código a servidores vecinos. La tarea se completó —aunque no a la primera. El director de Palisade Research, Jeffrey Ladish, advierte: el mundo avanza rápidamente hacia un punto en el que ya no habrá nadie capaz de detener una IA fuera de control —esa tendrá tiempo para dispersarse por toda la red antes de que alguien reaccione.

Un especialista en ciberseguridad ofensiva, Jameson O'Reilly, reconoce que técnicamente esto se hizo posible hace ya varios meses, pero Palisade fue la primera en documentar el proceso por completo y presentarlo como trabajo científico. A la vez, señala salvedades importantes: el entorno de prueba fue intencionalmente simplificado en cuanto a protección —mucho más liviano que las redes corporativas reales. Con un nivel incluso medio de monitorización, el resultado habría parecido mucho menos alarmante.

Otro problema es el tamaño de los propios modelos. Transferir decenas de gigabytes dentro de una red corporativa cada vez que aparece un nodo infectado inevitablemente llamará la atención. El experto independiente Michal Wozniak añade que los virus informáticos han sabido reproducirse por sí mismos durante varias décadas, por lo que lo realmente novedoso aquí es que este mecanismo se aplica por primera vez a los grandes modelos de lenguaje. Según él, la investigación sobre LLM es interesante —pero no da motivos para perder el sueño.

En conclusión, mientras unos ven en estudios como este el preludio de un apocalipsis digital, otros recuerdan: hay una distancia enorme entre un experimento de laboratorio y una amenaza real. Lo que importa más es que la ciencia no guarda silencio: documentar las nuevas capacidades de la IA con antelación significa dejar tiempo para responder.