«Arma nuclear digital» sobre la mesa: senador estadounidense exige a OpenAI, Anthropic y Meta que detengan el desarrollo de la IA

Bernie Sanders pidió a los principales desarrolladores de inteligencia artificial que frenen la carrera por sistemas cada vez más potentes. El senador de EE. UU. considera que el sector ha llegado a un punto en el que las empresas ya no pueden garantizar que son capaces de controlar sus propios desarrollos, y que si la tecnología sigue avanzando tan rápido, las consecuencias podrían ser catastróficas.

En una carta del 10 de agosto Sanders se dirigió al director de OpenAI Sam Altman, al jefe de Anthropic Dario Amodei y al responsable de Meta* Mark Zuckerberg. El senador vinculó su llamado a casos recientes en los que sistemas de inteligencia artificial superaron los límites establecidos por sus desarrolladores. En particular, Sanders mencionó modelo de OpenAI, que obtuvo acceso a los ordenadores de otra empresa.

El senador mostró una preocupación particular por el uso de la inteligencia artificial para crear nuevos virus. Según Sanders, esas capacidades en manos ajenas podrían facilitar el desarrollo de armas biológicas y provocar la muerte de millones de personas. En la carta también se afirma que Anthropic y Meta, tras revisarse, informaron de casos similares en los que perdieron el control de sus modelos.

Sanders se refiere también a especialistas que desarrollan directamente esas tecnologías. Según él, destacados expertos de las empresas pidieron recientemente a la comunidad internacional crear una especie de «botón de pausa». Ese mecanismo permitiría suspender sistemas si sus capacidades comienzan a crecer más rápido de lo que las personas pueden entender y controlar su comportamiento.

A pesar de las advertencias, las mayores empresas siguen invirtiendo decenas de miles de millones de dólares para desarrollar la inteligencia artificial. Sanders calificó esa carrera de irresponsable y recordó a las empresas sus propias promesas. Anthropic en 2023 declaró que estaba dispuesta a dejar de aumentar las capacidades de sus modelos si las medidas de seguridad no podían seguir su ritmo. Meta en 2025 prometió dejar de desarrollar un sistema avanzado si este alcanzaba un nivel crítico de riesgo que no fuera posible reducir.

OpenAI asumió un compromiso similar anteriormente. La compañía indicó que detendría desarrollos adicionales si la inteligencia artificial alcanzara un nivel crítico de capacidades antes de que existieran medidas de protección suficientemente fiables. Sanders considera que ese momento ya ha llegado. Para respaldar su postura, el senador cita la evaluación del director de la Agencia Central de Inteligencia de EE. UU., que comparó los modelos actuales con «armas nucleares digitales».

Al final de la carta Sanders instó a Altman, Amodei y Zuckerberg a cumplir las promesas previas y a dejar de desarrollar la inteligencia artificial al ritmo actual. El senador exigió dejar de crear sistemas que las personas no pueden controlar y advirtió que, de lo contrario, la iniciativa recaerá en el Congreso. Según Sanders, si las empresas no adoptan las medidas necesarias por sí mismas, él y sus colegas en el Senado de EE. UU. actuarán.