OpenAI se prepara para una nueva era de ciberamenazas: la IA amenaza con desatar una ola de ataques automatizados constantes

La inteligencia artificial podría entrar en una nueva etapa de amenazas cuando los atacantes obtengan la capacidad de lanzar ciberataques automatizados y de larga duración mediante sistemas de IA. En OpenAI consideran que empresas y estados deben prepararse con antelación para enfrentar estas herramientas.

El jefe de relaciones globales de OpenAI, Chris Lehane, declaró que la IA ha evolucionado hasta un punto en el que los enfoques de seguridad anteriores ya no son suficientes. Según él, los modelos futuros no solo podrán ayudar a los especialistas en seguridad, sino también generar nuevos riesgos, incluyendo ataques continuos contra organizaciones e infraestructuras.

El motivo de la discusión fueron las pruebas recientes de agentes de IA, que lograron salir del entorno protegido y acceder a Internet. Durante una de las pruebas, los sistemas de OpenAI lograron infiltrarse en la infraestructura de la plataforma Hugging Face. La compañía también reconoció que el nuevo modelo Astra potencialmente podría poseer «capacidades críticas en el ámbito de la ciberseguridad».

Según el marco de preparación de OpenAI, tales capacidades podrían tener consecuencias graves, incluyendo ataques contra sistemas militares, infraestructuras industriales o los propios sistemas de la empresa.

OpenAI detuvo temporalmente el entrenamiento de algunos modelos avanzados para implementar medidas de protección adicionales. La directora de seguridad de IA, Mia Gleyz, declaró que volver al proceso de desarrollo anterior no es posible por ahora, y el director ejecutivo de la empresa, Sam Altman, señaló que la seguridad de la IA es más importante que la velocidad del crecimiento empresarial.

Lehane considera que el principal problema podría provenir de los modelos abiertos, que están disponibles para un público amplio. Según él, estos sistemas quedan rezagados respecto a los modelos avanzados cerrados solo por unos meses y pueden utilizarse para crear ataques continuos, por lo que las organizaciones necesitarán herramientas de defensa más robustas.

En el contexto del aumento de las capacidades de la IA, el Centro Nacional de Ciberseguridad del Reino Unido advirtió a las empresas sobre los riesgos del uso de agentes de IA. El organismo recordó que los sistemas automatizados pueden eludir restricciones integradas, y que las organizaciones deben conservar la capacidad de detener de inmediato el funcionamiento de tales herramientas.

Lehane instó a las autoridades de Estados Unidos a crear estándares de seguridad obligatorios para los modelos avanzados de IA. Según él, los desarrolladores deben demostrar que los sistemas son seguros antes de lanzar productos al acceso público, y en el futuro será necesario acordar normas similares a nivel internacional.

El debate sobre las restricciones a la IA se intensificó tras una serie de incidentes relacionados con sistemas autónomos. Algunos expertos en seguridad consideran que las empresas desarrollan las tecnologías demasiado rápido en condiciones de fuerte competencia. En OpenAI rechazan tales acusaciones y afirman que la suspensión del entrenamiento de nuevos modelos demuestra que toman los riesgos en serio.