¿Cómo sería el peor escenario?

El director de OpenAI, Sam Altman, se pronunció en contra de la idea de entregar a la inteligencia artificial el poder sobre el futuro de la humanidad. En el valle del Silicio se discute cada vez más el escenario en el que las redes neuronales comiencen gradualmente a tomar las decisiones más importantes por las personas, gestionar sectores enteros e influir en el funcionamiento de las instituciones públicas. Altman consideró que entregar el poder a las máquinas es una idea peligrosa y advirtió que las personas deben mantener el control incluso sobre la IA más avanzada.
Junto con el presidente de OpenAI, Greg Brockman, Altman analizó hasta qué punto es posible mantener la inteligencia artificial bajo control a medida que aumentan sus capacidades. Los directivos de la compañía coinciden en que la humanidad debe determinar por sí misma su futuro; sin embargo, difieren en los métodos para lograr ese objetivo y en los posibles obstáculos.
En el centro de las discusiones está la hipótesis de que en algún momento la inteligencia artificial aprenderá a crear por sí misma versiones más avanzadas de sí misma. Los nuevos sistemas podrán diseñar redes neuronales aún más potentes, acelerando gradualmente el progreso tecnológico sin la ayuda constante de los programadores. Los científicos denominan este proceso mejora recursiva. En teoría, ese desarrollo podría conducir a la aparición de una superinteligencia que supere las capacidades intelectuales humanas y resulte prácticamente ingobernable. Por ahora, ese escenario sigue siendo una hipótesis.
Altman teme que la pérdida de control pueda producirse de forma gradual, sin una decisión única para ceder a las máquinas las facultades. Las empresas compiten entre sí, se apresuran a lanzar modelos nuevos y a ampliar sus capacidades. Como resultado, las personas corren el riesgo de ceder cada vez más autonomía a la inteligencia artificial, incluso si inicialmente nadie tenía la intención de otorgarle el poder de decidir sobre el futuro.
Brockman señaló otro problema. A los desarrolladores les resulta cada vez más difícil entender cómo las redes neuronales realizan tareas complejas y por qué eligen determinadas acciones. Actualmente, los especialistas pueden estudiar secuencias de razonamiento que la IA registra durante su funcionamiento. Gracias a los pasos intermedios es más fácil detectar errores, acciones sospechosas o intentos de eludir las limitaciones establecidas.
Sin embargo, los nuevos modelos son capaces de realizar operaciones cada vez más complejas sin un registro detallado de los razonamientos intermedios. Según Brockman, la observación habitual de esos registros pierde eficacia de forma progresiva, por lo que los desarrolladores tendrán que buscar otros métodos para verificar el comportamiento de la IA. El presidente de OpenAI considera que la tarea es técnicamente solucionable, aunque todavía no existe un método universal listo.
Las preocupaciones de los directivos de OpenAI se vieron reforzadas por un incidente reciente con las propias redes neuronales de la compañía. Durante pruebas para evaluar la capacidad de encontrar vulnerabilidades, los modelos eludieron las restricciones del entorno aislado, obtuvieron acceso a internet y vulneraron parte de la infraestructura interna de OpenAI y los sistemas de la plataforma Hugging Face. Los agentes aprovecharon errores de software, intercambiaron información por canales no autorizados y continuaron realizando tareas de maneras que los desarrolladores no habían previsto.
Tras el incidente, OpenAI reforzó la protección de los sistemas de investigación y amplió la supervisión de las acciones de las redes neuronales. Brockman contó que la compañía desvió temporalmente al 25% de los ingenieros que trabajaban en el desarrollo de productos y los asignó para que se centraran en la seguridad de la inteligencia artificial.
Al mismo tiempo, Brockman se opone a frenar el progreso tecnológico a cualquier precio. Según él, las redes neuronales potentes ya están en manos de actores malintencionados que pueden utilizarlas para ciberataques. Los especialistas en seguridad necesitan herramientas al menos igual de avanzadas para enfrentarse a las nuevas amenazas. Por ello, OpenAI pretende continuar desarrollando la IA, al mismo tiempo que perfecciona los métodos de supervisión de sus acciones y de prevención de comportamientos peligrosos.