EE. UU. y China preparan un canal directo de comunicación sobre la IA

Washington propuso a Pekín crear un canal especial para el intercambio urgente de información sobre incidentes peligrosos relacionados con la inteligencia artificial. Si los líderes de ambos países aprueban el mecanismo, EE. UU. y China tendrían una especie de «teléfono rojo» para la IA, que debería ayudar a evitar una escalada provocada por las acciones de sistemas autónomos.

La iniciativa fue presentada por el secretario del Tesoro de EE. UU., Scott Bessent, el 20 de septiembre durante las negociaciones con el vicepresidente del Consejo de Estado de la RPC, He Lifeng, en Nueva York. Las partes discutieron el lanzamiento de un diálogo separado entre Estados Unidos y China sobre IA y un sistema de notificaciones sobre incidentes que podrían afectar la seguridad nacional. La posibilidad de crear dicho canal separado entre Washington y Pekín se ha venido discutiendo durante varias semanas.

Bessent explicó la idea con el deseo de hacer más transparentes las relaciones entre los dos mayores centros de desarrollo de IA. La lista concreta de eventos tras los cuales los países deberían comunicarse entre sí aún no se ha publicado. Se supone que el mecanismo abarcará amenazas generales y situaciones de emergencia relacionadas con los sistemas de IA más potentes.

La parte china aún no ha confirmado su acuerdo con la propuesta estadounidense. En el comunicado oficial sobre los resultados de la reunión solo se menciona un diálogo sobre cuestiones de inteligencia artificial. Pekín no reveló detalles sobre el sistema de notificaciones de emergencia. En el contexto de las negociaciones, especialistas de ambos países ya proponen establecer líneas rojas para la IA, especialmente en sistemas vinculados al mando nuclear y a la infraestructura militar.

El representante comercial de EE. UU., Jamison Greer, aclaró que las restricciones estadounidenses sobre la exportación de chips de IA avanzados y de equipos para la fabricación de semiconductores no formaron parte de la discusión sobre el nuevo mecanismo. Washington considera el canal ante todo como una herramienta para la gestión de riesgos, y no como un foro para negociar restricciones tecnológicas.

La propuesta debe ser examinada por los presidentes Donald Trump y Xi Jinping en la reunión en Washington del 24–25 de septiembre. Además de la IA, las negociaciones abordan aranceles comerciales, inversiones y el suministro de minerales críticos. Los detalles del mecanismo de notificaciones propuesto siguen siendo objeto de discusión, por lo que aún no se ha creado un canal bilateral completo.

La necesidad de dicho canal dejó de parecer exclusivamente teórica. Un caso reciente en las fuerzas armadas estadounidenses mostró cómo un error de IA en un informe de inteligencia casi provocó una operación contra un buque chino. Las fuerzas armadas llegaron a poner aviones en alerta y a iniciar los preparativos para un desembarco, antes de que una verificación adicional detectara la conclusión errónea del chatbot.

Al mismo tiempo, en EE. UU. se discute un control más estricto sobre los modelos más potentes. Una de las opciones prevé el derecho de las autoridades a detener la publicación del sistema si la evaluación detecta un riesgo inaceptable de uso de la IA para ciberataques, la creación de armas biológicas o nucleares.

El diálogo entre Estados Unidos y China se desarrolla en el contexto de una competencia tecnológica sostenida. Washington teme quedarse rezagado respecto a Pekín y, al mismo tiempo, intenta reducir los riesgos que surgen a medida que aumentan las capacidades de los sistemas autónomos. Declaraciones recientes de la Casa Blanca han mostrado que EE. UU. aún no está dispuesto a frenar la carrera de la IA, por lo que un canal de comunicación directo podría convertirse en una de las formas de gestionar las consecuencias sin detener el desarrollo de nuevos modelos.