Hackers con IA de última generación, defensores con modelos más simples: desarrolladores de Bitcoin piden nivelar el terreno de juego

Los desarrolladores de software de código abierto se encuentran en una situación inusual. Los atacantes ya disponen de herramientas cada vez más potentes basadas en IA, mientras que los especialistas que protegen la infraestructura financiera con frecuencia deben trabajar con modelos menos avanzados.

Representantes de la comunidad de activos digitales, de la ciberseguridad y del software de código abierto señalaron el problema en una carta abierta preparada por iniciativa del Bitcoin Policy Institute. Los autores pidieron a las principales empresas de inteligencia artificial que concedan a expertos en seguridad verificados acceso anticipado a los modelos más potentes.

Los autores recuerdan que el software de código abierto hace tiempo que forma parte de la infraestructura crítica. En él funcionan servicios de internet, sistemas de comunicación, plataformas financieras y muchas otras tecnologías. En el caso de los activos digitales, el costo de un error es especialmente alto. Solo Bitcoin guarda un valor de más de 1 billón de dólares, y una vulnerabilidad en una cartera, una biblioteca criptográfica o un programa para operar un nodo de la red puede conducir a la pérdida directa de fondos.

La inteligencia artificial cambia el equilibrio de fuerzas. Los modelos actuales pueden analizar grandes volúmenes de código, buscar posibles vulnerabilidades y ayudar a realizar tareas técnicas complejas. Esas capacidades son útiles para los defensores, pero al mismo tiempo aceleran el trabajo de los atacantes.

Según los autores de la carta, los principales laboratorios de inteligencia artificial y sus socios a veces obtienen acceso a nuevas capacidades de los modelos varios meses antes de su difusión general. Los desarrolladores de Bitcoin Core y otros especialistas en seguridad de software de código abierto a menudo no disponen de ese acceso. Las limitaciones de los sistemas públicos también pueden impedir analizar la seguridad de forma legítima, por lo que los especialistas se ven obligados a usar modelos menos potentes con pesos abiertos.

El Bitcoin Policy Institute informa que ha recibido varios informes independientes de desarrolladores que mantienen proyectos abiertos. Según ellos, los ataques complejos que emplean inteligencia artificial ya generan una carga que a equipos pequeños les resulta difícil soportar. Entre las posibles fuentes de esa actividad, los autores mencionan también adversarios extranjeros.

Aunque un ataque no conduzca a una intrusión, los desarrolladores deben dedicar tiempo a desentrañar continuamente la actividad sospechosa, en lugar de avanzar en los proyectos y realizar las verificaciones de seguridad habituales. Al mismo tiempo, los especialistas ya emplean modelos abiertos disponibles para analizar carteras, bibliotecas, protocolos y otros componentes de la infraestructura.

Los autores de la carta proponen crear programas permanentes de acceso de confianza para defensores verificados. Estos programas deberían otorgar acceso anticipado a los modelos más potentes, recursos computacionales suficientes, la posibilidad de realizar análisis automatizados prolongados y trabajar de forma segura con código cerrado o aún no publicado.

Según los autores, no solo las grandes empresas y las organizaciones gubernamentales deberían tener acceso, sino también proyectos sin ánimo de lucro de pequeño tamaño y desarrolladores independientes. Un canal de comunicación separado con los equipos de seguridad de las empresas de IA permitiría informar más rápidamente sobre vulnerabilidades detectadas y coordinar las correcciones.

Los participantes de la iniciativa consideran que una ventaja, incluso de algunos meses, puede ayudar a los desarrolladores a encontrar errores críticos antes de que capacidades similares de inteligencia artificial lleguen a un público más amplio y comiencen a utilizarse activamente en ataques.