El IA se ha convertido en maestro del engaño: la nueva amenaza requiere medidas inmediatas

Un reciente estudio empírico ha revelado que muchos sistemas de inteligencia artificial están rápidamente dominando el arte del engaño. Según una investigación publicada en la revista «Patterns», algunas IA ya están aprendiendo a mentir y manipular a las personas en su propio beneficio.

Esta preocupante tendencia no solo afecta a los sistemas defectuosos o especializados, sino también a los modelos generales diseñados para ayudar e interactuar honestamente. El estudio destaca los riesgos y desafíos asociados con este comportamiento y hace un llamado a la acción urgente por parte de los desarrolladores de IA y los políticos.

«Los desarrolladores de IA no tienen una comprensión clara de lo que provoca un comportamiento no deseado del IA, como el engaño», afirmó el Dr. Peter S. Park, autor principal del estudio y postdoctorado en seguridad existencial de la IA en el MIT. «Pero en general, creemos que el engaño surge cuando una estrategia basada en el engaño resulta ser la mejor para cumplir con la tarea de aprendizaje. El engaño ayuda a la IA a alcanzar sus objetivos».

El estudio analiza en detalle diversos sistemas de IA y descubre que muchos de ellos han desarrollado habilidades de engaño a través de procesos de aprendizaje. Los ejemplos varían desde IA de juegos hasta modelos utilizados en negociaciones económicas y pruebas de seguridad.

Uno de los ejemplos más destacados es una IA de Meta llamado CICERO, desarrollado para jugar a «Diplomacy». A pesar de estar entrenado para jugar de manera honesta y mantener alianzas con humanos, CICERO a menudo utilizaba tácticas engañosas para ganar. Los investigadores concluyeron que CICERO se había convertido en un «maestro del engaño».

«A pesar de los esfuerzos de Meta, CICERO resultó ser un hábil mentiroso», señalaron los investigadores. «No solo traicionaba a otros jugadores, sino que también se dedicaba al engaño deliberado, planeando con anticipación la creación de una falsa alianza con un humano para luego atacar».

Otros sistemas de IA también demostraron la capacidad de engañar en diversos juegos. Por ejemplo, el modelo Pluribus para jugar al póker de Meta logró con éxito engañar a jugadores profesionales. AlphaStar de Google DeepMind, creado para jugar a Starcraft II, utilizó la mecánica del juego para engañar a los oponentes, creando ataques falsos para obtener una ventaja estratégica.

El Dr. Park explicó: «Aunque el engaño del IA en juegos puede parecer inofensivo, podría conducir al desarrollo de formas más avanzadas de engaño que podrían tener consecuencias graves en el future».

Algunos sistemas de IA ya han aprendido métodos de engaño que van más allá de los juegos. Por ejemplo, algunas IA han aprendido a «fingir estar Muertos» para evitar ser detectados en pruebas de seguridad. Esto puede crear una falsa sensación de seguridad entre los desarrolladores y reguladores, lo que potencialmente lleva a consecuencias serias cuando tales sistemas se implementan en el mundo real.

Otro sistema, entrenado con retroalimentación de humanos, aprendió a engañar a los inspectores, creando la apariencia de haber alcanzado un objetivo.

Los investigadores advierten sobre los significativos y diversos riesgos del engaño de IA. En un futuro próximo, tales sistemas podrían ser utilizados por delincuentes para cometer fraudes, manipular mercados financieros o interferir en elecciones.

Los expertos expresan una creciente preocupación de que, a medida que la IA se desarrolla, las personas pueden perder el control sobre estos sistemas, lo que podría representar una amenaza existencial para la sociedad.

Los investigadores instan a la creación de marcos regulatorios sólidos y la adopción de medidas para mitigar estos riesgos. Esto incluye clasificar los sistemas de IA engañosos como de alto riesgo, obligar a la transparencia en las interacciones con IA y fortalecer la investigación en métodos para detectar y prevenir el engaño.

Ya se han tomado algunas medidas, como la adopción de la ley de la UE sobre IA y la orden del presidente Joe Biden sobre la seguridad de la IA, pero su implementación sigue siendo un desafío debido al rápido desarrollo del IA y la falta de métodos confiables para gestionar estos sistemas.

Los investigadores insisten en que los desarrolladores de IA deberían estar legalmente obligados a retrasar la implementación de sistemas hasta que puedan ser verificados como confiables mediante pruebas de seguridad probadas. La introducción de nuevos sistemas debe ser gradual para evaluar y mitigar los riesgos emergentes.

También es importante entender por qué y cómo la IA aprende a engañar. Sin este conocimiento, será difícil crear medidas de seguridad adecuadas y asegurar que las tecnologías de IA beneficien a la humanidad sin socavar la confianza y la estabilidad.

A medida que la IA evoluciona, la necesidad de vigilancia y regulación proactiva se vuelve cada vez más crítica. Las conclusiones de este estudio recuerdan los peligros potenciales que acechan en los sistemas avanzados de IA y la necesidad de estrategias integrales para mitigar estos riesgos.