En lugar de ayuda: Dominación - La IA puede privar a los humanos del poder real

La inteligencia artificial podría privar gradualmente a la humanidad del control sobre los sistemas clave de la sociedad, advierten investigadores de la Universidad Carolina de Praga y Telic Research. En su estudio, describen un nuevo riesgo existencial: la "privación progresiva del poder" humano, un proceso que podría conducir a consecuencias irreversibles.

Los autores destacan que incluso pequeñas mejoras en la IA pueden socavar la influencia humana en la economía, la cultura y las instituciones gubernamentales. A diferencia de los escenarios de una toma de poder repentina por parte de máquinas superinteligentes, este proceso es gradual: los sistemas basados en IA sustituyen cada vez más el trabajo y la toma de decisiones humanos, debilitando tanto los mecanismos de control explícitos (como elecciones y demanda de los consumidores) como la alineación implícita de la IA con los intereses humanos.

Cuanto menos dependan los sistemas sociales y económicos de las personas, menos oportunidades tendrán estas de influir en dichos procesos. Por ejemplo, si la inteligencia artificial gestiona la economía, podría optimizarla según parámetros que no tengan en cuenta los intereses de la mayoría de las personas. Con el tiempo, esto llevaría a la pérdida de herramientas de influencia sobre las áreas clave de la vida.

Tres áreas clave en riesgo de "privación progresiva del poder"

1. Economía. A diferencia de tecnologías anteriores, la IA puede reemplazar no solo el trabajo físico, sino también el cognitivo en casi todas las industrias. Los mecanismos del mercado y la falta de regulación estricta crean fuertes incentivos para su implementación. En el mejor de los casos, esto conducirá a un "desvalorización relativa", donde las personas mantendrán cierto bienestar, pero perderán influencia económica. En el peor de los casos, a una "desvalorización absoluta", en la que los humanos no podrán satisfacer ni siquiera sus necesidades básicas.
2. Cultura. La inteligencia artificial puede reemplazar a los humanos en todas las esferas culturales clave, desde el periodismo hasta el arte. El problema es que la sociedad no posee "anticuerpos culturales" para resistir esta influencia. La desvalorización relativa significará que la cultura tradicional persistirá, pero perderá su impacto. La desvalorización absoluta llevaría a que la evolución cultural salga del ámbito de la comprensión y el control humanos.
3. Gobernanza estatal. La IA puede reducir la dependencia de los gobiernos de la participación humana. La competencia política, la eficiencia burocrática y el deseo de las élites de aumentar el control acelerarán la adopción de la IA en la administración pública. Como resultado, los ciudadanos pueden perder gradualmente el control real sobre las instituciones gubernamentales. En un escenario extremo, los estados gestionados por IA podrían convertirse en estructuras autosostenibles, donde la prioridad no sería el bienestar de las personas, sino la consolidación del propio poder.

Estrategias para evitar la pérdida de control

Los investigadores proponen varias estrategias para evitar que los humanos pierdan el control sobre los sistemas sociales:

• Desarrollar métricas para medir el nivel de desvalorización del papel humano en la economía, la cultura y la política.
• Implementar mecanismos de regulación de la IA mediante leyes, impuestos y restricciones culturales.
• Fortalecer los procesos democráticos y aumentar la concienciación de los ciudadanos sobre los riesgos de la IA.
• Crear "diputados de IA" que representen los intereses humanos en la toma de decisiones.
• Promover la investigación fundamental en equilibrio socio-técnico para garantizar que la IA se alinee con los intereses a largo plazo de la humanidad.

Los autores del estudio enfatizan que el problema no solo radica en prevenir un comportamiento agresivo de la IA, sino también en preservar la capacidad de los humanos para gestionar los procesos sociales clave. Sin un enfoque claro sobre cómo mantener la influencia real de las personas en un mundo gobernado por algoritmos, la humanidad corre el riesgo de encontrarse en una situación de la que no podrá salir.