«El padrino de la IA» aboga por la implementación de un ingreso básico universal

El renombrado científico en ciencias computacionales, apodado «el padrino de la inteligencia artificial», cree que el gobierno necesitará implementar un ingreso básico universal para combatir la desigualdad provocada por la IA.

El profesor Jeffrey Hinton, en una entrevista con BBC Newsnight, indicó que es necesaria una reforma del sistema de subsidios sociales que implique pagos fijos a cada ciudadano. Esta necesidad surge de su «grave preocupación por que la IA pueda reemplazar muchos trabajos rutinarios».

«Han contactado conmigo desde Downing Street, y he recomendado que el ingreso básico universal es una buena idea», señaló Hinton.

Según él, aunque la IA puede aumentar la productividad y generar más riqueza, los beneficios serán para los ricos, no para aquellos que pierdan sus empleos, lo que tendrá un impacto negativo en la sociedad.

El profesor Hinton es uno de los pioneros en redes neuronales, que son la base teórica del actual auge de la inteligencia artificial. Hasta el año pasado, trabajó en Google, pero dejó la compañía para poder hablar más libremente sobre los peligros de la IA no regulada.

El ingreso básico universal (IBU) implica un pago regular del estado a todos los ciudadanos sin ningún requisito adicional ni criterios de necesidad. Los defensores ven en él una forma de garantizar un nivel mínimo de ingresos, aliviar el problema de la pobreza y dar más libertad financiera a las personas. Sin embargo, los opositores del IBU expresan preocupación por el alto costo de su implementación, temiendo que pueda llevar a una reducción significativa de los fondos presupuestarios para financiar servicios y programas gubernamentales importantes. Además, algunos críticos dudan de la efectividad del IBU para resolver el problema de la pobreza, ya que se proporciona a todos sin considerar sus necesidades reales. Un portavoz del gobierno declaró que «no hay planes para implementar un ingreso básico universal». El profesor Hinton reiteró su preocupación por las amenazas que podrían llevar a la extinción humana.

Según él, los eventos de los últimos años muestran que los gobiernos no desean limitar el uso militar de la IA, y en la carrera por el rápido desarrollo de productos, existe el riesgo de no prestar suficiente atención a las cuestiones de seguridad.

El profesor Hinton predice que en los próximos 5-20 años, hay una probabilidad del 50% de que surja un problema con la IA tratando de tomar el control.

Esto podría llevar a una amenaza de extinción para la humanidad, ya que la IA podría crear una forma de inteligencia que supere la inteligencia biológica, lo que plantea serias preocupaciones.

También señaló que la IA podría «evolucionar» y «desarrollar una motivación para autoreproducirse» y autónomamente «formular un subobjetivo para tomar el control».

Ya hay evidencia de que los grandes modelos de lenguaje utilizados para generar texto pueden mostrar una tendencia hacia el comportamiento engañoso o engañoso. Aunque estos modelos están entrenados en enormes cantidades de datos textuales y son capaces de generar contenido plausible, no tienen un verdadero entendimiento del significado y pueden proporcionar información inexacta, contradictoria o incluso intencionadamente engañosa. Este riesgo se ve exacerbado por el hecho de que la lógica interna de cómo funcionan estos modelos a menudo es un «caja negra», lo que dificulta el seguimiento e interpretación de sus decisiones. Sin embargo, es importante reconocer que las investigaciones en este campo continúan y se están desarrollando métodos para aumentar la fiabilidad, seguridad y transparencia de los modelos de lenguaje de IA.

El reciente uso de tecnologías de inteligencia artificial para generar automáticamente miles de objetivos militares potenciales representa solo la etapa inicial de un proceso mucho más amplio de implementación de IA en la industria de defensa y operaciones militares. Este evento puede verse como una especie de "globo de ensayo" que señala una próxima ola de uso más amplio de sistemas de IA para tareas de planificación, reconocimiento, orientación y otros aspectos de la guerra moderna. Aunque el uso actual parece limitado, sugiere futuros cambios radicales en la doctrina y práctica militar a medida que la tecnología de IA continúa desarrollándose. Al mismo tiempo, muchos expertos expresan preocupación por las posibles consecuencias éticas, legales y humanitarias de una militarización excesiva de la IA y la automatización del proceso de toma de decisiones sobre ataques.

«Lo que más me preocupa es que estos sistemas puedan tomar decisiones autónomas para matar personas», dijo el profesor Hinton.

Propuso la creación de algo similar a las Convenciones de Ginebra - tratados internacionales que establecen estándares legales de tratamiento humanitario en tiempos de guerra - para regular el uso militar de la IA.

«Pero no creo que eso suceda hasta que ocurran cosas muy desagradables», agregó. Al preguntársele si Occidente está en una carrera similar al Proyecto Manhattan (investigación de armas nucleares durante la Segunda Guerra Mundial) con Rusia y China en términos de uso militar de la IA, el profesor Hinton respondió: «El presidente de Rusia dijo hace varios años que quien controle la IA, controlará el mundo . Así que, probablemente, están trabajando muy duro en ello».

«Afortunadamente, Occidente probablemente todavía está adelante. Todavía estamos un poco por delante de China. Pero China está invirtiendo más recursos. Y en términos militares, creo que habrá una Carrera».

El profesor Hinton cree que la mejor solución sería prohibir el uso militar de la IA.