IA bajo vigilancia: el Senado estadounidense lanza un ultimátum a los creadores de ChatGPT

El Senado de Estados Unidos se ha dirigido a OpenAI solicitando información y acceso a su nuevo modelo de inteligencia artificial, expresando preocupación por las prácticas de seguridad de la empresa. La carta, enviada al CEO de OpenAI, Sam Altman, y publicada por The Washington Post, está firmada por cinco legisladores.

En la carta, los senadores señalan la asociación de OpenAI con el gobierno de EE. UU. y las agencias de seguridad nacional para desarrollar herramientas de ciberdefensa destinadas a proteger la infraestructura crítica del país. «La seguridad nacional y económica es una de las responsabilidades más importantes del gobierno de EE. UU., y los sistemas de IA inseguros o vulnerables son inaceptables», se señala en la carta.

Los legisladores instan a la empresa a eliminar las cláusulas de los contratos laborales que podrían utilizarse para castigar a los empleados que expresen públicamente preocupaciones sobre las prácticas de la empresa. Los senadores también exigen que OpenAI dedique el 20% de sus recursos computacionales a la investigación sobre seguridad de la IA, algo que se prometió en julio del año pasado, cuando la empresa creó un equipo centrado en prevenir riesgos existenciales. Según informes, este equipo fue posteriormente desmantelado y sus miembros reasignados a otros proyectos dentro de la empresa.

Los senadores insisten en que OpenAI proporcione su próximo modelo base de IA para pruebas preliminares a las agencias gubernamentales. También exigen que expertos independientes tengan la oportunidad de evaluar la seguridad y fiabilidad de los sistemas de OpenAI antes de su lanzamiento. En total, los senadores han formulado 12 preguntas a las que OpenAI debe responder antes del 13 de agosto de 2024.

A principios de este mes, informantes anónimos de OpenAI presentaron una queja ante la Comisión de Bolsa y Valores de EE. UU. (SEC), solicitando una investigación sobre si la empresa ha restringido ilegalmente la comunicación de los empleados con los reguladores. En mayo, la empresa fue criticada por su estricta política de despido, que prohíbe a los ex empleados criticar a OpenAI. Incluso reconocer la existencia de tal acuerdo constituye una violación de los términos del contrato.