OpenAI: una nueva ley podría vaciar Silicon Valley

La empresa OpenAI se manifestó en contra del proyecto de ley SB 1047, que propone la introducción de nuevos requisitos de seguridad para las empresas de IA. Los desarrolladores de OpenAI argumentan que este proyecto podría ralentizar el avance tecnológico y sostienen que la regulación de estos temas debe ser manejada a nivel federal, no estatal.

En una carta al senador del estado de California, Scott Wiener, OpenAI expresó su preocupación de que la aprobación de esta ley podría tener consecuencias "amplias y significativas" para la competitividad de EE. UU. en el campo de la IA y para la seguridad nacional.

El proyecto de ley SB 1047, propuesto por el senador Wiener, busca establecer "estándares de seguridad razonables" para las empresas que desarrollan grandes modelos de IA que superan ciertos umbrales de tamaño y costo. De aprobarse, las empresas estarían obligadas a tomar medidas para garantizar que sus modelos no causen "daños críticos", como la creación de armas biológicas o la generación de pérdidas financieras superiores a 500 millones de dólares.

La ley también exige que las empresas garanticen la posibilidad de desconectar los sistemas de IA, adopten "medidas razonables" para prevenir catástrofes y rindan cuentas al fiscal general de California. El incumplimiento de estas exigencias podría llevar a demandas judiciales y multas civiles.

El proyecto de ley ya ha sido criticado por grandes empresas tecnológicas, startups y capitalistas de riesgo. Argumentan que es una intervención excesiva en una tecnología que aún está en su fase inicial de desarrollo y que estas medidas podrían frenar la innovación tecnológica en el estado. En la carta, OpenAI también expresó su preocupación de que la aprobación de la ley podría obligar a las empresas de IA a abandonar California.

El director de estrategia de OpenAI, Jason Kwon, señaló que "la revolución de la IA apenas comienza y está impulsando el crecimiento económico de California". Kwon subrayó que el proyecto de ley SB 1047 podría poner en peligro este crecimiento, ralentizar el ritmo de las innovaciones y obligar a ingenieros y emprendedores de primer nivel a buscar oportunidades en otros lugares.

En su respuesta a la carta , Scott Wiener señaló que los requisitos propuestos se aplican a cualquier empresa que opere en California, independientemente de su ubicación. Por lo tanto, los argumentos de OpenAI carecen de lógica, según Wiener.

El senador estatal también destacó que OpenAI no critica ninguna de las disposiciones específicas del proyecto de ley, y subrayó que SB 1047 es un documento razonable que exige a las grandes empresas de IA cumplir con los compromisos ya asumidos de probar sus modelos para identificar riesgos que podrían tener consecuencias catastróficas.

Originalmente, objeto de críticas en Silicon Valley, el proyecto de ley fue suavizado tras las enmiendas propuestas por la empresa Anthropic. Actualmente, el proyecto de ley está a la espera de la votación final, tras lo cual será enviado al gobernador Gavin Newsom para su firma. Además, se ha informado que OpenAI ha suspendido temporalmente sus planes de expansión de oficinas en San Francisco debido a la incertidumbre en torno a la regulación en California.