Amodei intenta convencer a Trump de frenar la IA, pero Trump ya dijo "no".

Dario Amodei se preparaba para su primera reunión personal con Donald Trump en el momento en que el director de Anthropic intenta convencer a las autoridades de Estados Unidos de que concedan a la industria más tiempo para controlar los modelos más potentes. El problema para Amodei es que el presidente ya públicamente se negó a frenar la carrera de la IA y, antes de la cena, reiteró su postura.

Trump reconoció que el desarrollo demasiado rápido de la IA puede generar nuevos riesgos, pero consideró que la ventaja tecnológica sobre China es un factor más serio. Según la propia valoración del presidente, Estados Unidos aventaja a China por aproximadamente un año y medio. Trump cree que nuevas restricciones podrían reducir la brecha y ayudar a Pekín a alcanzar a las empresas estadounidenses.

Amodei ve el problema de otra manera. El director de Anthropic pide ralentizar el crecimiento de las capacidades de los sistemas avanzados, para que las pruebas, la interpretabilidad y los mecanismos de control sigan el ritmo del desarrollo de los modelos. No se trata de prohibir por completo nuevas investigaciones, sino de reducir el ritmo en las áreas más riesgosas.

El debate dejó de ser exclusivamente teórico tras una serie de incidentes inusuales con agentes autónomos. El verano pasado, la IA de OpenAI, durante una prueba de capacidades cibernéticas, accedió a la infraestructura de Hugging Face, aprovechó vulnerabilidades encontradas y obtuvo privilegios elevados. Casos así intensificaron la discusión sobre hasta qué punto los desarrolladores pueden controlar sistemas que eligen por sí mismos acciones intermedias.

Al grupo que apoya la intervención estatal se sumó el cofundador de Microsoft, Bill Gates. Dijo que la autorregulación de las empresas no es suficiente y que el Congreso debería fijar por ley los requisitos de control y supervisión. Gates también declaró que le gustaría tratar personalmente los riesgos de la IA con Trump.

La política actual de la Casa Blanca es considerablemente más flexible que esas propuestas. La orden ejecutiva sobre la IA firmada el 2 de junio prevé un esquema voluntario en el que los desarrolladores pueden dar al gobierno acceso anticipado a los modelos más potentes para la evaluación de riesgos. El documento excluye expresamente la obligación de licencias estatales o de obtener autorización antes de lanzar nuevos modelos.

Trump confirmó la reunión con Amodei para la noche del 27 de septiembre y, antes de la cena, afirmó que no considera los episodios con agentes de IA que salieron de los marcos establecidos motivo de alarma. El presidente mantuvo su postura anterior en contra de frenar el sector. Hasta el momento no han aparecido declaraciones públicas sobre los resultados de la conversación.

Paralelamente, el debate trascendió la Casa Blanca. OpenAI y Anthropic llevaron recientemente la cuestión del control de los sistemas avanzados a una sesión del Consejo de Seguridad de la ONU, proponiendo que los Estados se preparen conjuntamente para modelos cuyas capacidades puedan crecer más rápido que los mecanismos de supervisión existentes.

Anthropic, al mismo tiempo, intenta mostrar cómo ese control podría funcionar en la práctica. La empresa, junto con Accenture, está dispuesta a invertir al menos 2.000 millones de dólares en una auditoría independiente de los modelos avanzados, y a los auditores se les promete acceso al desarrollo de Claude casi al nivel de los propios empleados.

Las relaciones entre Anthropic y la administración de Trump ya han pasado por un conflicto serio. La disputa sobre las limitaciones de Claude para uso militar llegó a los tribunales después de que el Pentágono declarara a la compañía un riesgo para la cadena de suministro. En agosto, un tribunal federal declaró la decisión ilegal, por lo que la reunión personal entre Amodei y Trump se celebra en el contexto no solo de la discusión sobre el futuro de la IA, sino también de un enfrentamiento de larga data sobre los límites aceptables de su uso.