El Pentágono vence a Anthropic en juicio por restricciones a las armas autónomas

El Pentágono logró una importante victoria en la disputa con Anthropic. El tribunal de apelaciones de Estados Unidos autorizó al departamento de Defensa a considerar al desarrollador Claude como un riesgo para la cadena de suministro después de que la compañía se negara a levantar las restricciones sobre el uso de la IA en armas totalmente autónomas y en vigilancia masiva.

El panel del Tribunal de Apelaciones del Distrito de Columbia respaldó al Pentágono por dos votos contra uno. El conflicto empezó tras varios meses de negociaciones, durante los cuales los militares exigieron permitir el uso de Claude «para cualquier propósito legal». Anthropic aceptó ampliar significativamente el acceso, pero mantuvo dos restricciones: no usar el modelo para la vigilancia masiva de estadounidenses ni para armas que seleccionen y ataquen objetivos por sí solas sin intervención humana.

La mayoría de los jueces consideró que el Pentágono actuó dentro de la ley. Según el tribunal, las restricciones incorporadas en Claude podrían impedir el funcionamiento de sistemas militares en un momento crítico. En los documentos del caso se mencionan ocasiones en que el modelo se negó a realizar tareas gubernamentales autorizadas, y surgió una disputa separada en torno al uso de Claude durante una operación militar extranjera secreta.

El tribunal también rechazó el argumento de Anthropic de que las autoridades castigaron a la empresa por su postura pública sobre la seguridad de la IA. La mayoría consideró que la causa del conflicto no fueron las opiniones del desarrollador, sino la negativa a aceptar la condición contractual exigida por el Pentágono. Uno de los tres jueces no estuvo de acuerdo con esa interpretación y señaló que la ley sobre riesgos de la cadena de suministro no debería abarcar limitaciones del producto declaradas públicamente sin mala intención.

La decisión no pone fin a todos los litigios. En agosto, un tribunal federal de California llegó a la conclusión opuesta en un caso paralelo y declaró ilegales medidas más amplias contra Anthropic. La jueza Rita Lin entonces bloqueó la prohibición estatal sobre los productos de la empresa y la exigencia de que los contratistas militares interrumpieran cualquier relación con ella.

La sección de apelaciones en Washington examinó otra base legal. En la decisión judicial publicada se afirma que el Pentágono tiene autoridad para retirar a Claude de su cadena de suministro, ya que la agencia no está obligada a asumir el riesgo de una falla de la IA durante una operación de combate. Los militares llevan meses buscando alternativas a Claude y ampliando la colaboración con otros desarrolladores.

Anthropic declaró que no está de acuerdo con las conclusiones del panel y está considerando opciones adicionales de apelación, incluido pedir que el caso sea revisado por la corte de apelaciones en pleno. La compañía afirma que la designación de riesgo ya ha causado pérdidas comerciales por miles de millones de dólares y ha dañado su reputación.

Resultó difícil para las fuerzas estadounidenses renunciar por completo a las tecnologías de Anthropic. En agosto se supo que la NSA continuó probando Mythos incluso mientras el Pentágono intentaba eliminar los productos de la compañía de la infraestructura militar.

Al mismo tiempo, las capacidades de Claude se acercan cada vez más al escenario que preocupa a la propia Anthropic. La compañía describió recientemente operaciones en las que la persona prácticamente solo escogía el objetivo, y la IA realizaba por sí misma el reconocimiento, la explotación de vulnerabilidades y otras fases de ataques cibernéticos.

Se desarrolla una disputa separada en torno a la vigilancia. Investigaciones de Anthropic muestran que la IA puede reducir drásticamente el costo de procesar enormes volúmenes de información sobre personas y convertir la vigilancia estatal en una tarea que requiere muchos menos analistas.