Anthropic desarrolla un sistema de vigilancia masiva

Anthropic, hasta hace poco que negó al Pentágono el derecho a usar a Claude para vigilancia masiva dentro de Estados Unidos, ahora despliega su propio sistema de observación de activistas, protestas y personas que el servicio de seguridad corporativa considera una amenaza potencial. La compañía busca no solo reaccionar ante incidentes, sino también prever posibles problemas con antelación.

Una de las herramientas fue la plataforma Samdesk, que recopila señales de fuentes abiertas, utiliza IA para detectar eventos y complementa el análisis automático con la verificación de especialistas. El responsable del centro de seguridad de Anthropic, Keon Ellison, contó cómo el servicio, en aproximadamente una hora, avisó a la empresa de que los organizadores habían adelantado la protesta. El servicio de seguridad logró cambiar la ruta del alto directivo y llevarlo al hotel por la entrada de servicio.

El monitoreo corporativo no se limita a eventos cerca de las oficinas. Anthropic declaró que vigila el comportamiento sospechoso de personas individuales en el marco del proceso de "persona de interés", para detectar señales de posible escalada. Varias personas que la empresa más tarde informó a la policía ya estaban bajo vigilancia del servicio de seguridad. En un caso, Anthropic se dirigió a la policía de San Francisco tras palabras de un usuario de Claude sobre un rifle comprado y el director ejecutivo Dario Amodei, pero se negó a entregar a los agentes la propia correspondencia.

La escala del programa también se aprecia en la contratación de personal. El equipo Global Safety, Intelligence, and Security buscaba un especialista en inteligencia corporativa con un salario de $180,000 a $230,000 al año. Entre las tareas figuraban la identificación, evaluación, seguimiento e investigación de amenazas globales; además, "activismo" aparecía en la misma lista que el terrorismo, la delincuencia, la inestabilidad geopolítica y las acciones de Estados contra la industria de la IA. Paralelamente, Anthropic refuerza de nuevo sus vínculos con el sector de seguridad nacional, aunque los servicios de inteligencia estadounidenses continuaron probando Mythos incluso en medio del conflicto de la empresa con el Pentágono.

Los materiales disponibles no confirman que Anthropic use directamente a Claude para elaborar expedientes sobre activistas. Está confirmado el trabajo de su propio equipo de inteligencia, la colaboración con la plataforma de IA Samdesk, la vigilancia de protestas y la práctica de seguimiento prolongado de personas individuales. El sistema de monitoreo publicado resulta especialmente controvertido frente a la posición pública de Anthropic contra la vigilancia interna masiva. La empresa no respondió a preguntas sobre el programa.

La disputa sobre los límites de la vigilancia ya le ha salido cara a Anthropic. En agosto, un tribunal federal declaró ilegal el intento del Pentágono de castigar al desarrollador de Claude tras negarse a levantar las restricciones sobre la vigilancia masiva y las armas autónomas. Ahora surgen preguntas similares acerca del propio servicio de seguridad de la empresa.

El problema va mucho más allá de una sola corporación. Las fuerzas de seguridad estadounidenses ya han empezado a ver las protestas contra la IA a través del prisma del extremismo y de las posibles amenazas a la infraestructura. En ese contexto, los sistemas corporativos que recopilan información abierta sobre activistas y tratan de predecir sus acciones corren el riesgo de borrar la línea entre proteger al personal y vigilar la actividad política legítima.