Anthropic desarrolla un sistema de vigilancia masiva

Anthropic, hasta hace poco que negó al Pentágono el derecho a usar Claude para vigilancia masiva dentro de EE. UU., ahora despliega un sistema de vigilancia sobre activistas, protestas y personas que el servicio de seguridad corporativa considera una amenaza potencial. La empresa busca no solo reaccionar ante incidentes, sino anticipar posibles problemas.

Una de las herramientas fue la plataforma Samdesk, que recopila señales de fuentes abiertas, utiliza IA para detectar eventos y complementa el análisis automático con verificación de especialistas. El responsable del centro de seguridad de Anthropic, Keon Ellison, relató cómo el servicio avisó a la compañía aproximadamente con una hora de antelación de que los organizadores habían adelantado la protesta. El servicio de seguridad logró cambiar la ruta del directivo y llevarlo al hotel por una entrada de servicio.

La monitorización corporativa no se limita a eventos cerca de las oficinas. Anthropic afirmó que rastrea comportamientos sospechosos de individuos en el marco del proceso de persona de interés para detectar señales de posible escalada. Varias personas que la compañía posteriormente comunicó a la policía ya estaban bajo vigilancia del servicio de seguridad. En un caso, Anthropic contactó a la policía de San Francisco tras comentarios de un usuario de Claude sobre un rifle adquirido y sobre el director ejecutivo Dario Amodei, pero se negó a entregar a los agentes la propia correspondencia.

La magnitud del programa también se aprecia en la contratación. El equipo de Seguridad, Inteligencia y Protección Global buscaba un especialista en inteligencia corporativa con un salario de $180,000 a $230,000 al año. Entre las tareas figuraban identificar, evaluar, rastrear e investigar amenazas globales, y el «activismo» aparecía en la misma lista que el terrorismo, el crimen, la inestabilidad geopolítica y las acciones estatales contra la industria de la IA. Paralelamente, Anthropic vuelve a reforzar los vínculos con el sector de seguridad nacional, aunque los servicios de inteligencia estadounidenses siguieron probando Mythos incluso en medio del conflicto de la compañía con el Pentágono.

Los materiales disponibles no confirman que Anthropic use directamente a Claude para elaborar expedientes sobre activistas. Se confirma el trabajo de su propio equipo de inteligencia, la colaboración con la plataforma de IA Samdesk, la vigilancia de protestas y la práctica de seguimiento prolongado de personas. El sistema de vigilancia publicado resulta especialmente contradictorio frente a la posición pública de Anthropic contra la vigilancia interna masiva. Ante preguntas sobre el programa, la compañía no respondió.

La disputa sobre los límites de la vigilancia ya le ha costado caro a Anthropic. En agosto un tribunal federal declaró ilegal el intento del Pentágono de sancionar al desarrollador de Claude tras la negativa a levantar las restricciones sobre la vigilancia masiva y las armas autónomas. Ahora surgen preguntas similares sobre el propio servicio de seguridad de la compañía.

El problema va mucho más allá de una sola corporación. Las fuerzas de seguridad estadounidenses ya comenzaron a considerar las protestas contra la IA a través de la lente del extremismo y de posibles amenazas a la infraestructura. En ese contexto, los sistemas empresariales que recopilan información abierta sobre activistas y tratan de predecir sus acciones corren el riesgo de borrar la línea entre la protección de empleados y la vigilancia de la actividad política legítima.