Un solo agente en lugar de un departamento de inteligencia: la IA abarata drásticamente la vigilancia estata

La vigilancia estatal ya no necesita una gran plantilla de analistas. La IA permite a una sola persona recopilar enormes conjuntos de datos, analizar las relaciones entre personas y seleccionar objetivos de interés para las autoridades con una velocidad que antes requería todo un departamento. Anthropic descubrió operaciones reales donde Claude ya realizaba ese trabajo.

Los sistemas de la compañía fueron utilizados por personas vinculadas a estructuras estatales de Malí, China e Irán. Claude ayudaba a procesar la información recopilada y a identificar posibles objetivos de vigilancia, entre los que figuraban disidentes, políticos, periodistas y defensores de los derechos humanos. La IA se está convirtiendo gradualmente de una herramienta experimental en parte de la burocracia cotidiana de los servicios secretos. Una transición parecida ya ocurrió en las ciberoperaciones, donde sistemas basados en agentes son capaces de ejecutar por sí mismos tareas completas.

El cambio principal no radica en la aparición de métodos de vigilancia completamente nuevos, sino en la economía del proceso. El director del área de análisis de amenazas de Anthropic, Jacob Klein, explicó que la IA hace que la vigilancia estatal sea más barata y eficiente. Un operador puede realizar un trabajo que antes habría requerido contratar a numerosos especialistas. Además, las estructuras estatales no necesitaron los modelos más potentes de Anthropic.

La reducción de la barrera es especialmente peligrosa para países donde los recursos de los servicios secretos antes limitaban de forma natural la escala de la vigilancia. El modelo de lenguaje puede ordenar rápidamente documentos, cruzar información de distintas fuentes, buscar conexiones y ayudar a establecer prioridades. Anthropic observó un efecto similar en ciberseguridad, donde Claude ya se empleó para operaciones a gran escala, y las capacidades autónomas de las versiones más potentes del modelo permiten superar etapas complejas de un ataque casi sin intervención humana.

El problema hace tiempo que superó el ámbito de los debates teóricos. Anthropic prohíbe usar sus productos para la vigilancia interna masiva y anteriormente se negó a levantar esa restricción incluso ante peticiones del ejército estadounidense. El conflicto llegó a los tribunales, que en agosto declaró ilegal la decisión del Pentágono de calificar al desarrollador de Claude como un riesgo para la cadena de suministro.

Anthropic bloqueó todas las cuentas detectadas relacionadas con operaciones estatales de vigilancia y reforzó los mecanismos de protección. Sin embargo, los casos descritos en la investigación muestran un problema más fundamental. Con los modelos disponibles hoy ya basta para un aumento brusco de la productividad de los servicios, por lo que el desarrollo futuro de la IA podría reducir aún más el costo del análisis masivo de personas y sus conexiones.

La discusión sobre los límites aceptables del uso de redes neuronales por parte del Estado es especialmente visible en Estados Unidos. En marzo el conflicto en torno a Anthropic estalló tras la solicitud de permitir el uso de Claude para cualquier tarea militar legal, mientras que el desarrollador mantuvo prohibiciones sobre la vigilancia interna masiva y las armas totalmente autónomas. Una discusión similar surgió después del contrato de OpenAI con el departamento militar estadounidense.

Al mismo tiempo, los servicios secretos no piensan renunciar a las ventajas de los modelos potentes. En agosto se supo que la NSA continúa probando Mythos para detectar vulnerabilidades en las redes militares estadounidenses y estudiar la infraestructura de adversarios extranjeros. Las tareas de inteligencia se están convirtiendo en una de las áreas en las que el beneficio de la IA choca con rapidez con preguntas sobre control y límites aceptables.

Los propios servicios secretos estadounidenses ya consideran las redes neuronales avanzadas como una tecnología estratégica. El director de la CIA, John Ratcliffe, comparó los modelos más potentes con un arma nuclear digital, y las autoridades están reforzando el control sobre su difusión. Ese enfoque muestra cuán rápidamente la IA se está convirtiendo de una herramienta de software universal en un factor de seguridad nacional.