IA espía: Anthropic dijo «no» a los usuarios — y «sí» a los servicios de inteligencia de EE. UU.

La inteligencia estadounidense podría haber obtenido uno de los instrumentos más potentes para buscar puntos débiles en el software. Según los datos del Financial Times, la Agencia de Seguridad Nacional de EE. UU. utiliza Claude Mythos de Anthropic para planear operaciones cibernéticas en el extranjero.

Claude Mythos se considera uno de los modelos de inteligencia artificial más potentes para tareas de ciberseguridad. Anthropic no lo pone a disposición pública porque el modelo no solo encuentra vulnerabilidades, sino que también ayuda a crear formas de explotarlas. La empresa ha explicado que el acceso limitado responde al riesgo de abusos.

Según el Financial Times, la NSA puede emplear Mythos para preparar operaciones contra las redes de países que EE. UU. considera adversarios, incluidos China e Irán. Ese modelo puede ayudar a buscar puntos débiles en sistemas, seleccionar métodos de intrusión y analizar la infraestructura del objetivo. Oficialmente, la NSA y Anthropic no han revelado cómo se usa el modelo dentro de la agencia.

El medio también escribe que Anthropic envió a la NSA cerca de seis ingenieros que ayudan a integrar Mythos en los procesos de trabajo de la agencia. Esos especialistas normalmente adaptan los modelos de inteligencia artificial a las tareas del cliente y ayudan a conectarlos con sistemas ya existentes. No está claro si los empleados de Anthropic participan en las propias operaciones o si solo asisten en la integración técnica del modelo.

Una fuente familiarizada con la postura de la empresa explicó esa lógica con la frase «la mejor defensa se construye mediante un buen ataque». Según dijo, si EE. UU. no desarrolla esas herramientas, los adversarios encontrarán la forma de hacer lo mismo. Ese enfoque ya ha provocado controversia, porque la línea entre la defensa y el ataque en el ciberespacio se vuelve cada vez menos clara.

El informe apareció en un contexto en el que Anthropic amplía Project Glasswing, un programa de acceso restringido a Claude Mythos. Inicialmente, el modelo lo recibieron solo algunas organizaciones estadounidenses, pero ahora la compañía planea incorporar alrededor de 150 nuevos participantes en más de 15 países. El acceso se ofrecerá solo después de verificaciones de seguridad.

Mythos ya ha atraído la atención de gobiernos, bancos y empresas tecnológicas. Según Anthropic, los participantes de Project Glasswing han encontrado con la ayuda del modelo más de diez mil vulnerabilidades de alto y crítico riesgo en software importante. La compañía afirma que el objetivo principal del programa es encontrar y cerrar las debilidades antes de que los atacantes las exploten.

La situación se complica por un conflicto previo entre Anthropic y las autoridades estadounidenses. Anteriormente, el Pentágono calificó a la compañía como un riesgo para la cadena de suministro tras desacuerdos sobre cómo aplicar la inteligencia artificial sin restricciones. Ahora, los informes sobre la posible colaboración de Anthropic con la NSA resultan especialmente polémicos y ya han suscitado críticas en redes sociales.

No hay confirmación de que Mythos se haya utilizado en ciberataques reales. Pero el mero hecho de la posible integración de ese modelo en el trabajo de una agencia de inteligencia muestra lo rápido que la inteligencia artificial pasa de ser una herramienta que analiza código a formar parte de la ciberpolítica estatal.