Mythos vulneró las defensas internas de la NSA; los servicios de inteligencia se alarmaron y pidieron bloquear el acceso a todo el mundo
Un experimento secreto se descontroló antes de que los funcionarios pudieran explicar lo sucedido.
La historia del cierre repentino del modelo de IA Mythos de Anthropic dio un nuevo giro: una de las razones de la prohibición podría ser no solo una vulnerabilidad en la protección del modelo, sino también su presunto acceso a los sistemas clasificados de la Agencia de Seguridad Nacional y del Comando Cibernético de EE. UU. Ob ello según informó en un informe de The Economist sobre las audiencias del comité del Senado para la inteligencia.
Según el medio, el senador Mark Warner declaró el 11 de junio que el general Joshua Radd, al frente de la Agencia de Seguridad Nacional y del Comando Cibernético de EE. UU., le habló sobre las capacidades de Mythos. Según la versión que dio Warner, el modelo supuestamente penetró casi todos los sistemas clasificados de ambas agencias en cuestión de horas.
Estos datos aún no han sido confirmados. No se trata de una verificación independiente ni de un informe técnico oficial, sino de declaraciones emitidas en el contexto de la discusión en el Senado. Por ello, el hecho del supuesto hackeo no puede considerarse probado; sin embargo, tras esas declaraciones el cierre de Mythos empezó a verse como algo mucho más serio que una simple restricción de acceso a un modelo peligroso.
Formalmente, el 12 de junio la administración de Trump ordenó dejar el acceso a Fable 5 y a Mythos 5 solo para ciudadanos de EE. UU. tras detectarse una elusión de las restricciones de seguridad. Anthropic no pudo verificar de manera fiable la ciudadanía de cada usuario en tiempo real; por eso cerró ambos modelos para todos, incluidos los aliados de EE. UU. y el Instituto británico de Seguridad de la IA, que evaluaba esos sistemas.
Al principio Mythos no era un modelo público — acceso a él tenían solo unas pocas empresas. Luego Anthropic la dio a la Agencia de Seguridad Nacional y a unos 200 socios seleccionados en el marco del Project Glasswing. Entre los participantes se nombraron Amazon, Apple, Google, Microsoft, Nvidia, JPMorgan y la Linux Foundation. La compañía afirmó que Mythos Preview ya había encontrado miles de vulnerabilidades, incluyendo un problema de 27 años en OpenBSD, uno de los sistemas operativos más seguros.
El modelo relacionado con Mythos, Fable 5, también fue vetado. Usaba la misma arquitectura básica, pero recibió restricciones adicionales para un uso más amplio. Antes del cierre, los usuarios señalaban que Fable 5 podía llevar a cabo de forma autónoma tareas complejas de código durante hasta 20 minutos, detectar sus propios errores lógicos, escribir pruebas y ofrecer un resultado funcional en el primer intento.
El caso de Mythos muestra por qué el acceso a modelos de vanguardia para la búsqueda de vulnerabilidades se convierte rápidamente en una cuestión de seguridad nacional. Ese tipo de sistemas pueden ayudar a los defensores a comprobar la infraestructura, pero las mismas capacidades resultan peligrosas si se eluden las restricciones.