Detectives de IA en Discord consiguen acceso a la red neuronal secreta "Mythos"

Mientras algunas empresas solo prueban nuevos sistemas de inteligencia artificial, otras ya encuentran formas de sortearlos. Anthropic ha enfrentado una situación incómoda. Un pequeño grupo de usuarios logró obtener acceso no autorizado a uno de los modelos más potentes para la búsqueda de vulnerabilidades.

La empresa empezó a mostrar con cautela el modelo Mythos a un círculo limitado de socios a finales de febrero. Ese mismo día, según fuentes, usuarios no autorizados accedieron al entorno de pruebas y obtuvieron acceso al sistema. La compañía investiga el informe sobre acceso a través de la infraestructura de un contratista externo. Anthropic declaró que no hay indicios de intervención en sus propios sistemas y que, aparentemente, el incidente se limitó al entorno externo.

Mythos fue creado como una herramienta para buscar vulnerabilidades en software. Sin embargo, según la empresa, las capacidades del modelo son tan elevadas que, si se usa de forma incorrecta, puede acelerar los ciberataques. Durante las pruebas, el sistema halló miles de errores graves y vulnerabilidades de día cero en sistemas operativos y navegadores.

Actualmente, el acceso al modelo lo reciben solo organizaciones seleccionadas dentro del marco de Project Glasswing. En el programa participan grandes empresas tecnológicas, entre ellas Amazon, Google, Microsoft, Apple y Cisco. A los participantes se les permitió revisar sus propios sistemas, detectar vulnerabilidades de forma automática e implementar correcciones.

No obstante, un grupo de usuarios de una comunidad cerrada en Discord logró eludir las restricciones. Según fuentes, los participantes utilizaron varios métodos. Uno de ellos involucró a un empleado del contratista, a través del cual se logró acceder al sistema. En otros casos emplearon herramientas para buscar información en fuentes abiertas, incluidos datos de GitHub.

La comunidad en cuestión se especializa en localizar información sobre modelos aún no publicados. Para ello, los participantes usan programas automáticos que recopilan filtraciones y datos indirectos por toda la internet. Aún no se ha revelado la magnitud completa del incidente. No está claro si los usuarios no autorizados llegaron a encontrar o a explotar vulnerabilidades reales con ayuda de Mythos.

La historia ya ha suscitado preocupación entre los reguladores. Las autoridades de Australia y Corea del Sur advirtieron que sistemas de este tipo pueden desestabilizar el sector financiero. Anteriormente se habían expresado preocupaciones similares en países de la Unión Europea. La situación también llamó la atención en Estados Unidos. La administración de Donald Trump celebró una reunión con el director de Anthropic, Dario Amodei, en la que se discutieron los riesgos y posibles restricciones para desarrollos de este tipo.