Se esfumaron 600.000 dólares: un agente de IA decidió que entregar la clave secreta a un hacker era buena idea
La autorización se desactivó por sí sola y sin aviso mientras los investigadores atribuían las anomalías a pruebas programadas.
A veces, para robar recursos costosos basta con pedirle a la IA que revele un secreto. La organización sin fines de lucro para la evaluación de modelos y el análisis de amenazas METR divulgó un incidente, en el que una clave API robada permitió gastar en tres semanas créditos para modelos públicos por un valor de aproximadamente $600,000.
El ataque comenzó en marzo de 2026 desde una instancia personal de Amazon EC2 en la que un empleado de METR ejecutaba agentes. Accedieron intencionadamente al servidor desde Internet y configuraron la autenticación de Google, pero la aplicación creada mediante el método "vibe coding" contenía un error fail-open. Ante una falla interna, el mecanismo desactivaba la verificación de identidad sin que se notara, por lo que el panel de control permaneció accesible a terceros durante varios días.
METR supone que el atacante buscó sitios recién registrados en los registros de transparencia de certificados y seleccionó direcciones con palabras relacionadas con grandes modelos de lenguaje y agentes. Tras encontrar el panel, el atacante pidió al agente que revelara la clave API del proveedor de modelos y luego añadió su propia clave SSH para mantener el acceso al servidor.
Las credenciales robadas permitían acceder solo a modelos públicos y no daban acceso a desarrollos privados ni a información confidencial. La suma de $600,000 tampoco supuso una pérdida financiera directa para METR. El proveedor de modelos entregó los créditos de forma gratuita, pero su gasto incontrolado mostró cuánto tiempo puede permanecer desapercibida una clave robada sin límites ni alertas específicas.
El gasto anómalo se perdió entre la carga habitual. METR realiza periódicamente pruebas a gran escala y está acostumbrada a volúmenes altos de tokens, límites de velocidad y a errores de API inusuales. El panel interno no mostraba todas las solicitudes rechazadas por exceder límites, y la clave gratuita no tenía tope de gasto. Solo pudieron vincular el aumento a actividad externa tras tres semanas.
Tras descubrir la compromisión, METR revocó el acceso del empleado, detuvo y clonó el servidor para análisis, reemplazó las credenciales que había en él y limpió el equipo de trabajo. La revisión no halló otras claves robadas ni acceso a información sensible. La organización también exigió aprobar los despliegues públicos de aplicaciones y prohibió almacenar secretos corporativos en infraestructuras personales.
En mayo, METR se enfrentó a una campaña distinta cuyos participantes escaneaban servicios externos, verificaban contraseñas robadas, intentaban obtener tokens OAuth y enviaban mensajes de phishing a empleados. No se hallaron indicios de robo de datos internos. Para reducir el riesgo, la organización separó la infraestructura pública de la interna, acortó la vigencia de las claves, restringió los permisos de acceso e activó alertas sobre el gasto anómalo de recursos.