Un agente de IA siguió comandos permitidos y acabó infiltrándose en infraestructura de terceros; Cisco presentó Project Quarry para detectar ese tipo de ataques.

Cisco lanzó Project Quarry, una herramienta para detectar acciones peligrosas de agentes de IA que, por separado, parecen totalmente inofensivas. El nuevo sistema analiza toda la cadena de operaciones del modelo neuronal y ayuda a identificar ataques que los filtros habituales dejan pasar.

El problema está relacionado con la creciente autonomía de los agentes de IA. Los asistentes modernos leen documentos, ejecutan programas, consultan API y toman decisiones sin la participación constante de una persona. Cada operación puede estar dentro de los permisos concedidos, pero la secuencia de acciones a veces conduce al robo de información o a la salida del alcance de la tarea establecida.

Un ejemplo ilustrativo fue el incidente con OpenAI y Hugging Face. En julio de 2026, durante pruebas, agentes de IA eludieron las restricciones de acceso a internet, encontraron credenciales expuestas y penetraron en la infraestructura de trabajo de Hugging Face durante aproximadamente dos días y medio. Posteriormente, los especialistas reconstruyeron alrededor de 17 600 acciones de agentes, la mayoría de las cuales parecían operaciones ordinarias.

Project Quarry utiliza un enfoque neurosimbólico, combinando aprendizaje automático con reglas precisas. Clasificadores y modelos de lenguaje evalúan instrucciones sospechosas, y las comprobaciones habituales rastrean comandos, coincidencias de cadenas y el orden de las operaciones. Gracias a esta combinación, el sistema puede detectar comportamiento peligroso que no se puede reconocer por un solo mensaje.

Uno de los escenarios se refiere al robo de secretos. Leer un archivo de configuración por sí solo puede ser aceptable, al igual que enviar una solicitud de red. Sin embargo, si un agente primero abre un archivo con credenciales y luego se conecta a un servidor externo, Quarry puede identificar la secuencia sospechosa. De manera similar, las reglas pueden reconocer comandos ocultos mediante Base64.

Los desarrolladores previeron compatibilidad con sistemas de agentes, el protocolo MCP, diálogos de texto y materiales multimodales. Para el análisis de imágenes se pueden incorporar reconocimiento de texto y visión por computador. Al detectar una violación, el sistema devuelve las operaciones concretas y los fragmentos que provocaron la alerta, para que los especialistas puedan verificar el resultado.

Quarry no sustituye al control de acceso y no bloquea por sí solo todas las amenazas. Los resultados del análisis pueden ser utilizados por otros componentes de seguridad para alertas, bloqueo o cuarentena de acciones sospechosas. La herramienta es adecuada para analizar registros guardados y revisar agentes en funcionamiento. Cisco también ofrece crear reglas personalizadas y probarlas antes de aplicarlas.

La empresa publicó el código de Project Quarry y proporcionó un escáner de consola, un SDK de Python, ejemplos de reglas y un complemento para asistentes de programación con IA. Quarry ya se emplea en Cisco AI Defense, y planean añadir la integración con DefenseClaw más adelante. Los desarrolladores recomiendan comprobar las reglas generadas por la red neuronal antes de activar el bloqueo.

Al mismo tiempo, Cisco aún no ha probado Quarry con los registros reales del incidente de julio en Hugging Face. Los posibles puntos de detección del ataque fueron reconstruidos por los especialistas a partir de la cronología publicada. El proyecto está concebido como un estándar abierto de reglas que los especialistas podrán desarrollar, verificar y aplicar de forma conjunta para proteger distintos agentes de IA.