Lanzan protección de IA gratuita contra ataques de otras IA: 185 escenarios de amenaza y 100.000 ejemplos

Apenas doce días después del primer ataque totalmente automatizado con cifrado de datos, la empresa Ant Group presentó una herramienta gratuita diseñada para detener comandos peligrosos de inteligencia artificial antes de su ejecución.

Desarrollada por el laboratorio de seguridad de inteligencia artificial de Ant Group, el sistema SingGuard-NSFA inspecciona las solicitudes y respuestas de agentes autónomos antes de que estos recurran a herramientas externas. Busca signos de instrucciones ocultas, robo de credenciales, ejecución de código malicioso, abuso de recursos y escalamiento de privilegios. El código fuente y los modelos listos están publicados en GitHub y Hugging Face, y la protección se puede desplegar en infraestructura propia.

El lanzamiento de SingGuard-NSFA siguió poco después de la publicación de datos sobre la operación JadePuffer. En julio, la empresa Sysdig describió el primer caso conocido en el que un modelo de lenguaje llevó a cabo por sí solo un ataque multinivel desde la intrusión inicial hasta la destrucción de datos.

JadePuffer infectó un servidor desactualizado de Langflow a través de la vulnerabilidad crítica CVE-2025-3248 (10.0 Critical). A continuación, el sistema recopiló claves de acceso a plataformas en la nube y servicios de inteligencia artificial, se desplazó a un servidor MySQL separado con el sistema de configuración Nacos y eludió la autenticación aprovechando una vulnerabilidad de 2021.

El agente automatizado obtuvo privilegios de administrador de la base de datos, cifró 1342 entradas con configuraciones de servicios, eliminó las tablas originales y dejó una demanda de rescate en bitcoins. En una de las fases el modelo corrigió por sí mismo un error de acceso y encontró una forma operativa de continuar el ataque en 31 segundos.

Recuperar los datos tras el pago del rescate no habría sido posible. La clave de cifrado se generó a partir de valores aleatorios, se registró una sola vez en el diario interno del agente y no se guardó en ningún otro lugar. En la práctica, JadePuffer destruyó la información, y la exigencia de dinero solo imitó un ataque típico de ransomware.

SingGuard-NSFA intenta detener ese escenario en el momento en que el agente está a punto de ejecutar el comando. Según Ant Group, el sistema cubre 185 escenarios de amenazas en siete categorías. Para evaluar el sistema, los desarrolladores prepararon alrededor de 100.000 ejemplos en 133 idiomas.

La empresa lanzó cuatro versiones del modelo con tamaños que van de 0,8 mil millones a 9 mil millones de parámetros. La mayor, según Ant Group, toma una decisión en aproximadamente 50 milisegundos, por lo que puede inspeccionar cada llamada del agente a una herramienta externa sin una latencia apreciable. Organizaciones independientes aún no han verificado los números declarados.

El enfoque de Ant Group difiere del conjunto Agent Governance Toolkit, que Microsoft publicó en la primavera de 2026. La solución de Microsoft compara las acciones del agente con reglas predefinidas, mientras que SingGuard-NSFA evalúa el contenido de las solicitudes e intenta reconocer intenciones maliciosas. El primer sistema prohíbe acciones peligrosas conocidas; el segundo debería detectar nuevas formas de manipulación para las cuales aún no se han escrito reglas.

Los desarrolladores pueden ejecutar SingGuard-NSFA localmente, por lo que no es necesario transferir datos a Ant Group. Sin embargo, una auditoría externa del código fuente aún no se ha publicado. Las organizaciones de los sectores financiero, sanitario, de defensa y gubernamental deberán revisar el código por sí mismas y evaluar los riesgos de la cadena de suministro.

La nueva protección tampoco sustituye a las medidas de seguridad habituales. JadePuffer se aprovechó de una vulnerabilidad que se corrigió hace más de un año, y luego utilizó un error antiguo de Nacos y credenciales estándar de MinIO. Es necesario actualizar servidores, cambiar contraseñas y restringir el acceso a la red: esto sigue siendo la primera línea de defensa. SingGuard-NSFA añade otra barrera donde el agente autónomo ya está listo para convertir un comando malicioso en una acción real.