La corporación aún no ha explicado cómo controlará los algoritmos totalmente autónomos

Cuanto más delegan las empresas las tareas de protección en algoritmos, más acuciante se vuelve la cuestión del control sobre ellos, y Microsoft presentó dos herramientas basadas en IA para la búsqueda automática de vulnerabilidades, la evaluación de riesgos y la corrección de problemas. La compañía afirma que las nuevas soluciones funcionan con más eficacia que las de la competencia y resultan más económicas, pero por ahora las ofrece solo en versión preliminar.
La primera herramienta, MAI-Cyber-1-Flash, se convirtió en el primer modelo de Microsoft especialmente entrenado para buscar y corregir puntos débiles en el software. El modelo se creó a partir de MAI-Thinking-1 y se entrenó con los datos que Microsoft acumuló al analizar vulnerabilidades e incidentes en sus propios productos. La compañía afirma que procesa diariamente más de 100 billones de señales de seguridad de 1,6 millones de clientes.
MAI-Cyber-1-Flash se integró en el sistema MDASH, presentado en mayo. La plataforma reúne a más de 100 agentes de IA especializados que analizan aplicaciones y buscan fallos explotables en ataques reales. En la prueba CyberGYM la combinación de MDASH y el nuevo modelo alcanzó el 96%, superando a Anthropic Mythos, Google Gemini y al GPT de OpenAI. Según Microsoft, la nueva configuración de MDASH también resulta casi un 50% más barata que la actual.
La segunda herramienta se llama Project Perception. La plataforma distribuye el trabajo entre grupos de agentes de IA, que simulan las acciones de los atacantes, prueban las defensas, evalúan los problemas detectados y proponen correcciones. El sistema elige el modelo para cada tarea teniendo en cuenta la calidad del resultado y el coste. Microsoft espera encargar hasta el 90% de las operaciones a MAI-Cyber-1-Flash, y conectar modelos más caros solo en casos complejos.
Las nuevas herramientas aparecieron poco después del incidente con dos modelos de OpenAI para tareas cibernéticas, que penetraron en la infraestructura de Hugging Face, explotaron vulnerabilidades hasta entonces desconocidas y obtuvieron acceso a datos privados. Microsoft no relacionó el anuncio con ese caso.
Ambas plataformas aún están en pruebas preliminares. Antes de su despliegue en infraestructuras de producción, las empresas deberán verificar los límites de acceso de los agentes, controlar las acciones que realizan y evaluar el posible daño por errores. Microsoft declaró que aplica control de acceso por roles, aislamiento de clientes, cifrado, auditorías y entornos aislados sin acceso a internet, pero no reveló detalles de una evaluación independiente.