NVIDIA enseña a los centros de datos a predecir sus propios fallos; Tesla e IBM ya han mostrado interés.

Un acelerador sobrecalentado puede frenar el entrenamiento de una red neuronal en miles de GPU, y NVIDIA decidió enseñar a los centros de datos a detectar esos problemas con antelación. La compañía presentó la plataforma Minerva, que integra la monitorización del hardware y de las cargas de software, detecta signos de fallos futuros y ayuda a encontrar las causas de la caída del rendimiento en grandes clústeres de IA.

Minerva pertenece a la clase AIOps, sistemas de gestión de la infraestructura TI mediante inteligencia artificial. La plataforma recopila telemetría de aceleradores gráficos, conmutadores de red, unidades de almacenamiento, planificadores de tareas y modelos en ejecución. NVIDIA espera eliminar la principal deficiencia de la monitorización tradicional, cuando distintos equipos ven partes separadas de la infraestructura y no pueden relacionar rápidamente las incidencias.

En el núcleo de Minerva está un grafo dinámico de relaciones entre componentes del centro de datos. El sistema rastrea la ubicación de aceleradores, adaptadores de red, conmutadores y cables, al tiempo que correlaciona el hardware con las tareas en ejecución. Este enfoque permite determinar qué componente físico ralentiza el entrenamiento del modelo, incluso si los cálculos están distribuidos entre cientos de miles de GPU.

Los algoritmos de aprendizaje automático analizan miles de millones de métricas cada hora, estudian el comportamiento normal de la infraestructura y buscan desviaciones. Un motivo de alerta puede ser una temperatura inusualmente alta del acelerador o una reducción en la velocidad de una unidad NVMe. Minerva también correlaciona eventos relacionados y, en lugar de miles de notificaciones separadas, genera un solo incidente con la causa probable.

Para los operadores está previsto un asistente de IA integrado, NVIDIA Sherlock. Mediante una consulta en texto plano se puede comprobar el estado del clúster, averiguar las causas del enlentecimiento y obtener opciones para solucionar los problemas. Las correcciones pueden realizarse manualmente o transferirse a sistemas externos de automatización mediante la API. Minerva admite la conexión de agentes de IA externos a través del Model Context Protocol.

La nueva plataforma forma parte del ecosistema de infraestructura NVIDIA Vera Rubin y está vinculada con la plataforma DSX, destinada a la gestión de grandes centros de IA. Minerva admite despliegue local y modelo en la nube SaaS, integración con Grafana y herramientas de monitorización habituales. El objetivo principal es aumentar el tiempo útil de las GPU, no solo reducir el número de fallos.

El primer usuario confirmado de Minerva fue la empresa IREN, que emplea la plataforma para gestionar sus clústeres de IA. También planean implementarla Tesla, IBM, Jio, Lambda, Aolani, Bitdeer AI y Quake AI. Dell Technologies, Lenovo y Supermicro tienen la intención de incluir el software en sus propias ofertas para operadores de infraestructura de cómputo.

NVIDIA vincula la adopción de Minerva con la reducción de tiempos de inactividad, la aceleración de las reparaciones y el aumento de la cantidad de cálculos útiles. Sin embargo, la compañía aún no ha revelado resultados de pruebas independientes con cifras concretas de ahorro o reducción de fallos. Las ventajas declaradas se basan en las capacidades de la plataforma y en la experiencia de los primeros socios; el efecto real dependerá de la configuración de cada centro de datos.