Hay chips de sobra, pero falta electricidad: Nvidia detecta un nuevo techo para el auge de la IA

La industria de la IA ha conseguido un recurso que no se puede transportar en camión ni encargar a TSMC: la capacidad eléctrica libre de la red. En el AI Infra Summit, Nvidia mostró cómo pretende superar este nuevo límite de crecimiento. La empresa amplía la plataforma DSX para que los centros de datos extraigan más cálculo por cada megavatio y puedan reducir la carga en la red durante las horas de máxima demanda.

El problema para Nvidia es simple: vender otra remesa de aceleradores no basta si en la instalación no hay dónde obtener alimentación. Los grandes centros de datos suelen mantener una reserva de potencia para picos de consumo, pérdidas en la conversión, refrigeración y otra infraestructura. Como resultado, parte de la energía ya suministrada no se puede destinar de forma permanente a las GPU, aunque físicamente existan el equipo y el espacio.

Nvidia mostró DSX MaxLPS, que supervisa el consumo de las GPU y de los racks en tiempo real y luego redistribuye la reserva energética disponible entre nodos. La plataforma tiene en cuenta distintos perfiles de entrenamiento e inferencia para no mantener la misma reserva de potencia donde la carga es en realidad menor. Así, la reserva sin usar se convierte en capacidad de cómputo adicional.

El primer ensayo lo realizó el operador en la nube Lambda en servidores Nvidia HGX B200. Con el mismo presupuesto energético la empresa colocó 19 nodos en lugar de los habituales 16. El rendimiento del clúster aumentó aproximadamente de 4 millones a 5 millones de tokens por segundo, es decir, un 24%, y el rendimiento por vatio creció un 23%. Se trata de una prueba en una configuración concreta, no de una garantía para cualquier centro de datos.

Para futuras instalaciones en Vera Rubin, Nvidia afirma un techo aún mayor. En configuraciones adecuadas, DSX MaxLPS debería permitir instalar hasta un 40% más de GPU con el mismo límite de potencia. La empresa también estima un aumento del flujo de tokens de hasta un 35% sin nuevas líneas de transmisión. Estos valores siguen siendo por ahora previsiones y resultados de pruebas de Nvidia y sus socios.

La segunda parte de la estrategia, DSX Flex, opera ya a nivel de conexión con la red eléctrica. Junto con Emerald AI y la compañía municipal Silicon Valley Power, Nvidia probó la reducción automática de carga en respuesta a la señal del operador eléctrico. Las tareas de baja prioridad se ralentizan temporalmente o se ponen en pausa, las críticas siguen funcionando, y luego los cálculos vuelven al modo habitual.

En la instalación Nvidia Eos en Santa Clara, el sistema Emerald AI Conductor ya ha recibido más de 200 órdenes de Silicon Valley Power. En una de las pruebas el consumo se redujo automáticamente de 4 a 3 MW en menos de un minuto sin detener las tareas prioritarias. Nvidia subraya que esto todavía no es una instalación completa de DSX Flex, sino una demostración comercial del enfoque que la plataforma debe generalizar.

Tal mecanismo no es solo por ahorro. Si el operador de la red sabe que un gran centro de datos puede reducir rápidamente parte de su carga, la conexión se puede acordar con una reserva de potencia menor. Los centros de datos estadounidenses ya se enfrentan a las limitaciones de las redes locales, por eso el consumo gestionado se vuelve una forma de acceder más rápido a nuevos megavatios.

La magnitud de la presión sobre el suministro eléctrico sigue creciendo. La Agencia Internacional de la Energía prevé que el consumo eléctrico mundial de los centros de datos aumente aproximadamente de 485 TWh en 2025 a 950 TWh en 2030. El consumo de los centros de datos especializados en IA podría crecer unas tres veces en el mismo periodo, y las limitaciones de la red ya frenan parte de los nuevos proyectos.

Para Nvidia, la red eléctrica se convierte en parte de su propia economía. Cuantos más cálculos caben en un megavatio, más aceleradores se pueden alojar en una instalación ya conectada. En agosto Nvidia ya mostró cuánto dependen sus ingresos de la continua carrera de gasto en infraestructura de IA, y ahora intenta aumentar el volumen de electricidad disponible para las GPU.

El siguiente paso será la primera instalación comercial de DSX Flex en Manassas, Virginia, con una potencia de 96 MW. Nvidia planea emplear allí Vera Rubin y la experiencia de cinco demostraciones. La gestión avanzada de la energía requiere una integración estrecha con el ecosistema de hardware y software, por lo que DSX al mismo tiempo elimina la barrera energética y vincula más a los operadores a la plataforma Nvidia.