NVIDIA представила результаты двух проектов по управлению энергопотреблением ИИ-центров обработки данных. В августовской демонстрации платформа Conductor компании Emerald AI получила сигнал от энергокомпании Silicon Valley Power и автоматически снизила нагрузку объекта с 4 до 3 МВт. Низкоприоритетные вычисления были замедлены или перенесены, а приоритетный инференс продолжил работу. По данным NVIDIA, после этого энергокомпания отправила объекту более 200 сигналов управления спросом, и система отвечала на каждый из них менее чем за минуту. Независимого отчёта об испытаниях в публикации нет.
Эту схему NVIDIA рассматривает как ранний пример возможностей DSX Flex. Компания отдельно уточняет, что демонстрация в Санта-Кларе не была внедрением самого DSX Flex: Conductor должна войти в платформу по мере её развития. Первое выделенное коммерческое развёртывание DSX Flex запланировано на 96-мегаваттном объекте в Манассасе, штат Вирджиния.
Второй результат относится к DSX MaxLPS — программному слою, который отслеживает энергопотребление GPU и стоек и перераспределяет доступную мощность между узлами. Облачный провайдер Lambda испытал его на пяти стойках с 19 узлами HGX B200. По сообщению Lambda и NVIDIA, 19 узлов уложились в энергобюджет 16 узлов, а суммарная скорость выросла примерно с 4 до 5 млн токенов в секунду — на 24%; производительность на ватт увеличилась на 23%. Эти показатели получены в конкретной конфигурации партнёра и не означают такой же прирост для любого ЦОД. Заявление о возможности разместить до 40% больше GPU в будущих системах Vera Rubin остаётся прогнозом NVIDIA для подходящих условий развёртывания.
