Компания Nvidia анонсировала DGX Station, свой второй настольный ИИ-суперкомпьютер. Эта система нацелена на специалистов по ИИ, разработчиков и исследователей данных. Они смогут разрабатывать и запускать масштабные языковые модели ИИ и проекты прямо на этих системах.
Благодаря Grace Blackwell Ultra Desktop с 300 ГБ оперативной памяти, она позволяет локально запускать модели с 200 миллиардами параметров. Суперчип обладает доступом к 496 ГБ памяти LPDDR5X и 288 ГБ памяти HBM3e графического процессора.
Этот суперчип представляет собой 72-ядерный процессор Grace, соединённый с графическим процессором Blackwell Ultra посредством NVLink-C2C. Это соединение обеспечивает в семь раз большую пропускную способность по сравнению с PCIe Gen 5, достигая 900 ГБ/с. Графический процессор Blackwell Ultra обеспечивает до 1,5 раз большую производительность AI FLOPS, чем Blackwell, и оптимизирован для FP4, что повышает эффективность ИИ за счёт снижения нагрузки на память и вычислительные ресурсы.
DGX-станции взаимодействуют с другими узлами через ConnectX-8 SuperNIC, обеспечивающий скорость передачи данных до 800 Гбит/с. Операционная система DGX, представляющая собой модифицированную версию Ubuntu Linux, оптимизирована для эффективной работы всего программного обеспечения Nvidia AI. Это упрощает перенос моделей LLM AI из локальной среды разработки в облачную инфраструктуру для удобного развертывания и масштабирования.
Ожидается, что DGX-станции станут доступны через сторонних производителей ПК позднее в 2025 году.