На SC24 компания NVIDIA анонсировала свои новейшие вычислительные ускорители искусственного интеллекта в формате GB200 NVL4, являющимся односерверной системой, которая расширяет ассортимент серии "Blackwell". Новая платформа отличается впечатляющей комбинацией из четырех графических процессоров серии Blackwell и двух центральных процессоров Grace на одной плате. GB200 NVL4 может похвастаться великолепными для односерверной системы характеристиками, включая 768 ГБ быстрой памяти стандарта HBM3E на четырех графических процессорах Blackwell, обеспечивая единую пропускную способность памяти в 32 ТБ/с. Два центральных процессора Grace системы включают собственные 960 ГБ оперативной памяти стандарта LPDDR5X, что делает платформу мощнейшей станцией для требовательных рабочих нагрузок искусственного интеллекта. Одной из важнейших особенностей системы NVL4 является технология межсоединений NVLink, которая обеспечивает связь между всеми компонентами на плате. Использование NVLink очень важна для поддержания максимального уровня производительности нескольких процессоров системы, особенно во время работы с большими обучающими прогонами или вывода модели с несколькими триллионами параметров.
Сравнение производительности с предыдущими поколениями показывает значительные улучшения новинки, при этом компания NVIDIA утверждает, что графические процессоры GB200 обеспечивают более чем двукратную общую производительность и в 1,8 раза более быстрые возможности обучения по сравнению с их предшественником GH200 NVL4. Что касается энергопотребления, то мощность системы достигает 5400 Вт, что фактически вдвое превышает потребность в 2700 Вт модели GB200 NVL2, являющуюся младшей версией, которая оснащена только двумя графическими процессорами вместо четырех. NVIDIA тесно сотрудничает с OEM-партнерами для вывода на рынок различных решений на архитектуре Blackwell, включая модели DGX B200, GB200 Grace Blackwell Superchip, GB200 Grace Blackwell NVL2, GB200 Grace Blackwell NVL4 и GB200 Grace Blackwell NVL72. Мощность 5400 Вт на одном сервере накладывает определенные требования к системе отвода тепла и владельцам таких систем потребуется использование жидкостного охлаждения для поддержания максимальной производительности. Ожидается, что GB200 NVL4 будет устанавливаться внутри серверных стоек для клиентов, использующих гипермасштабируемые вычисления, которые обычно имеют индивидуальные системы жидкостного охлаждения внутри центров обработки данных.