Система NVIDIA Vera Rubin следующего поколения запущена в производство. Компания представила обзор архитектуры стойки, включающей шесть новых чипов, усовершенствованное жидкостное охлаждение и NVLink 6 Spine. Ожидается 10-кратное снижение стоимости инференса. — wccftech.com
Система следующего поколения от NVIDIA под названием Vera Rubin запущена в полномасштабное производство, и компания предоставила нам подробный обзор архитектуры стоечного уровня с погружением в отдельные компоненты.
Vera Rubin от NVIDIA: шесть новых обновленных чипов, усовершенствованное жидкостное охлаждение и высокопроизводительный NVLink 6 Spine
Когда речь заходит о поколениях стоек, NVIDIA готовит серьезные обновления с Vera Rubin, которые мы подробно рассмотрим. Однако, судя по недавнему видео CNBC, посвященному архитектуре Vera Rubin, мы увидели детальный обзор множества компонентов, от основного вычислительного узла до элементов сетевого взаимодействия и охлаждения. Что еще более важно, старший директор по инфраструктуре NVIDIA Дион Харрис называет Vera Rubin одной из «самых сложных систем ИИ в мире», утверждая, что то, что делает NVIDIA, уникально и трудновыполнимо.
Учитывая, что в ближайшее время ожидаются обязательства клиентов по Rubin, важно разобраться, как на самом деле выглядит стойка NVL72. И, конечно же, одним из важнейших элементов этой стойки является сам SuperChip Vera Rubin. Мы уже обсуждали технические аспекты конфигурации GPU Rubin и CPU Vera, но стоит отметить, что значительный прирост производительности достигается за счет интеграции NVIDIA памяти HBM4 с GPU, а также выделенных модулей SOCAMM. В совокупности пропускная способность памяти достигает ошеломляющих 1,2 ТБ/с.
Ключевое обновление NVIDIA в Vera Rubin касается и системы охлаждения, поскольку Team Green планирует внедрить модульные конструкции жидкостного охлаждения, охватывающие элементы SuperChip, такие как GPU Rubin и CPU Vera, с помощью специальных холодных пластин. Руководители NVIDIA утверждают, что внедрение Rubin убедит гиперскейлеров перейти на усовершенствованные системы жидкостного охлаждения, и, что интересно, текущая реализация снижает потребление воды — еще одно преимущество, которое продвигает NVIDIA.
NVLink является важным аспектом Vera Rubin NVL72, и с межсоединением 6-го поколения, часто называемым «NVLink Spine», NVIDIA планирует обеспечить общую совокупную пропускную способность в 260 ТБ/с на стойку. Харрис заявляет, что с новейшим поколением NVLink компания вывела модульность на совершенно новый уровень, поэтому она утверждает, что NVLink 6 spine поддерживает обслуживание без простоя и сервисы RAS на уровне стойки.
Хотя оценки предполагают, что Vera Rubin дебютирует со значительным повышением цен, NVIDIA заявляет, что архитектура обеспечивает 10-кратное снижение стоимости токена инференса и 4-кратное сокращение количества GPU для обучения моделей MoE по сравнению с Blackwell GB200, что означает, что правило генерального директора NVIDIA «чем больше вы покупаете, тем больше экономите» остается в силе.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Muhammad Zuhair