NVIDIA объявила о запуске нового поколения чипов для ИИ-суперкомпьютеров, которые, вероятно, сыграют важную роль в будущих прорывах в области глубокого обучения и крупных языковых моделей (LLM), таких как GPT-4 от OpenAI. Эта технология представляет собой значительный шаг по сравнению с предыдущим поколением и будет использоваться в центрах обработки данных и суперкомпьютерах для решения задач в области прогнозирования погоды и климата, поиска новых лекарств, квантовых вычислений и многого другого.
Основным продуктом стал графический процессор HGX H200 на базе архитектуры "Hopper" NVIDIA, который заменяет популярный GPU H100. Это первый чип компании, использующий память HBM3e, которая быстрее и имеет большую емкость, что делает его более подходящей для крупных языковых моделей.
С HBM3e NVIDIA H200 обеспечивает 141 ГБ памяти со скоростью 4,8 терабайта в секунду, что почти вдвое больше емкости и в 2,4 раза больше пропускной способности по сравнению с предшественником, NVIDIA A100.
В плане преимуществ для ИИ, NVIDIA утверждает, что HGX H200 удваивает скорость вывода на Llama 2, LLM с 70 миллиардами параметров, по сравнению с H100. Он будет доступен в конфигурациях на 4 и 8 путей, совместимых как с программным, так и с аппаратным обеспечением систем H100. Он будет работать в любом типе центров обработки данных (локальных, облачных, гибридных облачных и периферийных) и будет использоваться такими компаниями, как Amazon Web Services, Google Cloud, Microsoft Azure и Oracle Cloud Infrastructure. Поставки начнутся во втором квартале 2024 года.
Другим ключевым продуктом NVIDIA стал GH200 Grace Hopper — "суперчип", сочетающий в себе графический процессор HGX H200 и процессор NVIDIA Grace на базе Arm, соединённый через межсоединение NVLink-C2C компании. Он предназначен для суперкомпьютеров, позволяя "учёным и исследователям решать самые сложные проблемы мира, ускоряя сложные ИИ- и HPC-приложения, обрабатывающие терабайты данных".
GH200 будет использоваться в более чем 40 ИИ-суперкомпьютерах по всему миру, включая исследовательские центры, производителей систем и облачные провайдеры. Среди них выделяется Cray EX2500 от HPE, использующий четыре GH200 и масштабирующийся до десятков тысяч узлов суперчипов Grace Hopper.
Возможно, самым крупным суперкомпьютером Grace Hopper станет JUPITER, расположенный в исследовательском центре Юлих в Германии, который станет самой мощной ИИ-системой в мире после установки в 2024 году. Он использует жидкостное охлаждение, с модулем ускорения, состоящим почти из 24 000 суперчипов NVIDIA GH200, соединённых сетевой платформой NVIDIA Quantum-2 InfiniBand.
NVIDIA утверждает, что JUPITER поможет в достижении научных прорывов во многих областях, включая прогнозирование погоды и климата, создание высококачественных климатических и погодных симуляций с интерактивной визуализацией. Он также будет использоваться для поиска новых лекарств, квантовых вычислений и промышленной инженерии. Многие из этих областей используют пользовательские решения NVIDIA, которые облегчают разработку, но также делают группы суперкомпьютеров зависимыми от оборудования NVIDIA.
Новые технологии будут ключевыми для NVIDIA, большую часть доходов которой теперь составляют сегменты ИИ и центров обработки данных. В прошлом квартале компания зафиксировала рекордный доход в этой области в размере 10,32 миллиарда долларов (из общего дохода 13,51 миллиарда долларов), что на 171 процент больше, чем год назад. Без сомнения, компания надеется, что новые GPU и суперчип помогут продолжить эту тенденцию. Только на прошлой неделе NVIDIA побила свой собственный рекорд по обучению ИИ, используя H100, так что новые технологии должны помочь ей укрепить своё лидерство над конкурентами в секторе, где она уже доминирует.