На конференции Supercomputing 2023 (SC23) компания NVIDIA анонсировала обновлённую версию ускорителя H100 с памятью HBM3E, сообщают AnandTech и ComputerBase. Обновлённая версия получила название H200 и, как ожидается, обеспечит повышение реальной производительности в нагрузках, которым нужен больший объём памяти и большая пропускная способность, чем у существующего H100 с HBM3. Это особенно полезно для больших языковых моделей, которые с лёгкостью могут заполнить 80 ГБ в H100.
Источник: NVIDIA и ComputerBase
С переходом к HBM3E в H200 активируют шестой стек памяти, который был отключён в оригинальном H100 — это позволит увеличить объём памяти до 141 ГБ, а пропускную способность до 4,8 ТБ/с. Таким образом, память H200 будет работать с пропускной способностью на контакт примерно равной 6,5 Гбит/с. Это меньше возможностей HBM3E и обусловлено ограничениями контроллера памяти в H100, считают специалисты AnandTech.
Источник: NVIDIA и ComputerBase
Следом NVIDIA анонсировала платформу HGX H200 — обновлённую версию HGX H100 на базе восьми ускорителей форм-фактора SXM. Платы HGX 200 перекрёстно совместимы с платами H100, что позволяет сборщикам серверов осуществить плавный переход. Также соответствующим образом будет обновлён «суперчип» Grace Hopper GH200 — чип H100 в его составе заменят на H200. Далее компания анонсировала Quad GH200 — четыре ускорителя GH200 на одной плате с чипами Grace и Hopper. Узел Quad GH200 будет предлагать 288 процессорных ядер Arm и в общей совокупности 2,3 ТБ высокоскоростной памяти.
Источник: NVIDIA и ComputerBase
Кульминацией стал анонс нового суперкомпьютера Jupiter, состоящего из 24000 узлов GH200. Jupiter является крупнейшим суперкомпьютером, анонсированным на данный момент. Он ориентирован на стандартные рабочие нагрузки HPC и тензорные вычисления низкой точности для решения задач, связанных с искусственным интеллектом. Ожидается, что на операциях с низкой точностью система будет обеспечивать 93 экзафлопс вычислительной производительности, а на операциях с двойной точностью — более 1 экзафлопс. Это делает Jupiter первой системой HPC экзафлопсного класса на базе решений NVIDIA.
Развернуть Jupiter планируют в 2024 году в Германии. Климат, материаловедение, медицина, проектирование и квантовые вычисления — области, для которых Jupiter поможет создать фундаментальные модели ИИ.
Источники NVIDIA AnandTech ComputerBase