NVIDIA представила новый графический процессор Blackwell B200. Он примечателен огромной вычислительной мощностью, но не подходит для игр — его создали для работы с искусственным интеллектом. Компания раскрыла основные характеристики новинки, и рассказала, где она будет применяться.
Новинка состоит из двух 4-нм кристаллов, объединённых с помощью 2,5D-упаковки, и расположенных вокруг чипов памяти HBM3e суммарным объёмом 192 ГБ (пропускная способность 8 ТБ/с). NVIDIA утверждает, что фирменная плата GB200, сочетающая два таких GPU с одним процессором Grace, может обеспечить в 30 раз большую вычислительную мощность при работе с большими языковыми моделями (LLM) в сравнении c аппаратным ускорителем H100. При этом энергоэффективность новинки должно быть до 25 раз меньше.
По расчётам NVIDIA, для обучения модели с 1,8 трлн параметров ранее требовалось 8000 графических процессоров Hopper и 15 МВт мощности. Теперь же с этой работой справятся 2000 ускорителей Blackwell, потребляя всего 4 МВт.
Вендор также анонсировал готовые сборки GB200 NVL72, включающие 36 CPU и 72 GPU, предназначенные для установки в стойку с жидкостным охлаждением. Заявленная производительность таких систем — до 1440 Пфлопс (FP4).
В NVIDIA сообщили, что Amazon, Google, Microsoft и Oracle уже хотят включить NVL72 в свои сервисы облачных вычислений, чтобы затем предложить их пользователям.