Micron и Samsung недавно сообщили о важных обновлениях High Bandwidth Memory (HBM), в частности, о варианте HBM3E, ориентированном на обновленные ускорители для центров обработки данных следующего и текущего поколения. Уже подтверждено, что NVIDIA H200 будет включать в себя усовершенствованную память HBM3E. Однако, похоже, AMD также планирует обновить свою линейку Instinct чипами HBM3.
Многие корпоративные клиенты изучают альтернативы, принимая во внимание такие факторы, как стоимость и доступность. AMD позиционирует свою серию Instinct MI300 как серьезного соперника процессорам NVIDIA Hopper и Ampere. Серия MI300 имеет ряд преимуществ, таких как больший объем памяти.
Ускоритель MI300A от AMD оснащен 228 вычислительными блоками CDNA3 и 24 ядрами Zen4 на базе архитектуры x86. Эта модель имеет 128 ГБ памяти HBM3. Для тех, кому требуются особо интенсивные вычисления подойдет ускоритель MI300X оснащенный 304 вычислительными блоками CDNA3 и 192 ГБ памяти HBM3. Однако в этом продукте отсутствуют ядра Zen4. Линейка MI300 конкурирует с NVIDIA H200 и H200 SuperChip, основанными на архитектуре Hopper и ядрами ARM Neoverse V2 в случае Super Chip.
AMD теперь подтвердила, что оснастит свои продукты Instinct памятью HMB3E. HBM3E не только имеет более низкое энергопотребление, но также обеспечивает более высокую пропускную способность и большую емкость за счет увеличения количества стеков на 50%. Стек 12-Hi может обеспечить емкость до 36 ГБ на модуль, как сегодня предлагает Samsung. Теоретически это позволит 8 модулям HBM3E поддерживать емкость 288 ГБ.
Поскольку в этом году MI300 получит обновление до HBM3E, следует также ожидать ускоритель MI400, который, как ожидается, появится в серверных стойках в 2025 году. Однако компания NVIDIA так же не сидит сложа руки и представит свой ускоритель B100 Blackwell на мероприятии GTC 2024 в следующем месяце.