Грядущий серверный графический процессор Instinct MI300X от AMD может претендовать на звание самого энергоемкого чипа после своего выхода, поскольку, по прогнозам, он будет потреблять почти 1 кВт энергии.
Ранее самым энергоемким чипом в центрах обработки данных считался графический процессор NVIDIA H100 с номинальным энергопотреблением до 700W. Однако появление Instinct MI300X предвещает новую эру повышенного энергопотребления.
В сопроводительной документации к презентации AMD Instinct MI300X говорится, что ускоритель OAM GPU будет потреблять минимум 750W энергии. Для сравнения, предшествующие графические процессоры Instinct MI250X, построенные на архитектуре GPU CDNA2, требовали от 500 до 560W энергии. Таким образом, за одно поколение требования к мощности выросли на 34-50%. Такой прирост неудивителен, учитывая конструкцию чипа и его достойную производительность. GPU обеспечивает восьмикратный прирост в рабочих нагрузках ИИ, работая при этом с пятикратной эффективностью.
Ожидаемые характеристики графического процессора AMD Instinct MI300X включают 304 вычислительных блока CDNA3 по сравнению с 220 вычислительными блоками в MI250X. Кроме того, чип будет оснащен 192Gb памяти HBM3, что на 50% больше, чем 128Gb памяти HBM2e, используемой в MI250X.
Одним из значительных преимуществ графического процессора Instinct MI300X с его массивными 192Gb VRAM является его способность эффективно запускать большие языковые модели, используя меньшее количество GPU, чем его конкуренты.