Архитектурные особенности нового ускорителя вычислений AMD Instinct MI300X со 192 гигабайтами (ГБ) памяти HBM3 были подробно рассмотрены специалистами компании на выставке Hot Chips 2024, сообщают TweakTown и Wccftech, позже в этом году компания представит обновлённый MI325X с увеличенным до 288 ГБ объёмом памяти HBM3E. Графический процессор ускорителя Instinct MI300X от AMD содержит в общей сложности 153 миллиарда транзисторов, сочетая кристаллы, произведённые по новым 5- и 6-нм технологическим нормам TSMC.
Источник изображения: AMD
В составе GPU восемь вычислительных кристаллов XCD, в каждом из которых присутствует по четыре «шейдерных движка» (Shader Engine, SE). В свою очередь, каждый SE содержит по десять вычислительных блоков. В общей совокупности насчитывается 320 вычислительных блоков. В MI300X часть блоков отключена, доступно 304 вычислительных блока, а в них 19456 ядер. Каждый отдельный XCD имеет свой выделенный кэш 2-го уровня, GPU оснащается 256 мегабайтами Infinity Cache. На периферии графического процессора расположились восемь стеков HBM3 памяти. Чипы сообщаются между собой скоростными соединениями Infinity Fabric с разной пропускной способностью, которая может достигать терабайтов в секунду. А с процессором ускоритель соединяется по PCIe Gen 5 с пропускной способностью 128 гигабайт в секунду.
Источник изображения: AMD
Компания также отмечает, что Instinct MI300X — первый ускоритель искусственного интеллекта, оснащённый 8-стековой конструкцией памяти HBM3. Пропускная способность достигает 5,2 терабайт в секунду. Больший объём и большая скорость памяти позволяют Instinct MI300X работать с языковыми моделями большего размера (в режиме FP16), по сравнению с системами NVIDIA HGX H100, утверждает AMD. Кроме того, одной из ключевых особенностей Instinct MI300X является возможность разделения XCD для выполнения различных рабочих нагрузок. Каждый из XCD работает вместе как один процессор, но их можно разделить, чтобы они выглядели как несколько графических процессоров.
Источник изображения: AMD
AMD Instinct MI325X выйдет в октябре и будет оснащён памятью HBM3E объёмом до 288 ГБ с ещё большей пропускной способностью до 6 терабайт в секунду. AMD обещает в 1,3 раза большую пропускную способность и 1,3-кратное увеличение пиковой теоретической производительности вычислений FP16 и FP8 по сравнению с Instinct MI300X.
Источник изображения: AMD
В 2025 году AMD планирует представить ускорители AMD Instinct MI350 на базе архитектуры CDNA 4 с поддержкой типов данных FP4 и FP6, а в 2026 году ускорители серии AMD Instinct MI400 на базе следующей итерации архитектуры CDNA.