Pegatron готовит ИИ-сервер на 128 GPU AMD MI350X с пиковыми 1177 Пфлопс
На выставке Computex 2025 компания Pegatron продемонстрировала уникальную стойку для ИИ-нагрузок, в составе которой работают 128 ускорителей AMD Instinct MI350X. Эта масштабируемая серверная система рассчитана на задачи машинного обучения и инференса и предвосхищает официальные решения AMD следующего поколения.
Сервер будущего на базе AMD Instinct
Система Pegatron AS501-4A1/AS500-4A1 построена из восьми 5U-компьютерных узлов, каждый из которых оснащён одним процессором AMD EPYC 9005 и четырьмя ускорителями MI350X. Все компоненты охлаждаются жидкостью, что обеспечивает стабильную работу под высокими нагрузками. Стойка выполнена в формате 51OU ORV3, что делает её совместимой с облачными дата-центрами, использующими стандарт OCP.
Каждый MI350X поддерживает до 288 ГБ памяти HBM3E, а вся система — до 36,8 ТБ быстрой памяти, что особенно важно для работы с крупными ИИ-моделями. При теоретической линейной масштабируемости, вся стойка достигает 1177 Пфлопс производительности в FP4 — режиме, используемом в инференсе.
Отличия от решений Nvidia
В отличие от платформ Nvidia NVL72 на базе GB200/GB300, где 72 GPU соединены с помощью сверхбыстрой шины NVLink, у AMD пока нет собственного решения для межсоединений на базе Infinity Fabric в масштабе выше 8 ускорителей. Поэтому в стойке от Pegatron ускорители соединяются между собой через сеть Ethernet 400 Гбит/с, что ограничивает масштабируемость в задачах с высокой синхронизацией, таких как обучение LLM-моделей.
Платформа для будущих поколений AMD Instinct
Хотя MI350X не может конкурировать с NVL72 по масштабируемости, решение от Pegatron даёт мощный задел для последующих поколений. Эта система станет тестовой платформой для будущих серверов на базе Instinct MI450X, где AMD, вероятно, предложит более продвинутую систему межсоединений.
Pegatron также рассматривает это решение как учебную и пилотную платформу для разработчиков ПО и аппаратных решений, позволяющую лучше понять принципы построения масштабируемых систем на AMD Instinct.
Подписывайтесь на наш телеграмм канал и читайте новости в удобном формате — https://t.me/occlub_ru