Компания AMD представила ускоритель искусственного интеллекта Instinct MI350P. Это первый ускоритель Instinct в формате карты PCIe за почти полдесятилетия, сообщает ServeTheHome. Ускоритель предназначен для клиентов, которые не могут или не хотят покупать оборудование в стоечном исполнении. Для таких клиентов ускоритель Instinct MI350 на основе архитектуры CDNA 4 текущего поколения станет альтернативой высокопроизводительным модульным ускорителям ИИ в формате OAM и SXM.
Источник изображения: AMD; ServeTheHome (и далее)
Модульные ускорители OAM и SXM обеспечивают самую высокую производительность и плотность размещения, пользуясь большим спросом на фоне стремительного развития ИИ. Это привело к тому, что AMD и NVIDIA сосредоточились на выпуске готовых серверов и стоек с этими ускорителями, позабыв об ускорителях форм-фактора PCIe. Обе компании пытались заполнить этот пробел продуктами для рабочих станций. Они предлагают множество тех же возможностей, но не все. В частности, они не могут предложить тот же объём и ту же пропускную способность памяти HBM, которая используется в серверных ускорителях.
Ускоритель AMD Instinct MI350P по сути представляет собой половину флагманского MI350X. AMD не использует для этого продукта восстановленные чипы MI350X. Вместо этого они создают более компактный чип, используя преимущества чиплетной архитектуры. В то время как MI350X был построен из двух IOD (чипов ввода-вывода), каждый из которых содержал четыре XCD (ускорительных комплекса), расположенных сверху, чип MI350P состоит из одного IOD с четырьмя XCD, работающих на той же тактовой частоте. Пиковые показатели производительности соответствуют половине производительности MI350X.
Сокращение количества IOD также влечёт за собой уменьшение объёма памяти и её пропускной способности. Количество стеков HBM3E сократилось с восьми до четырёх, в результате чего карта получила 144 ГБ памяти HBM3E с общей пропускной способностью 4 ТБ/с. Энергопотребление Instinct MI350P составляет 600 Вт, но его можно снизить вплоть до 450 Вт. Номинальная потребляемая мощность MI350X составляет 1000 Вт.
Физически Instinct MI350P является стандартной двухслотовой картой полной высоты и длины с пассивным радиатором, который должен обдуваться вентиляторами сервера. Такая конфигурация позволяет установить до 8 карт в один серверный лоток. Важной особенностью является то, что эти карты будут взаимодействовать не через Infinity Fabric, а посредством шины PCIe Gen5 x16 с меньшей пропускной способностью. Это накладывает некоторые ограничение на возможность использования крупных моделей ИИ, размер которых превышает объем памяти одной видеокарты. Конфигурация из восьми видеокарт лучше подходит для запуска восьми моделей.
В портфолио NVIDIA на данный момент нет альтернативы AMD Instinct MI350P. AMD пока является единственным производителем графических процессоров, предлагающим серверный ускоритель текущего поколения в виде карты PCIe.
Читайте далее на сайте
AMD RDNA 5 будет значительно быстрее в трассировке лучей и создаст серьёзную конкуренцию NVIDIA
Популярный чат-бот Claude начал блокировать российских пользователей
Xiaomi открыла код OmniVoice для синтеза и клонирования речи на сотнях языков
Ускоритель ИИ Instinct MI350P от AMD оказался на 43% быстрее конкурента от Nvidia