Компания AMD на своем мероприятии Advancing AI Day в Сан-Хосе анонсировала ускорители Instinct MI350X и MI355X. Поклонников открытого кода порадует то, что серия Instinct MI350 имеет полностью открытую поддержку драйверов, которые уже включены в ядро Linux.
Серия AMD Instinct MI350 с архитектурой CDNA4 является эволюционным улучшением по сравнению с серией MI300, но стремится быть гораздо более конкурентоспособной, особенно для рабочих нагрузок AI/ML. Для рабочих нагрузок ИИ они улучшены в 35 раз. AMD Instinct MI355X обеспечивает до 40% больше токенов на доллар по сравнению с конкурентами NVIDIA GB200.
AMD Instinct MI350X предназначен для воздушного охлаждения, в то время как более мощный Instinct MI355X рассчитан на прямое жидкостное охлаждение и способен обеспечить более высокую плотность развертывания.
Вы, вероятно, уже видели презентацию Лизы Су и множество статей на многих сайтах вокруг серии Instinct MI350, посвященных самому аппаратному обеспечению/спецификациям…
Серия AMD Instinct MI350 – это целевой GFX950, который уже используется в бэкенде AMDGPU LLVM. Различные IP-блоки, входящие в состав серии Instinct MI350, также уже поддерживаются драйверами ядра AMDKFD и AMDGPU. Поддержка ядра для серии Instinct MI350 в день запуска. Единственное, что пока не обнародовано – это файлы прошивки для аппаратного обеспечения серии Instinct MI350, но мне сказали, что они должны появиться в репозитории linux-firmware.git
уже совсем скоро.
Предыдущие ускорители Instinct – и графические процессоры AMD в целом – пользовались поддержкой драйверов с открытым исходным кодом, но теперь для запуска Instinct MI350X/MI355X они гораздо более отточены и находятся в стабильном/выпущенном ядре до официального представления в производстве.
Поддержка драйверов ядра в Linux осуществляется с открытым исходным кодом. Базовая поддержка реализована в Linux Linux 6.14, а дополнительные возможности и работа над ними – в стабильном ядре Linux 6.15. А для пользовательского пространства сегодня публикуется новая предварительная версия ROCm для начальной поддержки серии Instinct MI350 с их стеком вычислений с открытым исходным кодом. Это замечательно, что поддержка ядра для AMD Instinct серии MI350 была реализована раньше времени, и мы надеемся, что вскоре сможем протестировать Instinct MI355X в облаке.