В отличие от игровой сферы на серверном поприще у AMD дела складываются куда лучше. Достаточно лишь взглянуть на вершину топа быстрейших суперкомпьютеров мира, где правят бал ускорители вычислений Radeon Instinct.
По характеристикам Radeon Instinct MI300X, мощнейший из существующих вычислительно-ориентированных GPU в линейке продуктов "красного лагеря", превосходит NVIDIA H100. И хотя MI300X отстает от NVIDIA H200 по скорости вычислений с половинной точностью, достаточной для нейросетей, он оборудован 192 ГБ HBM3 с пропускной способностью 5,3 ТБ/с, против 141 ГБ HBM3e и 4,8 ТБ/с у H200.
К сожалению, раскрыть весь потенциал серверных ускорителей от AMD мешает неважное качество ПО. Так, согласно исследованиям компании SemiAnalysis использование фирменной программной платформы ROCm, являющейся аналогом CUDA, значительно снижает производительность топового железа от AMD.
В ходе пятимесячного эксперимента и сравнения AMD с NVIDIA специалисты пришли к неутешительному выводу — из Radeon Instinct MI300X попросту невозможно выжать все вычислительные возможности, красочно описанные AMD на бумаге. Этому мешает недоработанность программного стека ROCm и отсутствие тестирования со стороны вендора.
По словам SemiAnalysis, ПО от AMD изобилует ошибками, вследствие чего "красными" GPU нельзя пользоваться "из коробки", а применение их по назначению, то есть для обучения ИИ, и вовсе исключено. Низкая культура разработки и посредственное качество софта делают ускорители вычислений от AMD гораздо менее конкурентоспособными в сравнении с аналогами от NVIDIA.
Из-за этого компании Tensorwave, ведущему поставщику Radeon Instict для "облаков", пришлось вернуть GPU обратно AMD, чтобы та доработала ПО. При этом плата за простой оборудования легла на плечи Tensorwave.
Также можно упомянуть стартап Tinybox, производящий готовые ускорители вычислений на базе игровых видеокарт, который ранее в этом году столкнулся с труднопреодолимыми препятствиями по интеграции Radeon RX 7900 XTX в свои готовые решения.
Представитель Tinybox не стеснялся в выражениях, описывая программную платформу AMD. Он сравнил графический ускоритель с черным ящиком, так как на его сложную прошивку с закрытым исходным кодом и подписью отсутствовала внятная документация. Однако, при этом, аппаратное обеспечение "красного лагеря" было названо отличным.