Фанаты AMD хорошо помнят, что в январе этого года на выставке CES компания продемонстрировала гигантский чип для центров обработки данных под названием MI300X, над которым она работала долгое время. На тот момент это был своего рода тизер перед выпуском мощного ИИ-ускорителя. Теперь же он представлен официально, а это значит, что мы наконец-то увидим первые тесты от AMD ее гигантского ускорителя искусственного интеллекта для центров обработки данных. Как и ожидалось, Красная команда заявила, что он просто уничтожает флагманский графический процессор Nvidia H100 по любому показателю, по которому их можно сравнить. А это значит, что битва титанов искусственного интеллекта официально началась, поскольку ранее AMD практически не участвовала в этом противостоянии.
Громкие заявления прозвучали на мероприятии Advancing AI, где AMD представила свой графический процессор MI300X и официально бросила вызов ускорителю искусственного интеллекта H100 от Nvidia. Компания AMD утверждает, что ее новый графический процессор MI300X превзошел по всем пунктам конкурента Nvidia и теперь является самым быстрым ускорителем искусственного интеллекта в мире. Для подтверждения свои слов, на огромном слайде было показано, что по сравнению с H100 "красны" ускоритель MI300X предлагает в 2,4 раза больший объем памяти, в 1,6 раза большую пропускную способность памяти и в 1,3 раза больше терафлопс в вычислительных операциях FP8 и FP16. В реальных условиях это также означает, что в определенных задачах он будет быстрее H100 в 1,6 раза.
AMD заявила, что превзошла Nvidia в области генеративного ИИ с помощью своего нового ускорителя Instinct.
Затем генеральный директор компании Лиза Су показала данные, где восемь чипов MI300X в серверной платформе, работающие против восьми H100 на сервере HGX, были на 60% быстрее по «пропускной способности» Bloom с использованием 176 миллиардов параметров и до 40% быстрее в снижении задержки при использовании ИИ-модели Llama 2 с 70 миллиардами параметров. При прямом сравнении двух конкурирующих чипов, AMD зафиксировала, что MI300X работает на 20% быстрее в некоторых приложениях, таких как FlashAttention-2 и Llama 2. Лиза Су также заявила, что при выполнении обучения LLM (больших языковых моделей) с 8 графическими процессорами MI300X, он показал равные результаты с H100 в сервере HGX, но при этом опередил его в производительности вычислений.
Помимо ускорителя MI300X, компания AMD анонсировала свой новейший программный стек для конкуренции с платформой CUDA от Nvidia. Он получил название ROCm 6 и был обновлен для поддержки всех новейших больших языковых моделей и приложений искусственного интеллекта. Обновленный стек предлагает множество улучшений, которые повысят производительность задач, связанных с искусственным интеллектом, но нам придется подождать бенчмарков, чтобы увидеть, как он проявит себя в реальных условиях.
Теперь, когда AMD официально вышла на рынок HPC (высокопроизводительных вычислений) с мощным графическим процессором для центров обработки данных, будет интересно посмотреть, как компания будет бороться с доминированием Nvidia. Эта битва становится похожей на ту, что происходит на арене игровых видеокарт, где Nvidia уже владеет львиной долей рынка, а AMD борется за оставшиеся крошки с компанией Intel. Но в данном случае, MI300X является серьезным конкурентом Nvidia H100, и даже технический директор Microsoft недавно заявил, что, по его мнению, AMD в конечном итоге станет очень конкурентоспособной на этом рынке. Однако настоящая проблема для AMD - превзойти доминирование Nvidia в программном обеспечении с CUDA, а это очень непростая задача.