Пару дней назад Nvidia опубликовала материал, где рассказала, что на своей недавней презентации AMD неправильно сравнивала ускоритель Instinct MI300X и с Nvidia H100. И если сравнить правильно, решение Nvidia будет быстрее. Теперь AMD отреагировала на выпад конкурента, заявив, что это конкурент сравнивает неправильно. AMD отмечает, что Nvidia в своём сравнении пошла сразу на три хитрости: В итоге теперь уже AMD перетестировала ускорители, якобы максимально правильно их сравнив. Компания сделала сразу два сравнения: с библиотекой vLLM для обоих ускорителей и с разными библиотеками. Как можно видеть, всё равно Instinct MI300X, согласно тестам AMD, оказывается ощутимо быстрее.
Пару дней назад Nvidia опубликовала материал, где рассказала, что на своей недавней презентации AMD неправильно сравнивала ускоритель Instinct MI300X и с Nvidia H100. И если сравнить правильно, решение Nvidia будет быстрее. Теперь AMD отреагировала на выпад конкурента, заявив, что это конкурент сравнивает неправильно.
AMD отмечает, что Nvidia в своём сравнении пошла сразу на три хитрости:
- Для ускорителя H100 использовалась библиотека TensorRT-LLM вместо vLLM в тестах AMD
- Сравнение производительности в режиме FP16 на AMD Instinct MI300X с режимом FP8 на H100
- Опубликованные данные AMD о производительности были инвертированы из относительных значений задержки в абсолютную пропускную способность
В итоге теперь уже AMD перетестировала ускорители, якобы максимально правильно их сравнив. Компания сделала сразу два сравнения: с библиотекой vLLM для обоих ускорителей и с разными библиотеками.
Как можно видеть, всё равно Instinct MI300X, согласно тестам AMD, оказывается ощутимо быстрее.