Компания Stability AI опубликовала сравнение производительности ИИ-ускорителя Intel Gaudi 2 с ускорителями NVIDIA H100 и A100 в бенчмарках искусственного интеллекта (ИИ). Результаты тестов показывают, что Intel Gaudi 2 быстрее конкурентов и предлагает хорошее соотношение производительности и стоимости.
В одном из тестов Intel Gaudi 2 продемонстрировал на 55% лучшую производительность по сравнению с NVIDIA H100 и оказался в 3 раза быстрее NVIDIA A100. В другом тесте Intel Gaudi 2 показал увеличение скорости до 1254 изображений в секунду, что больше, чем у NVIDIA H100 и A100. Однако, в тестах на вывод изображений, оптимизации TensorRT позволили NVIDIA A100 превзойти Intel Gaudi 2.
Ускоритель Intel Gaudi 2 показал выдающиеся результаты в модели Stable Diffusion XL, одной из популярных моделей преобразования текста в изображение. Благодаря большему объему памяти, Gaudi 2 обеспечивает высокую скорость обработки данных. Он также конкурентоспособен для работы с архитектурой Diffusion Transformer, которая используется в новом поколении медиамоделей.
Тесты показали, что наиболее важным фактором в производительности ИИ является программное обеспечение и оптимизация для каждого конкретного ускорителя. Хотя аппаратное обеспечение важно, но без прочной основы для управления ядрами, памятью и различными ускорителями, сложно достичь высокой производительности. NVIDIA имеет преимущество в области оптимизации программного обеспечения, особенно с помощью TensorRT, что позволяет им предложить более высокую производительность в некоторых рабочих нагрузках.
Тем не менее, Intel не останавливается на достигнутом и уже разрабатывает ускоритель следующего поколения - Intel Gaudi 3. Этот ускоритель будет предлагать еще большую производительность и должен поступить в продажу в следующем году. В целом, сравнение производительности Intel Gaudi 2 с ускорителями NVIDIA H100 и A100 показывает, что Intel продолжает развиваться и предлагает конкурентоспособные решения в области искусственного интеллекта.
