Источник изображения: Intel
Компания Intel опубликовала результаты последних тестов производительности своего нового ускорителя для вычислений в области искусственного интеллекта Gaudi 2 в рамках стандартизированного теста MLPerf Training v4.0. Эти тесты продемонстрировали, что Gaudi 2 может быть эффективной и недорогой альтернативой существующим системам для вычислительных нагрузок в области искусственного интеллекта.
В тестировании принимала участие масштабируемая система на базе 1024 ускорителей Gaudi 2, развернутая в облаке Intel Tuber Developer Cloud. Эта система была использована для точной настройки производительности ускорителей на модели машинного обучения GPT-3 объемом 175 миллиардов параметров в рамках теста MLPerf.
Источник изображения: Intel
Согласно результатам, система на базе Gaudi 2 показала время обучения модели 66.9 минут. Это сопоставимо с результатом флагманского ускорителя NVIDIA H100. Более того, в дополнительном тестировании модели Llama 2 объемом 70 миллиардов параметров с использованием адаптеров низкого ранга LoRa, система из 8 ускорителей Gaudi 2 показала время обучения 78.1 минуты.
По заявлению Intel, ключевым преимуществом Gaudi 2 является соотношение производительности и цены. На выставке Computex было объявлено, что 8 ускорителей Gaudi 2 с универсальной базовой платой будут доступны по цене $65 000, что примерно в 3 раза дешевле аналогичных систем на базе NVIDIA.
Источник изображения: Intel
Как отмечает ресурс Wccftech, ряд крупных компаний уже выбрали решения Intel на базе Gaudi для своих вычислений в области ИИ, в том числе южнокорейский провайдер облачных услуг Naver и консорциум AI Sweden.
Intel также подтвердила планы опубликовать результаты тестов следующего поколения ускорителей Gaudi 3 в рамках предстоящего теста MLPerf Inference. Ожидается, что Gaudi 3 превзойдёт по производительности флагманский H100 от NVIDIA и будет конкурентоспособным по сравнению с будущим H200. Выход Gaudi 3 на рынок запланирован на осень 2024 года.