ИИ-ускоритель Intel Gaudi2 оказался на 55 % быстрее Nvidia H100 в тестах Stable Diffusion 3, но есть нюанс
Разработчики сервиса Stability AI опубликовали достаточно интересное исследование, в котором проводится сравнение производительности искусственного интеллекта на ускорителях Intel Gaudi 2 и NVIDIA H100 и A100.Megaobzor.com
В тестах приняли участие пары кластеров, которые в сумме обеспечивали по 16 тех или ускорителей, а проводились тесты с постоянным размером батча (число тренировочных объектов) в 16 на каждый ускоритель (всего 256).3DNews
Благодаря ёмкости 96 ГБ, Intel Gaudi 2 также позволила установить более широкие параметры для генерации изображений, чего нельзя сделать на графических ускорителях NVIDIA.Megaobzor.com
Компания полагает, что более быстрый интерконнект и больший объем памяти (96 Гбайт) делают решения Intel вполне конкурентоспособными и планирует использовать ускорители Gaudi2 в Stability Cloud.3DNews