Открытый инженерный консорциум MLCommons опубликовал последние результаты бенчмарка ИИ MLPerf Inference (v3.0).Ferra
Ускоритель Qualcomm Cloud AI100 также показал хорошие результаты по энергоэффективности по сравнению с Nvidia H100 в некоторых сценариях.Ferra
Эталон MLPerf Inference необходим для оценки производительности моделей ИИ в различных сценариях.Ferra
Недавний раунд показал достижения участников бенчмарка в плане производительности, энергоэффективности и оптимизации программного обеспечения.Ferra