Впервые с тех пор, как в 2018 году стартовало тестирование производительности обучения искусственного интеллекта Iperf, у чипов Nvidia практически не было конкуренции.
Nvidia и так отбрасывает длинную тень на мир искусственного интеллекта, но если судить по результатам последних бенчмарк-тестов, его способность вытеснять конкурентов с рынка может усилиться.
9 ноября MLCommons, американский консорциум, который курирует тест производительности машинного обучения MLPerf, опубликовал последние данные по «обучению» искусственных нейронных сетей.
Конкурс продемонстрировал наименьшее количество конкурентов Nvidia за последние три года: только одного — Intel.
В прошлых раундах, включая июньский, в соревновании принимали участие более трех компаний, включая Intel, Google с их «Тензорным процессором» (Google TPU) и британский стартап Graphcore, а также китайский гигант Huawei.
Из-за минимальной конкуренции Nvidia на этот раз набрала высшие баллы во всех категориях, тогда как в июне разделила первое место с Google. Nvidia представила системы, использующие графический процессор A100, который был выпущен несколько лет назад, а также новый графический процессор H100, известный как Hopper и названный в честь пионера вычислительной техники Грейс Хоппер (Grace Hopper). H100 получил наивысший балл в одном из восьми контрольных тестов для так называемых рекомендательных систем, которые обычно используются для предложения продуктов пользователям в Интернете.
Intel представила две системы, использующие чипы Habana Gaudi2, а также системы в статусе «предварительный просмотр», демонстрирующие новый серверный процессор Xeon под кодовым названием Sapphire Rapids.
Системы Intel оказались намного медленнее, чем компоненты Nvidia.
В пресс-релизе Nvidia говорится: «Графические процессоры H100 (Hopper) установили мировые рекорды во всех восьми корпоративных рабочих нагрузках MLPerf. Они показали производительность в 6,7 раза выше, чем графические процессоры предыдущего поколения в момент их первого тестирования MLPerf. A100 сегодня обладают в 2,5 раза большей производительностью в сравнении с первым тестированием, благодаря усовершенствованию ПО».
Во время пресс-конференции Дэйв Сальваторе (Dave Salvatore), старший менеджер по продуктам для ИИ и облачных вычислений Nvidia, сделал акцент на повышении производительности Hopper и «фишках» ПО A100. Сальваторе показал, как Hopper улучшает производительность по сравнению с A100 — другими словами, тест Nvidia против Nvidia, — а также показал, как Hopper смог превзойти чипы Intel Gaudi2 и Sapphire Rapids.
Опыт MLPerf показывает, что участники иногда пропускают конкурс только для того, чтобы вернуться в следующем раунде, поэтому отсутствие большего количества поставщиков не свидетельствует о какой-либо тенденции.
Google никак не прокомментировала отказ от участия в последнем раунде тестирования.
Представитель Graphcore сообщил, что на данный момент у инженеров компании есть более важные задачи, чем подготовка материалов для MLPerf, которая может занимать недели и месяцы.
«Возникла проблема уменьшения отдачи, — объясняет руководитель отдела коммуникаций Graphcore Иэн Маккензи (Iain Mackenzie), — в том смысле, что неизбежны бесконечные прыжки, будут сокращаться секунды, выдвигаться все более масштабные системные конфигурации».
Graphcore «возможно примет участие в будущих раундах MLPerf, но в данный момент конкурс не отражает те области искусственного интеллекта, где мы видим наиболее впечатляющий прогресс, — прокомментировал Маккензи. — Задачи MLPerf — это просто «ставки за столом».