Как стало известно, Intel начала конференцию Vision 2024 с презентации процессора искусственного интеллекта Gaudi 3. Новый ускоритель разработан для увеличения производительности задач искусственного интеллекта на корпоративном уровне, и компания считает, что он превосходит по скорости существующее стандартное решение от Nvidia H100.
Gaudi 3 использует аналогичную архитектуру и базовые принципы, что и Gaudi 2, однако производится с применением более эффективного 5-нм техпроцесса TSMC, в отличие от использованного в Gaudi 2 7-нм техпроцесса TSMC. Это позволяет достичь большей производительности.
Спецификации Gaudi 3 включают до 128 ГБ памяти HBM2e с пропускной способностью 3,7 ТБ/с и тепловыделение 900 Вт. Intel продемонстрировала результаты тестирования, сравнивающие Gaudi 3 с главным конкурентом на рынке – Nvidia и ее ведущим графическим процессором H100, работающим с различными моделями масштабных языков, такими как LLAMA2-7B, LLAMA2-13B и GPT 3-175B. Gaudi 3 показал рабочую скорость на 1,7 раза выше. По заявлению Intel, Gaudi 3 является в 2,3 раза энергоэффективнее, чем Nvidia H100.
Компания Intel уже передала модели Gaudi 3 с воздушным охлаждением своим партнерам для тестирования, а официальный запуск ожидается в III квартале. Модели с жидкостным охлаждением поступят в продажу в IV квартале.