Intel представила новый ускоритель искусственного интеллекта (ИИ) под названием Gaudi 3, сообщает Wccftech. Графический процессор Gaudi 3 производится по 5-нм техпроцессу TSMC, оснащён гетерогенным вычислительным механизмом, состоящим из 64 настраиваемых блоков ИИ, программируемых тензорных ядер (TPC) и восьми движков для умножения матриц (MME). Блоки разделены между двумя вычислительными кристаллами. Оба кристалла используют общий кэш объёмом 96 МБ и подключаются к восьми стекам HBM2e памяти объёмом до 16 ГБ каждый. Максимальный общий объём памяти ускорителя 128 ГБ, а пропускная способность — 3,7 ТБ/с.
Источник изображения: Intel Corp и Wccftech
Ускорители Gaudi 3 будут выпускаться в различных форматах и с различным охлаждением. Ускорители в форм-факторе OAM мощностью до 900 Вт будут предлагаться с воздушным охлаждением, мощностью более 900 Вт — с жидкостным.
Будут и PCIe варианты мощностью до 600 Вт с пассивным охлаждением. Intel также разработала 19-дюймовую плату, на которой можно разместить до восьми ускорителей общей мощностью 7,6 кВт.
Источник изображения: Intel Corp и Wccftech
В числе других преимуществ Gaudi 3: 4-кратное увеличение производительности вычислений в формате BF16, 1,5-кратное увеличение пропускной способности памяти и 2-кратное увеличение пропускной способности сети, в каждый ускоритель интегрированы по 24 порта Ethernet со скоростью 200 Гбит/с, что обеспечивает гибкие возможности создания быстрой масштабируемой сети.
Ускоритель разработан для эффективного выполнения крупномасштабных вычислений, каждый матричный движок способен выполнять 64 000 параллельных операций.
Источник изображения: Intel Corp и Wccftech
По тестам Intel, процесс обучения моделей на ускорителях Gaudi 3 может проходить до 1,7 раз быстрее, а поиск логических выводов до 1,5 раз быстрее, по сравнению с NVIDIA H100. Также отмечается преимущество в эффективности до 2,3 раз.
Ожидается, что ускорители Intel Gaudi 3 в формате OAM станут доступны в третьем квартале 2024 года, а PCIe варианты — в четвёртом квартале 2024 года.
