На мероприятии Vision 2024 компания Intel представила ряд новинок, включая свои новые процессоры Gaudi 3 AI.
Согласно заявлению компании, эти процессоры обеспечивают:
☑️1,5–1,7 раза большую производительность обучения по сравнению с конкурентами в лице Nvidia H100. Сравнение производилось на моделях LLAMA2-7B (7 миллиардов параметров) и LLAMA2-13B с 8 и 16 ускорителями Gaudi, соответственно, а также на модели GPT 3-175B, протестированной с 8 192 ускорителями Gaudi при использовании формата FP8.
☑️ 40% лучшую эффективность по сравнению с лидирующими на рынке процессорами H100 от Nvidia. При этом стоимость их значительно ниже.
☑️ В четыре раза больше производительности в формате BFloat16, что делает его отличным выбором для обучения моделей ИИ за счет минимизации требований к объему памяти.
☑️ GPU могут оснащаться до 128 ГБ памяти стандарта HBM3e, что позволяет обрабатывать более сложные модели.
☑️ Gaudi 3 удваивает пропускную способность сети по сравнению с предыдущей моделью, что важно для распределенных ИИ задач.
Процессор Gaudi 3, построенный на основе технологии TSMC 5 нм, обещает в 1,5 раза большую производительность по сравнению с предыдущей моделью Gaudi 2. Системы на основе данного GPU будут поставлять такие компании, как Dell, HPE, Lenovo и Supermicro. Массовое производство обещают начать в 3 и 4 кварталах 2024 года соответственно, а карты в формате PCIe будут доступны в 4 квартале.
В софте Intel сосредоточена на поддержке мультимодальных моделей обучения и вывода, а также на RAG (генерация с расширенным поиском). А инструменты Intel, основанные на OneAPI, должны помочь упростить перенос существующих ИИ наработок на основе PyTorch 2.0.
Intel также объявила о новом брендинге своего портфолио процессоров для центров обработки данных: чипы Granite Rapids и Sierra Forest теперь называются новым семейством «Xeon 6». Эти чипы появятся на рынке в этом году и будут поддерживать новый стандартизированный формат данных MXFP4, повышающий производительность.
