1799 подписчиков
Intel представил ускоритель ИИ Gaudi 3
Компания Intel начала свою конференцию Vision 2024 с представления чипа Gaudi 3 для обработки искусственного интеллекта. Gaudi 3 предназначен для ускорения рабочих нагрузок ИИ на корпоративном уровне, и компания считает, что он быстрее, чем текущий отраслевой эталон — графический процессор Nvidia H100. Gaudi 3 использует ту же архитектуру и принципы, что и Gaudi 2, но в нем применяется 5-нм техпроцесс TSMC (по сравнению с 7-нм в Gaudi 2), что делает его более эффективным. Gaudi 3 имеет до 128 ГБ HBM2e с пропускной способностью 3,7 ТБ/с и TDP 900 Вт. Intel показала бенчмарки, сравнивающие Gaudi 3 с лидером рынка Nvidia и ее доминирующим GPU H100, в которых использовались различные модели больших языков, такие как LLAMA2-7B, LLAMA2-13B и GPT 3-175B. Gaudi 3 работает в 1,7 раза быстрее. Intel также утверждает, что Gaudi 3 в 2,3 раза энергоэффективнее, чем Nvidia H100. Intel уже отправила модели Gaudi 3 с воздушным охлаждением на пробу партнерам... #технологии #IT #gadgets
Около минуты
11 апреля 2024