14,7 тыс подписчиков
На презентации Nvidia было несколько интересных моментов, но главное - это все-таки фокус на ИИ.
Дженсен сказал, что современные дата-центры ограничены как правило питанием, которое может быть выделено на сумму всех установленных в них серверах, и Nvidia считают, что решение на базе GH200 (процессор Grace + графика Hopper) дает в два раза большую энергоэффективнось в сравнении с серверами x86. А значит, совсем скоро дата-центры должны будут "выкинуть" свое старое x86-железо и перейти на новое, заточенное под ускорение AI (конечно же от Nvidia).
Кажется, именно поэтому финансовый директор Nvidia К. Кресс недавно высказалась, что искусственный интеллект заработает для зеленых 11 миллиардов долларов за 3 следующих месяца (на 64% больше, чем за аналогичный период прошлого года).
Секретов эффективности данного решения два.
Во-первых, речь не об одном сервере или одной плате, а о совокупности - при работе над одной задачей. У Nvidia своя быстрая шина Nvlink, собственные свичи оптической коммутации и память во всем массиве Grace Hopper общая, то есть даже если у вас 256 суперчипов GC200 со 144 Тб общей памяти, то каждый CPU и каждый GPU в системе будет видеть весь объем памяти и сможет получить доступ ко всей с общей производительностью.
Во-вторых, в каждом GH200 Nvidia использует 72-ядерный CPU Grace на базе Arm Neoverse V2, GPU класса H100, а также 96 Гбайт HBM3 и 512 Гбайт LPDDR5X. При этом память специально настроена для круглосуточной работы в дата-центрах, по словам Дженсена.
В итоге мы имеем высокоинтегрированное решение с огромной процессорной и графической производительностью и колоссальным объемом общей памяти. И все это заточено под обучение AI, конечно же.
Ждем, когда пройдет несколько лет, и Дженсен объявит со сцены, что время таких решений как GH200 тоже уже прошло и данные серверы пора выкидывать, чтобы купить какое-нибудь Nvidia GX500, которое будет эффективнее в дата-центре не в виде одного сервера, а виде всей суммы серверных стоек, связанных одной шиной, скованных одной задачей.
1 минута
29 мая 2023
268 читали