Вот что получается от обновленных графических.
Нынешний бум искусственного интеллекта требует больших вычислительных мощностей. Прямо сейчас большая часть этого приходится на графические процессоры Nvidia — компания поставляет где-то около 90 процентов рынка чипов искусственного интеллекта. В объявлении на этой неделе компания стремится расширить свое доминирование с помощью недавно анонсированной платформы следующего поколения GH200 Grace Hopper Superchip.
Хотя большинство потребителей, скорее всего, думают о графических процессорах как о компоненте игрового ПК или игровой консоли, они находят применение далеко за пределами сферы развлечений. Они предназначены для параллельного выполнения миллиардов простых вычислений, что позволяет им не только отображать компьютерную графику высокой четкости с высокой частотой кадров, но и майнить криптовалюты, взламывать пароли, а также обучать и запускать большие языковые модели (LLM) и другие формы генеративного ИИ. Действительно, название GPU довольно устарело — теперь это невероятно мощные многоцелевые параллельные процессоры.
На этой неделе на конференции по компьютерной графике SIGGRAPH компанияNvidia анонсировала платформу Superchip следующего поколения GH200 Grace Hopper. Чипы, как пояснила компания в пресс-релизе, были “созданы для обработки самых сложных в мире рабочих нагрузок генеративного ИИ, охватывающих большие языковые модели, рекомендательные системы и векторные базы данных”. Другими словами, они предназначены для выполнения миллиардов крошечных вычислений, необходимых этим системам искусственного интеллекта, как можно быстрее и эффективнее.
GH200 является преемником H100, самого мощного (и невероятно востребованного) чипа Nvidia текущего поколения, ориентированного на искусственный интеллект. GH200 будет использовать тот же графический процессор, но будет иметь 141 ГБ памяти по сравнению с 80 ГБ, доступными на H100. GH200 также будет доступен в нескольких других конфигурациях, включая двойную конфигурацию, объединяющую два GH200, которые обеспечат “в 3,5 раза больший объем памяти и в 3 раза большую пропускную способность, чем предлагаемое нынешним поколением”.
GH200 предназначен для использования в центрах обработки данных, таких как центры Amazon Web Services и Microsoft Azure. “Для удовлетворения растущего спроса на генеративный ИИ центрам обработки данных требуются ускоренные вычислительные платформы со специализированными потребностями”, - сказал Дженсен Хуанг, основатель и генеральный директор NVIDIA в пресс-релизе. “Новая платформа GH200 Grace Hopper Superchip обеспечивает это благодаря исключительной технологии памяти и пропускной способности, позволяющей повысить пропускную способность, возможности подключения графических процессоров для повышения производительности без компромиссов, а также серверной конструкции, которую можно легко развернуть во всем центре обработки данных”.
Чипы, подобные GH200, важны как для обучения, так и для запуска (или “логического вывода”) Моделей с ИИ. Когда разработчики искусственного интеллекта создают новый LLM или другую модель искусственного интеллекта, для обработки огромного объема обучающих данных используются десятки или сотни графических процессоров. Затем, когда модель будет готова, для ее запуска потребуется больше графических процессоров. Дополнительный объем памяти позволит каждому GH200 запускать более крупные модели ИИ без необходимости распределять вычислительную нагрузку между несколькими разными графическими процессорами. Тем не менее, для “гигантских моделей” несколько GH200 можно комбинировать с Nvidia NVLink.
Хотя Nvidia является наиболее доминирующим игроком, это не единственный производитель чипов искусственного интеллекта. AMD недавно анонсировала чип MI300X с 192 ГБ памяти, который будет конкурировать с GH200, но еще неизвестно, сможет ли он занять значительную долю рынка. Также есть ряд стартапов, которые производят чипы искусственного интеллекта, такие как SambaNova, Graphcore и Tenstorrent. Технологические гиганты, такие как Google и Amazon, разработали свои собственные, но все они также отстают от Nvidia на рынке.
Nvidia ожидает, что системы, построенные на ее чипе GH200, будут доступны во втором квартале следующего года. Пока не сообщается, сколько они будут стоить, но, учитывая, что H100 могут продаваться более чем за 40 000 долларов, маловероятно, что они будут использоваться на многих игровых ПК.
Наш тг канал: