Найти в Дзене
OVERCLOCKERS.RU

Графические процессоры AMD Instinct MI300X используются в LLM-капсулах LaminiAI

Похоже, что LaminiAI - один из первых клиентов AMD, получивших оптовый заказ на графические процессоры Instinct MI300X. В конце прошлой недели Шэрон Чжоу (генеральный директор и соучредитель) сообщила о том, что "следующая партия LaminiAI LLM Pods" уже готова к запуску с передовыми ускорителями Team Red серии CDNA 3 внутри. Ее короткое сообщение в социальных сетях гласило: "rocm-smi... как свежеиспеченный хлеб, 8x MI300X уже в сети - если вы строите на открытых LLM и у вас не хватает вычислительных мощностей, сообщите нам. Каждый должен иметь доступ к этой волшебной технологии под названием LLM".

На прилагаемом скриншоте сеанса ROCm System Management Interface (ROCm SMI) показана индивидуальная конфигурация Pod с восемью GPU Instinct MI300X. Согласно официальным записям в блоге, LaminiAI использует стандартные ускорители MI300 с 2023 года, поэтому неудивительно, что их партнерство с AMD продолжает развиваться. Согласно отраслевым прогнозам, модели Instinct MI300X и MI300A являются отличной альтернативой доминирующей серии H100 "Hopper" от NVIDIA - акции AMD растут благодаря обнадеживающим оценкам финансовых аналитиков.