Компания Super Micro Computer представила новые серверные решения на базе графических процессоров NVIDIA Blackwell. Системы демонстрируют существенный прирост производительности при работе с крупными языковыми моделями.
Тестовые запуски показали, что системы HGX B200 обрабатывают запросы в три раза быстрее предыдущего поколения H200 при работе с моделями Llama2-70b и Llama3.1-405b. Улучшения достигнуты благодаря новой архитектуре охлаждения и оптимизированному размещению компонентов.
Серверы с воздушным охлаждением 10U поддерживают до восьми графических процессоров Blackwell с тепловыделением 1000 Вт каждый. В стандартную 42U стойку теперь помещается 64 ускорителя ИИ, а в увеличенную 52U версию – до 96 чипов.
Особенность новых решений – вертикальные распределители охлаждающей жидкости, которые не занимают полезное пространство. Это позволило увеличить плотность размещения оборудования без потери эффективности теплоотвода.
Аналитики отмечают растущий спрос на подобные системы. Apple уже разместила заказ на серверы с GPU Blackwell на сумму около $1 млрд, выбрав Super Micro Computer и Dell в качестве поставщиков.
Новые серверные платформы особенно востребованы для задач генеративного ИИ, где критически важна скорость обработки запросов. Улучшенная производительность может сократить затраты на эксплуатацию дата-центров и ускорить внедрение ИИ-решений в бизнес-процессы.
