Специалисты Московского физико-технического института разработали подход, который позволяет компаниям строить независимую ИИ-инфраструктуру без опоры на оборудование NVIDIA. Институт искусственного интеллекта МФТИ провёл исследование альтернативных графических ускорителей и на основе результатов создал Центр компетенций, призванный помочь бизнесу перейти на новые аппаратно-программные решения.
Почему это важно
Доступность GPU и ПО NVIDIA в России остаётся ограниченной: компании сталкиваются с увеличением сроков поставок, невозможностью официально загружать драйверы и отсутствием технической поддержки. Это подталкивает бизнес к поиску новых путей построения вычислительных контуров для задач машинного обучения.
Что исследовали специалисты МФТИ
Институт провёл комплексную оценку альтернативных графических ускорителей, включая решения китайских производителей Moore Threads и MetaX. Анализ охватывал:
- архитектуру устройств;
- драйверы и программную совместимость;
- работу популярных ML-фреймворков;
- устойчивость под длительной нагрузкой;
- поведение в задачах LLM, компьютерного зрения, инференса и распределённых вычислений.
Как отметил научный директор Института ИИ МФТИ Юрий Визильтер, ключевыми параметрами были скорость, воспроизводимость вычислений, стабильность под нагрузкой и предсказуемость работы моделей на разных типах GPU. На их основе команда сформировала готовые программно-аппаратные конфигурации, подходящие для запуска современных языковых моделей.
Результаты: альтернативы показали себя лучше ожидаемого
Исследование подтвердило, что GPU Moore Threads S4000 и MetaX C500 могут выполнять полный цикл работы ИИ-моделей, обеспечивая:
- корректный запуск популярных LLM;
- работоспособность современных фреймворков;
- стабильную и предсказуемую производительность;
- устойчивость при длительных нагрузках.
В отдельных задачах результаты альтернативных карт сравнялись или превзошли показатели NVIDIA A100, что делает их применимыми в промышленном использовании.
Отдельный акцент был сделан на работе в составе кластеров: разработанный МФТИ программный стек позволяет объединять мощности, распределять ресурсы и запускать крупные модели в многузловых конфигурациях.
Центр компетенций: поддержка компаний «под ключ»
На основе исследования в МФТИ создан Центр компетенций по аппаратным решениям, не зависящим от экосистемы NVIDIA. В него входят:
- лучшие инженерные практики и методики тестирования;
- оптимизированные конфигурации оборудования;
- опыт взаимодействия с производителями альтернативных GPU.
Центр готов поддерживать компании на всех этапах — от подбора оборудования и нагрузочного тестирования до настройки пайплайнов обучения и инференса, а также сопровождать системы в эксплуатации.
Что дальше
Команда МФТИ планирует:
- продолжить тестирование следующих поколений GPU;
- расширить перечень поддерживаемых ИИ-моделей;
- подготовить отраслевые рекомендации для построения автономной российской инфраструктуры машинного обучения.
Источник: https://mipt.ru/news/v-mfti-nashli-alternativu-nvidia-
Больше интересного – на медиапортале https://www.cta.ru/