Найти в Дзене
Shazoo
23,9 тыс подписчиков

Nvidia представила настольный ИИ-суперкомпьютер Project DIGITS для разработчиков

1 мин
На CES 2025 Nvidia анонсировала Project DIGITS — суперкомпьютер для настольного использования, предназначенный для разработки ИИ-моделей. Машина оснащена суперчипом GB10 Grace Blackwell, позволяющим запускать языковые модели (LLM) объемом до 200 миллиардов параметров на одном блоке и до 405 миллиардов параметров при использовании двух соединенных блоков. Создание и обучение языковых моделей требует значительной вычислительной мощности для обработки огромного объема данных. Количество параметров модели является ключевым показателем ее возможностей — модели с большим числом параметров, как правило, показывают лучшие результаты в тестах на рассуждение и знания. Большинство разработчиков ИИ используют локальные видеокарты, такие как Nvidia 4090, или облачные сервисы GPU, которые обходятся дороже. Однако память Nvidia 4090 ограничивает работу с моделями объемом примерно до 30 миллиардов параметров, в то время как новые открытые модели, такие как Grok-1 от xAI (314 миллиардов параметров), зн

На CES 2025 Nvidia анонсировала Project DIGITS — суперкомпьютер для настольного использования, предназначенный для разработки ИИ-моделей. Машина оснащена суперчипом GB10 Grace Blackwell, позволяющим запускать языковые модели (LLM) объемом до 200 миллиардов параметров на одном блоке и до 405 миллиардов параметров при использовании двух соединенных блоков.

Создание и обучение языковых моделей требует значительной вычислительной мощности для обработки огромного объема данных. Количество параметров модели является ключевым показателем ее возможностей — модели с большим числом параметров, как правило, показывают лучшие результаты в тестах на рассуждение и знания.

Большинство разработчиков ИИ используют локальные видеокарты, такие как Nvidia 4090, или облачные сервисы GPU, которые обходятся дороже. Однако память Nvidia 4090 ограничивает работу с моделями объемом примерно до 30 миллиардов параметров, в то время как новые открытые модели, такие как Grok-1 от xAI (314 миллиардов параметров), значительно превышают этот предел.

Проект DIGITS легко справляется с такими объемами данных в двухблочной конфигурации благодаря сетевым адаптерам Nvidia ConnectX. Каждый блок включает:

  • 20-ядерный ARM-процессор
  • GPU Blackwell от Nvidia с производительностью 1 PFLOP для вычислений FP4
  • 128 ГБ оперативной памяти DDR5X
  • 4 ТБ хранилища NVMe

Чипы на базе Blackwell GPU поддерживают FP4, что позволяет быстрее обрабатывать данные за счет сокращения битности вычислений. Хотя переход с FP16 или FP8 на FP4 снижает точность отдельных операций, Nvidia оптимизировала вычисления таким образом, чтобы конечная точность вывода LLM оставалась на уровне более высоких форматов.

Главное преимущество Project DIGITS — возможность легкого переноса проектов с локальной системы в облако благодаря архитектуре Grace Blackwell, которая совместима с платформой Nvidia AI Enterprise.

Запуск Project DIGITS запланирован на май 2025 года. Стоимость одного блока составит более $3000.

Комментарии на сайте

Бизнес и финансы
1,13 млн интересуются