Nvidia представила DGX Spark — мощный AI-коробка, способная затмить более дешевый чип AMD Strix Halo

NVIDIA DGX SPARK: СТАРТ С СОМНЕНИЯМИ

NVIDIA представила свой новый продукт — DGX Spark, предназначенный для задач искусственного интеллекта. Но насколько он хорош? Ответ зависит от ваших требований. По ряду популярных критериев, DGX Spark не предлагает значительно большей скорости по сравнению с более доступным устройством на основе чипа AMD Strix Halo, который стоит почти в два раза дешевле.

ПРИНЦИПЫ РАБОТЫ

Одним из ключевых аспектов, влияющих на производительность, является точность вычислений с плавающей запятой. Уменьшение этой точности может ускорить выполнение задач, но справедливый вопрос: как это отразится на точности моделей ИИ? DGX Spark использует новейшую архитектуру NVIDIA Blackwell, оптимизированную для работы с FP4, что позволяет ему демонстрировать высокую скорость, но при этом может ухудшить качество результатов.

СРАВНЕНИЕ С AMD STRIX HALO

На данный момент, стоимость базовой конфигурации DGX Spark с 128 ГБ ОЗУ и 4 ТБ SSD составляет 3999 долларов. Для сравнения, система Framework Desktop с AMD Strix Halo и аналогичным объемом памяти и SSD доступна всего за 2348 долларов. Разница очевидна.

YouTuber Bijan Bowen, который приобрел DGX Spark за собственные средства, выразил сомнения в том, что устройство справляется с реальными задачами. Он не уточняет режимы плавающей запятой, но утверждает, что интересуется практическими показателями.

Тестируя модели, как Llama 3.3 70B, он заметил, что Strix Halo выдает 4.97 токенов в секунду, в то время как DGX Spark — 4.67. Однако в тесте по другой модели, DGX Spark увеличивает темп до 38.03 токенов, что несколько обнадеживает.

ПРЕИМУЩЕСТВА DGX SPARK

Хоть и с высокої ценой, DGX Spark является мощным инструментом для обучения и экспериментов с искусственным интеллектом, обеспечивая поддержку обширного спектра ПО. Это идеальное решение для тех, кто хочет создать мини-лабораторию ИИ. Несмотря на это, аналогичные результаты FP8 можно получить на Strix Halo, который, к тому же, более доступен.

В итоге, DGX Spark — это интересное устройство с явными недостатками и ограничениями. Оно слишком дорого для тех, кто ищет максимальную производительность. Для большинства пользователей более эффективным выбором будет система на основе AMD Strix Halo. Несмотря на это, DGX Spark может быть полезен в зависимости от задач и целей обучения.

Не забудьте подписаться на наши каналы Дзен, Telegram и ВК.

Мы всегда рады видеть вас среди наших читателей и подписчиков GadgetsROOM!