Что делать, кога требуется универсальная рабочая станция под машинное обучение с несколькими GPU.
Первый путь - правильный, но дорогой
Обратить внимание на GPU-сервер, который позволяет гибко настраивать систему. Основным преимуществом является возможность расширять "на горячую" количество видеокарт в системе, настраивать виртуализацию, тонкий клиент и т.д
Минусом такого решения является специфика задачи и стоимость. Стоимость напрямую связана со сложностью решения. Уместить 2 видеокарты уровня NVIDIA RTX 4090 уже проблема. А если нужно 4-6 видеокарт?
Для производства используется рэковый корпус и кастомная система жидкостного охлаждения. Причина простая - в базе видеокарты RTX 4090 занимают 4 слота. Чтобы уместить в шасси больше 2-х штук требуется заменить охлаждение и обеспечить эффективный отток тепла. Ровно эта же конструкция решает вопрос шума.
Можно использовать профессиональную графику типа A6000 или GP100. Только это поднимает стоимость еще сильнее. И тут все упирается в целесообразность соотношения задач и стоимость их решения.
И казалось бы, собрал правильную систему, решил задачу - масштабируйся и отбивай потраченное. А если не взлетит, - риски перебивают желание.
Второй путь - десктопное решение, как пробник GPU-сервера
К нам обратился клиент с задачей - собрать графическую станцию для машинного обучения, видеообработки и анализом данных. Требовался тестовый ПК, чтобы понять нужную мощность, посчитать окупаемость и проверить в боевом режиме решение текущих задач.
При этом уложится в умеренную стоимость. Задача интересная и перспективная!
Рабочая станция DigitalRazor Performance Pro с двумя видеокартами RTX 4090
В основу системы легли видеокарты с трёхсекционным радиатором — замкнутой системой жидкостного охлаждения.
Чтобы в систему можно было установить больше одной видеокарты, они должны быть двухслотовыми, как упоминалось выше. Поэтому рассматривали вариант установки кастомной системы водяного охлаждения.
В рамках игрового компьютера - это красивое и изящное решение. Но это требует внимания, обслуживания и имеет ряд рисков. Например, потеря гарантии, при разборе видеокарт или ошибки в эксплуатации, иной форс-мажор. Речь про то, что риск протечек есть, а это в свою очередь ведет к потери времени на устранение неисправностей. А "время - деньги" - избитая фраза, но в случае с рабочим инструментом самая подходящая
Оптимальным решение является гибридный вариант- видеокарты с предустановленной системой замкнутого водяного охлаждения. Они, как раз, занимают два слота, имеют сниженный уровень шума и температуры. Как следствие, возможность установки в офисе и сохранение гарантии.
Для повышения эффективности отвода тепла были установлены корпусные кулера с повышенной эффективностью. Т.е скорость оборотов может быть увеличена до 3000 об\м
Кому подходит такое решение
- Подойдёт фрилансерам или инженерам в компании, которые занимаются работой в области машинного обучения, работой с big data, тяжёлым рендерингом больших сцен и CGI.
- Компаниям, которые хотят протестировать решение с RTX 4090 в своих задачах
- Для средней тяжести задач, где вопрос окупаемость затраченных ресурсов важен
Минусы:
- Достаточно высокий уровень шума под нагрузкой — для некоторых офисов это будет чересчур (по сравнению со стандартным ПК. С сервером все еще уровень шума не сравним);
- Рабочие температуры выше стандартных (Внимательно следить за нагрузками, решения вряд ли подойдет для работы 24\7);
- Ограниченные возможности по апгрейду и расширению GPU (При желании поднять мощности потребуется вторая система или GPU-сервер).
Переходите на сайт, чтобы собрать рабочую станцию или GPU-сервер под свои задачи.