Чтобы запустить нейросеть локально, надо иметь мощный компьютер. А мощный компьютер стоит недешево. Так что мне пришлось искать альтернативные способы. Нашла несколько вариантов. Сегодня расскажу о двух, которыми пользуюсь постоянно.
Все способы сводятся к тому, что вы пользуетесь удаленным сервером, который предоставляет вам в аренду ресурсы видеокарт различной мощности. Собственно, таких сервисов сейчас предлагается много, условия у них разные. Я выбрала вот эти два. Один из них наш, второй - зарубежный. Сравним, чем лучше тот или другой.
Сервисы такие:
- Российский сервис Gpudc.ru
- Западный сервис Runpod.io
Сам подход у них похожий. Вы выбираете тот вариант компьютерных ресурсов, который вас устраивает, подключаетесь к нему и пользуетесь Платите за время использования. Когда задача выполнена, отключаетесь, денег больше не расходуете. Но есть нюансы. Причем, у каждого свои. О них и поговорим.
Выбор видеокарты
На нашем сервисе выбор довольно скудный. Есть варианты с видеопамятью 12, 16, 24 гб. В принципе для основных задач вполне достаточно, но щироким этот выбор не назовешь.
На западном - выбор видеокарт огромный, на любой вкус. Много вариантов с RTX, хватит под любые самые навороченные задумки.
Здесь победитель очевиден.
Использование места на диске и сохранение данных
На GPUDC.ru дополнительной платы за использование диска не требуют. Заканчивая работу, вы можете сохранить образ диска и в следующий раз загрузить его со всеми вашими данными (скачанными моделями, расширениями, установленными программами и т.д.). Дополнительно есть и услуги за доплату, но это уже необязательно.
На Ранподе вы выбираете требуемый объем диска и закачиваете туда то, что вам нужно. В зависимости от объема, с вас берут доплату. Более того, когда вы закончили работу, вы отключаетесь и больше не платите за видеокарту, но вот за диск с вас продолжают высчитывать денежки. Чтобы этого избежать, можно полностью удалить ваш сервер, но тогда вы теряете все данные, которые туда залили.
Удобство операций в системе
Наш GPUDC.ru предлагает вариант подключения удаленного рабочего стола с установленной Windows. Соответственно все очень привычно и удобно. Но сам доступ идет через программу подключения удаленного рабочего стола (она стандартная, в компьютере имеется по умолчанию). И из-за этого процесс может подтормаживать. И начальная загрузка сохраненного образа диска занимает очень приличное время сама по себе. Так же, как и завершение работы, сохранение образа занимает прилично времени.
На Ранподе используются специальные шаблоны под разные задачи. Операции производятся через блокнот Юпитер (кто знаком с Питоном, понимает, о чем речь). Шаблонов много, можно использовать вариант максимально близкий к вашей задаче, но делают их разные люди, и у каждого есть свои особенности.
Можно также сделать свой собственный шаблон. Но тоже - вначале покопаться и разобраться. Основательно так. Ну, это для любителей.
С другой стороны, все работает через браузер, это быстро и удобно.
Цены и оплата
С оплатой все понятно - за наш сервис платите без проблем с карты, а за западный - через посредников с дополнительной комиссией. Размер комиссии - ну тут уж смотря какого посредника нашли и какие у него условия. Всегда есть минимальный размер комиссии, так что хотя в теории можно закидывать на баланс копейки, в реальности это невыгодно. Тогда как на Gpudc можно и 100 рублями обойтись для старта.
Про цены. Что-то дешевле в одном месте, что-то в другом. Приведу просто для сравнения примеры по нескольким видеокартам. Но предложения разные, и бывает, что варианты с одинаковыми ресурсами стоят очень по-разному.
Итак. Наиболее выгодные для меня предложения нашего сервиса Gpudc.ru были такие (цены за час использования):
- M40 12 GB - 6 руб.
- P100 16GB - 15 руб
- RTX 3090 24 GB - 40 руб
Как видите, для обычных задач, которым достаточно и 12 гб цена вообще супер. Но даже и 40 руб. недорого за использование компа, на который бы ушли реально большие деньги. Правда, есть и более дорогие варианты.
Теперь посмотрим, что нам предлагает Ранпод. Здесь вообще выбор огромный, но выборочные примеры такие (опять же в час):
- RTX 3080 Ti 12 GB - $0.18
- RTX A4000 16GB - $0.17
- RTX A4500 20GB - $0.19
- RTX A5000 24GB - $0.22
- RTX A6000 48GB - $0.49
Т.е. как видите, чем мощнее карта, тем более выгодным становится этот сервис. Но, надо иметь в виду, что к этим ценам надо добавить оплату за место на диске. Например:
- 80GB - $0.017/$0.022
- 49GB - $0.011/$0.011
Здесь первая цена - доплата в то время, когда используется видеокарта, а вторая - за время простоя.
На Ранподе, кстати, можно арендовать видеокарту и по более низкой цене, но места ограничены, а если найдется претендент на ваше место, который предложит полную цену, вас просто отключат. Поскольку речь о работе, мне такой вариант не понравился.
Вот такой расклад. У меня на Бусти вы можете воспользоваться инструкцией по подключению к сервису Gpudc.ru.
Кроме того, там есть полезный гайд по полностью бесплатному подключению к удаленному серверу. Именно так, вообще ни копейки платить не надо. Но, как вы понимаете, удобство несколько хромает в этом случае. И элементы «выноса мозга» присутствуют. Но для кого актуально - заходите, изучайте.
Ссылка на мой Бусти - https://boosty.to/marin_ai