24 подписчика
Google Colab или свой GPU: аргументы за и против
Как выбрать подходящее для своих задач решение? Почему я так и не попробовал платные тарифы Google Colab?
Преимущества бесплатного Google Colab
Перед подпиской или покупкой GPU стоит потестировать бесплатный колаб – для абсолютного большинства разработчиков его будет более чем достаточно.
➕ На бесплатном ускорителе в Colab удается обучать сетки на скорости, сопоставимой с RTX3080.
➕ Когда суточный лимит бесплатного тарифа исчерпан – можно авторизоваться другим акаунтом Google, открыть в нем блокнот и продолжить эксперименты.
Недостатки Google Colab
Придется мириться с некоторыми неудобствами:
➖ Сервис периодически проверяет, находитесь ли вы за компьютером и прерывает сессию, в случае вашего отсутствия. На тарифе Pro+ позволяет работать в фоне до 24 часов.
➖ При перезапуске сессии придется заново скачивать и устанавливать все дополнительные пакеты, библиотеки, датасеты и т.п.
➖ У подписчиков Colab Pro за каждый час подключения расходуются compute units. Чем более мощный ускоритель вы выбрали – тем быстрее заканчиваются эти юниты.
➖ Страница с тарифами и их описанием вообще не даёт никакого представления о том, хватит ли вам подписки за 9.99$ или нужно сразу брать за 49.99$. (относительную стоимость часа каждого ускорителя можно посмотреть в этой таблице: GPU pricing).
Преимущества мощного локального GPU
Переход на свой GPU ощущается как резкое ускорение всего и вся. Пропадают сетевые задержки, всё выполняется молниеносно, никаких подключений-отключений, загрузок… А также:
➕ Нет ограничений по длительности сессии, сколько бы вы не отсутствовали – сессия не закроется, обучение не прервется, результаты не потеряются.
➕ Не нужно каждую сессию устанавливать и скачивать все дополнительные пакеты.
➕ Никаких проблем с дисковым пространством и его скоростью, модели 2-4Гб загружаются с SSD в ОЗУ за пару секунд.
➕ Не нужно следить за временем подключения, переживать за расходуемые вычислительные юниты и...
1 минута
6 августа 2023