В последние годы рынок видеокарт претерпел серьезные изменения. Сначала видеокарты подорожали в десятки раз из-за дефицита чипов, вызванного пандемией, и майнинга криптовалюты. А сейчас наступила истерия вокруг генеративного искусственного интеллекта, который также требует огромных вычислительных мощностей. Цены остаются высокими на видеокарты, потому что высокопроизводительные графические процессоры, предназначенные для ускорения машинного обучения, могут стоить десятки тысяч долларов, и к тому же санкции делают их недоступными для китайских и российских компаний. В результате некоторые предприимчивые продавцы начали предлагать загадочные видеокарты с поддержкой искусственного интеллекта, например, 20-гигабайтные RTX 3080. Скорее всего, эти видеокарты модифицированы где-то в китайском подвале, поэтому покупка несёт определенные риски, но все же многим интересно, что они вообще предложить потенциальному клиенту.
Все, что вам нужно сделать, это зайти в известный интернет-магазин AliExpress, и вы увидите в продаже эти модифицированные видеокарты RTX 30-й серии. Большинство из них помечены как "турбо игровые", но они явно предназначены для работы с искусственным интеллектом. Есть еще несколько моделей, но RTX 3080, похоже, является самой популярной видеокартой для франкенштейновских экспериментов. Стоковый радиатор и вентилятор были удалены и заменены невзрачным кулером, который используется в профессиональных видеокартах для облегчения монтажа в серверных средах.
Одна из доступных видеокарт RTX 3080 емкостью 20 ГБ. Источник: AliExpress
Многих удивит количество видеопамяти, установленной на модифицированных видеокартах – целых 20ГБ GDDR6X. Да, у RTX 3080 ее было не так уж и много — максимум 12 ГБ. Однако моддеры доказали, что можно заменять модули памяти объемом 1 ГБ на модули объемом 2 ГБ. Таким образом, базовая модель 3080 с 10 ГБ видеопамяти увеличивается до 20 ГБ, хотя это все равно меньше, чем у специальных видеокарт для искусственного интеллекта. Для обучения больших языковых моделей (LLM) требуется много памяти, поэтому настоящие ИИ-ускорители, такие как H100, имеют 80 ГБ видеопамяти. В описании также указаны всем известные базовая и повышенная частоты 1440/1710 МГц, а также 8704 ядра CUDA. У H100 их вдвое больше.
Находчивые продавцы сразу предупреждают, что эти видеокарты бывшие в употреблении - нетрудно догадаться, что они были взяты с закрытых майнинговых ферм. RTX 3080 пользовалась большой популярностью среди майнеров, многие из которых расширили свои фермы до невероятных масштабов, поскольку цены на криптовалюту резко выросли в 2020 и 2021 годах. В те времена RTX 3080 была одной из лучших игровых видеокарт. Сейчас майнинг мертв и все переключились на искусственный интеллект, поэтому видеокарты были перепрофилированы. Видеокарты для майнинга очень сильно нагружают видеопамять и к тому же находятся в очень горячих серверах в течение длительного времени. Поэтому они не самые надежные.
Стоимость этих видеокарт составляет чуть менее 1000 долларов, что многовато для RTX 3080. Однако для видеокарты с 20 ГБ видеопамяти это хорошая цена. На данный момент только несколько топовых моделей предоставляют столько видеопамяти требовательным геймерам. Тем не менее, маловероятно, что эти модифицированные видеокарты существовали без предприимчивых китайских продавцов. К тому же США заблокировали импорт передовых полупроводниковых технологий в Китай, вынудив компании использовать некачественные отечественные компоненты. Модифицированные видеокарты не будут такими же быстрыми и надежными, как настоящие ускорители искусственного интеллекта от Nvidia, но они могут быть единственным жизнеспособным вариантом для некоторых проектов искусственного интеллекта.