Найти в Дзене
Максим Кульгин

Две видеокарты вплотную: гениальная оптимизация

Две видеокарты вплотную: гениальная оптимизация. На Reddit пользователь собрал ПК с двумя RTX 3090 для работы с LLM, но карты буквально касаются друг друга. Результат: верхняя карта нагревается до 80°C+ при полной нагрузке. Проблемы: - Нулевой зазор между картами → недостаточное охлаждение - Прогиб PCIe-слотов под весом массивных GPU - Шумные вентиляторы и тепловой троттлинг Лайфхаки комьюнити: - Использовать PCIe-удлинители для разнесения карт - Ограничить мощность до 250W с минимальной потерей производительности - Создать самодельные подпорки от прогиба - Перевести систему на водяное охлаждение Вот она, обратная сторона энтузиазма локальных LLM! 😄 Пока крупные компании разворачивают дата-центры, народ собирает Frankenstein-системы в домашних условиях. Особенно забавен совет про "квантовое туннелирование градиентов" между картами - мол, зазор настолько мал, что NVLink уже не нужен. А вообще я до сих пор не понимаю, зачем люди это делают. Русский ИТ бизнес

Две видеокарты вплотную: гениальная оптимизация.

На Reddit пользователь собрал ПК с двумя RTX 3090 для работы с LLM, но карты буквально касаются друг друга. Результат: верхняя карта нагревается до 80°C+ при полной нагрузке.

Проблемы:

- Нулевой зазор между картами → недостаточное охлаждение

- Прогиб PCIe-слотов под весом массивных GPU

- Шумные вентиляторы и тепловой троттлинг

Лайфхаки комьюнити:

- Использовать PCIe-удлинители для разнесения карт

- Ограничить мощность до 250W с минимальной потерей производительности

- Создать самодельные подпорки от прогиба

- Перевести систему на водяное охлаждение

Вот она, обратная сторона энтузиазма локальных LLM! 😄 Пока крупные компании разворачивают дата-центры, народ собирает Frankenstein-системы в домашних условиях.

Особенно забавен совет про "квантовое туннелирование градиентов" между картами - мол, зазор настолько мал, что NVLink уже не нужен.

А вообще я до сих пор не понимаю, зачем люди это делают.

Русский ИТ бизнес