Две видеокарты вплотную: гениальная оптимизация.
На Reddit пользователь собрал ПК с двумя RTX 3090 для работы с LLM, но карты буквально касаются друг друга. Результат: верхняя карта нагревается до 80°C+ при полной нагрузке.
Проблемы:
- Нулевой зазор между картами → недостаточное охлаждение
- Прогиб PCIe-слотов под весом массивных GPU
- Шумные вентиляторы и тепловой троттлинг
Лайфхаки комьюнити:
- Использовать PCIe-удлинители для разнесения карт
- Ограничить мощность до 250W с минимальной потерей производительности
- Создать самодельные подпорки от прогиба
- Перевести систему на водяное охлаждение
Вот она, обратная сторона энтузиазма локальных LLM! 😄 Пока крупные компании разворачивают дата-центры, народ собирает Frankenstein-системы в домашних условиях.
Особенно забавен совет про "квантовое туннелирование градиентов" между картами - мол, зазор настолько мал, что NVLink уже не нужен.
А вообще я до сих пор не понимаю, зачем люди это делают.