Чел на r/LocalLLaMA похвалился своим крутым ПК для ИИ. Собрал себе зверя: 4 видеокарты RTX 3090, процессор TR 3945wx, 256 ГБ оперативки, SSD на 2 ТБ, материнка Asrock Creator WRX80, блок питания на 2200 Вт и здоровенный радиатор Heatkiller MoRa 420 (слева на картинке я так полагаю).
Всё это в старом, но легендарном корпусе Silverstone RV-02 2011 года. Температура видеокарт 57°C, шум почти нулевой. Потратил $6700... Тестил на Qwen 14B AWQ — выдал 4 млн токенов за 15 минут - это очень много, кстати.
Все в восторге, комменты полны шуток про обогрев квартиры и счета за электричество :) Ну молодец, скажу так, хотя смысла пока не вижу - больше хобби. Как думаете - какова применимость?
