Сожрали 32 Gb Ram в ИИ задаче. И что? В текущих реалиях сервера под сдачу в аренду на clore/vast требуют особого внимания к тушке. Как видно на скрине, моя сборка из 5070ti + 32 ram + 2680v4 + 500 gb m2 nvme под ИИ задачей llm — съели всю ram и используют swap на ssd, что сильно замедляет процесс. Буду увеличивать RAM до 64 Gb в каждой машинке. 🎞 YouTube | 🌐 Rutube | Обсудить в чате | -20% EMCD pool | Аренда GPU
Сожрали 32 Gb Ram в ИИ задаче. И что?
В текущих реалиях сервера под сдачу в аренду на clore/vast требуют особого внимания к тушке.
Как видно на скрине, моя сборка из 5070ti + 32 ram + 2680v4 + 500 gb m2 nvme под ИИ задачей llm — съели всю ram и используют swap на ssd, что сильно замедляет процесс.
Буду увеличивать RAM до 64 Gb в каждой машинке.
🎞 YouTube | 🌐 Rutube | Обсудить в чате | -20% EMCD pool | Аренда GPU
