Вот голые цифры по запуску GLM 5.2 в компромиссном Q4_K_M. Вся надежда на Mac Studio, хотя, учитывая, что они пока не выпустили M5 Ultra, подозреваю, что версия на 512 ГБ будет стоить 10 000 $+. А таких нужно два. В современных реалиях подозреваю, что стоимость составит 30 000 $+. В общем, пользуемся подписками, пока это почти бесплатно. Нет никаких предпосылок, что в обозримом будущем ИИ станет дешевле. Можете сами перепроверить расчеты. tg / max
Многие радуются появлению мощных и умных LLM-моделей с открытыми весами, что создаёт иллюзию доступности. Вот голые цифры по запуску GLM 5.2 в компромиссном Q4_K_M.
Вся надежда на Mac Studio, хотя, учитывая, что они пока не выпустили M5 Ultra, подозреваю, что версия на 512 ГБ будет стоить 10 000 $+. А таких нужно два.
В современных реалиях подозреваю, что стоимость составит 30 000 $+. В общем, пользуемся подписками, пока это почти бесплатно. Нет никаких предпосылок, что в обозримом будущем ИИ станет дешевле.
Можете сами перепроверить расчеты.
