)... Прикиньте чел собрал монстрика и получил 40 символов в секунду генерации текста на очень хороших моделях. Цена? Не писал, но дороговато - уверен. Хотите такую штуку на балкон? :) Вот и я не очень... Русский ИТ бизнес
8x AMD MI50 32GB, скорость 26 t/s c MiniMax-M2.1 и 15 t/s c GLM 4.7 (vllm-gfx906)... Прикиньте чел собрал монстрика и получил 40 символов в секунду генерации текста на очень хороших моделях. Цена? Не писал, но дороговато - уверен.
Хотите такую штуку на балкон? :) Вот и я не очень...
