Qwen выпустил официальные квантованные модели Qwen3, и это прям круто! Теперь их можно запускать через Ollama, LM Studio, SGLang и vLLM в форматах GGUF, AWQ, GPTQ — качайте на Hugging Face и пробуйте... p.s. мы карты продали, поэтому увы и ах - не для нас. Проблема была одна - нужно место ставить сервер, не в офисе же :) Русский ИТ бизнес
Qwen выпустил официальные квантованные модели Qwen3, и это прям круто! Теперь их можно запускать через Ollama, LM Studio, SGLang и vLLM в форматах GGUF, AWQ, GPTQ — качайте на Hugging Face и пробуйте...
p.s. мы карты продали, поэтому увы и ах - не для нас. Проблема была одна - нужно место ставить сервер, не в офисе же :)
