Найти тему
PC-Monstor

Лучшие модели GGUF для слабых устройств

Как всегда буду краток и понятен.

в интеренете я нашел всего 3 модели
16b - DeepSeek-Coder-V2-Lite-Instruct-GGUF
2b - Vikhr-Gemma-2B-instruct
1b - Vikhr-Llama-3.2-1B-instruct-GGUF
Все они очень хорошо справляются с русской речью, и на моем обородувании работаю очень шустро.( у меня только процессор i31215u)


Тeсты ниже то как шустро работают модельки в LM studio

Vikhr-Llama-3.2-1B-instruct-GGUF
Vikhr-Llama-3.2-1B-instruct-GGUF
Vikhr-Gemma-2B-instruct
Vikhr-Gemma-2B-instruct

DeepSeek-Coder-V2-Lite-Instruct-GGUF
DeepSeek-Coder-V2-Lite-Instruct-GGUF

Я хз уже че писать , гляньте мои прошлые статьи

#GGUF #модельGGUF #выбормодели #слабыеустройства #качествогенерации #отзывы #рекомендации #бесплатныеверсии #тестирование #совместимость #потребности #эксперты #эксперименты #стоимость