В этой статье разберем, как установить текстовую нейросеть "llama3.2 1B" через "LM Studio" (да тут особенно и разбираться не с чем: скачал, загрузил, запустил. Статья как ответ на коммент к прошлой статье - "Что так сложно?").
Идем на сайт: https://lmstudio.ai
Качаем версию для Windows (под вашу машину, короче):
Запускаем. Начнется какая-то непонятная анимационная "хрень" во время пляски которой будет проведена установка. После этого запустится интерфейс, который встанет по адресу (для Windows):
\Users\UserNAme\AppData\Local\LM-Studio\LM Studio.exe
Интерфейс программы:
Идем сюда и скачиваем для пробы вот эту модель:
Можем ввести "фильтр" и скачать любые модели, которые представлены в списке.
Нажали "Download" и началась закачка.
Модели по умолчанию качаются в папку:
\Users\User_Name\.cache\lm-studio\models
Скачанная модель разместилась вот тут:
По окончании скачивания выводится сообщение и кнопка "Загрузить модель"
Жмем "Load Мodel".
Где писать найдете сами?
Соответственно качаем модели какие надо и т.п.
Зеленая стрелка — загрузить модель (из скачанных)
Красная стрелка — выгрузить модель из памяти ("извлечь" как компакт-диск)
Я не знаю, что тут еще объяснять...
Не забудьте зайти в настройки и включить "Русский", и да будет вам "щасте"
Движок при обнаружении cuda-конфигурации сам настраивается на видеопамять и работу с CUDA, цифры означают:
1 - модель загружена
2 - модель выгружена
3 - пики — выполнение задания
4 - общая нагрузка на систему
На главную:
Удачи!
NStor
https://t.me/stable_cascade_rus
https://t.me/srigert
