Коллега вчера подходит: «Слушай, а можно нейросеть прямо на ноутбуке запустить? Без регистраций, без интернета вообще?» Я открыл PowerShell, ввёл три команды — через пять минут на его рабочем ноуте с Windows 11 работала рассуждающая модель уровня OpenAI o1. Бесплатно. Локально. Без облака. Показываю как.
Зачем тащить нейросеть к себе на комп
Смотрите, у ChatGPT и Claude есть два раздражающих свойства: они требуют интернет и отправляют ваши запросы на чужие серверы. Для рабочих документов, личных заметок и чувствительных данных — так себе вариант.
Ollama — программа, которая запускает языковые модели (LLM — large language model, «мозг» ChatGPT, только другой) прямо на вашем компьютере. Без облака, без подписки, без лимитов. Скачал, установил, работаешь.
А DeepSeek R1 — открытая модель от китайской компании DeepSeek. Её фишка — она рассуждает. Перед ответом выдаёт цепочку мыслей (chain-of-thought — буквально «ход мысли», когда модель проговаривает логику шаг за шагом). В задачах на логику и код она показывает результаты на уровне GPT-4o и Claude Sonnet.
И главное — бесплатная и открытая. Качаешь и пользуешься.
Что нужно из железа
Честно говоря, требования скромные. Вот минимум:
- Windows 10 или 11 (64-bit)
- 8 ГБ оперативки — для модели на 7 миллиардов параметров (7b). Это самая компактная версия
- NVIDIA видеокарта — желательно, но не обязательно. Без неё модель считает на процессоре, просто медленнее
Если оперативки 16 ГБ и есть видеокарта с 6+ ГБ видеопамяти — можно замахнуться на версию 14b. А с 32 ГБ RAM и RTX 3080/4070 — даже на 32b, она уже реально сильная.
На слабом железе не пытайтесь ставить большие версии. У меня на старом ноуте с 8 ГБ RAM модель 14b просто зависла. Откатился на 7b — полетела нормально.
Установка: 3 шага, 5 минут
Шаг 1. Идёте на сайт ollama.com, жмёте Download, скачиваете .exe-установщик. Весит около 90 МБ. Устанавливаете как обычную программу — далее, далее, готово.
Шаг 2. Открываете PowerShell (правой кнопкой по меню «Пуск» → «Терминал» или «Windows PowerShell»). Вводите:
ollama pull deepseek-r1:7b
Эта команда скачивает модель. Размер — около 4.7 ГБ. На хорошем интернете — пара минут.
Шаг 3. После загрузки вводите:
ollama run deepseek-r1:7b
Всё. Модель запустилась. Прямо в терминале появится строка ввода — пишите вопрос и получаете ответ. Без регистрации, без API-ключей, без интернета (после первой загрузки).
Окей, три команды, а не три шага? Ну, pull и run можно объединить: если написать сразу ollama run deepseek-r1:7b, она сама скачает модель при первом запуске. Так что технически — две команды.
Кидаю ей задачку — и она думает вслух
Сразу кинул классику: «У фермера 17 овец. Все, кроме 9, убежали. Сколько осталось?»
DeepSeek R1 сначала выдала блок <think> — свои рассуждения. Там она разобрала формулировку, заметила ловушку со словом «кроме» и вывела правильный ответ: 9. Не буду врать — я сам на секунду задумался, а модель разложила всё по полочкам. Видно, как она «думает», а не просто выплёвывает первое попавшееся.
На математике и логике эта модель реально хороша. На генерации художественных текстов на русском — послабее, но для разбора задач, анализа кода и структурированных ответов — отлично.
Какую версию выбрать под своё железо
ВерсияРазмер файлаМинимум RAMСкорость на CPUКомментарий 7b~4.7 ГБ8 ГБ3-8 токенов/секДля любого ноута. Базовая, но рабочая 14b~9 ГБ16 ГБ2-5 токенов/секЗаметно умнее, нужна нормальная машина 32b~20 ГБ32 ГБ1-3 токенов/секСерьёзный уровень. Без GPU — мучение Токены в секунду (t/s) — это скорость генерации текста. 5 t/s — примерно 3-4 слова в секунду. Читать успеваешь, но «как ChatGPT» не будет. На GPU скорость вырастает в 3-5 раз.
Если у вас на процессоре получается 1-2 t/s — это реально медленно. Слово… за… словом. Для экспериментов сойдёт, для работы — нужна видеокарта или версия поменьше.
Когда терминал надоел — красивая морда
Знаете что, терминал — штука рабочая, но не всем нравится чёрный экран с мигающим курсором. Есть решение — Open WebUI. Веб-интерфейс, который выглядит почти как ChatGPT, только работает с вашей локальной Ollama.
Установка через Docker (если он у вас стоит):
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway ghcr.io/open-webui/open-webui:main
После этого открываете в браузере localhost:3000 — и получаете привычные чатики с историей, переключением моделей и всем остальным. Я первый раз открыл, увидел полноценный интерфейс — и закрыл вкладку. Просто не поверил, что это крутится у меня на ноуте. Открыл заново. Работает.
Если Docker — это слишком, есть вариант попроще: Ollama сама умеет отдавать API на localhost:11434, и к ней можно подключить кучу сторонних интерфейсов. Но это тема для отдельной статьи.
✍️ Если статья зашла — поставь 👍 и подпишись на «Скажи AI».
📲 Короткие посты и фишки между статьями — в моём Телеграме: @skazhi_ai
💬 А у вас какой ноут — потянет DeepSeek R1? Напишите модель и оперативку — подскажу, какую версию ставить.