Я был уверен, что локальная нейросеть — это настройка серверов, конфиги в терминале и полдня потерянного времени. Потом я поставил Open WebUI. Одна команда — и в браузере открылся интерфейс, неотличимый от ChatGPT. Только работает на моём компьютере, без интернета и без чужих серверов. Open WebUI — браузерный интерфейс для локальных языковых моделей. Ставится рядом с Ollama, запускается как сайт на `localhost` и даёт знакомое окно чата прямо в браузере. Разговоры хранятся локально в SQLite — никуда не уходят...

Некоторое время назад я отправил в ChatGPT черновик рабочего договора с именами и реквизитами — и сразу почувствовал дискомфорт. Документ улетел на серверы OpenAI, обработался там и вернулся ответом. Формально всё по правилам, но осадок остался. Именно тогда я решил попробовать запустить нейросеть прямо у себя на ноутбуке — без облаков, без подписок, без отправки данных куда бы то ни было. Инструмент называется Ollama. Установка заняла три минуты. Первый запрос к модели — ещё две. С тех пор я использую...