Полностью автономная ChatGPT-4

16 апреля 202316 апр 2023

1 мин

GPT-4 у вас на компьютере, без цензуры, бесплатно и в пару кликов — реальность. Вот подробная инструкция:

Загружаем файл koboldcpp.exe с GitHub (https://github.com/LostRuins/koboldcpp/releases). Windows может ругаться на вирусы, но она так воспринимает почти весь opensource.

Идем сюда (https://rentry.org/nur779) и выбираем подходящую нам модель формата ggml:

— LLaMA — исходная слитая модель от Meta. Не обучена и практически без цензуры;

— Alpaca — самая привлекательная модель, дотренированная на данных с инструкциями версия LLaMA. Рекомендуем GPT4xAlpaca;

— Vicuna — та же LLaMA, но тренировали ее на диалогах с ChatGPT. Максимально на него похожа, в том числе цензурой.

Учтите, что у моделей разное количество параметров (7B, 13B и т.д.) — чем их больше, тем лучше, но чат-бот будет отвечать дольше. Кроме того, возрастет и нагрузка на процессор и ОЗУ. Загружаем понравившуюся модель с помощью торрента.

Запускаем koboldcpp.exe и в появившимся окне указываем путь к загруженной модели (же

GPT-4 у вас на компьютере, без цензуры, бесплатно и в пару кликов — реальность. Вот подробная инструкция:

Идем сюда (https://rentry.org/nur779) и выбираем подходящую нам модель формата ggml:

— LLaMA — исходная слитая модель от Meta. Не обучена и практически без цензуры;

— Vicuna — та же LLaMA, но тренировали ее на диалогах с ChatGPT. Максимально на него похожа, в том числе цензурой.

Запускаем koboldcpp.exe и в появившимся окне указываем путь к загруженной модели (же

GPT-4 у вас на компьютере, без цензуры, бесплатно и в пару кликов — реальность. Вот подробная инструкция:

Загружаем файл koboldcpp.exe с GitHub (https://github.com/LostRuins/koboldcpp/releases). Windows может ругаться на вирусы, но она так воспринимает почти весь opensource.

Идем сюда (https://rentry.org/nur779) и выбираем подходящую нам модель формата ggml:

— LLaMA — исходная слитая модель от Meta. Не обучена и практически без цензуры;
— Alpaca — самая привлекательная модель, дотренированная на данных с инструкциями версия LLaMA. Рекомендуем GPT4xAlpaca;
— Vicuna — та же LLaMA, но тренировали ее на диалогах с ChatGPT. Максимально на него похожа, в том числе цензурой.

Учтите, что у моделей разное количество параметров (7B, 13B и т.д.) — чем их больше, тем лучше, но чат-бот будет отвечать дольше. Кроме того, возрастет и нагрузка на процессор и ОЗУ. Загружаем понравившуюся модель с помощью торрента.

Запускаем koboldcpp.exe и в появившимся окне указываем путь к загруженной модели (желательно, чтобы в нем не было кириллицы).

Спустя некоторое время в командной строке появится адрес «http://localhost:5001/» — открываем в браузере и наслаждаемся собственной бесплатной копией ChatGPT.