Загружаем файл koboldcpp.exe с GitHub. Windows может ругаться на вирусы, но она так воспринимает почти весь opensource.
Идем сюда и выбираем подходящую нам модель формата ggml:
— LLaMA — исходная слитая модель от Meta. Не обучена и практически без цензуры;
— Alpaca — самая привлекательная модель, дотренированная на данных с инструкциями версия LLaMA. Рекомендуем GPT4xAlpaca;
— Vicuna — та же LLaMA, но тренировали ее на диалогах с ChatGPT. Максимально на него похожа, в том числе цензурой.
Учтите, что у моделей разное количество параметров (7B, 13B и т...
ChatGPT заблокирован для пользователей из России и Беларуси. Но умельцы выложили на GitHub приложение, открывающее доступ к популярному чат-боту. Оно запускается на ПК с Windows. Для работы нужен VPN. Зарубежные симка и банковская карта не потребуются. Да, речь о том самом приложении GPT4Free, наделавшем столько шуму около месяца назад. Удивительно, но за это время так и не появилось дельной инструкции, как установить эту программу на компьютер. Мануал на официальном сайте предназначен только для Linux...