4 подписчика
Генеративно-предварительно обученные трансформеры (GPT) стали известны своей способностью генерировать тексты высокого качества на основе предварительного обучения на огромном объеме данных. Однако, до недавнего времени, они не обладали способностью работать с файлами напрямую. Вместе с тем, интеграция GPT с файлами открывает новые перспективы для автоматизации и обработки текстовых данных. Давайте рассмотрим, что представляет собой работа GPT с файлами и как это может быть полезно. Искусственный...
10,9K подписчиков
Загружаем файл koboldcpp.exe с GitHub. Windows может ругаться на вирусы, но она так воспринимает почти весь opensource.
Идем сюда и выбираем подходящую нам модель формата ggml:
— LLaMA — исходная слитая модель от Meta. Не обучена и практически без цензуры;
— Alpaca — самая привлекательная модель, дотренированная на данных с инструкциями версия LLaMA. Рекомендуем GPT4xAlpaca;
— Vicuna — та же LLaMA, но тренировали ее на диалогах с ChatGPT. Максимально на него похожа, в том числе цензурой.
Учтите, что у моделей разное количество параметров (7B, 13B и т...