1219 подписчиков
LLaMA LLM от Meta утекла - Запустите не цензуренный ИИ на своем домашнем ПК! @ @
Ссылка: shawwn/llama-dl: High-speed download of LLaMA, Facebook's 65B parameter GPT model (github.com)
LLaMA утекла на 4chan, выше приведена ссылка на репозиторий github.
Инструкции по развертыванию на своей собственной системе можно найти здесь: LLaMA Int8
Модель с 7 миллиардами параметров требует VRAM объемом 10 ГБ, что означает, что она может
быть запущена даже на RTX3060!
Модель с 13 миллиардами параметров требует 20 ГБ VRAM, 30B требует 40 ГБ, а 65B требует 80
ГБ.
@
Около минуты
10 марта 2023
182 читали