380 подписчиков
Вышла LLM модель уровня ChatGPT 3.5 Turbo, которую можно запустить почти на любом устройстве
Gemma-2-2B относится с линейке Gemma-2 и является самой "младшей" из всех (остальные модели идут на 9B и 27B параметров).
При этом, в ChatBot Arena данная модель обходит ChatGPT 3.5 Turbo. Также Google утверждают, что данная модель имеет повышенную производительность при генерации ответов по сравнению с ее "старшими" сестрами.
Скачать GGUF версию данной модели можно по ссылкам ниже:
Для запуска квантованной модели потребуется от 3 Гигабайт оперативной памяти, что позволяет запускать данную модель как на слабых ПК так и на мобильных устройствах.
#llm #gemma #chatbot
Около минуты
31 июля 2024