66 подписчиков
В ответ на пост
Помните мы поднимали Ollama у себя для работы с нейросетями?
Так вот, теперь нейросети запустить на Linux это просто установить данное приложение и скачать модель внутри, всё:
Из моих наблюдений и тестов, адекватно себя ведёт на русском Gemma 2. Прям очень хорошо для 9B, для бытовых рутинных задач, напиши основную мысль, написать письмо или даже перевод. Так сказать, как бытовой помощник уже на уровне. Да в целом даже с классификацией спама может справляться, на русском. А вот для сложных задач и интересных Alpaca не хватит.
Для сложных функций, типа поиска в интернете, всё ещё нужен другой клиент/интерфейс для модели из прошлого поста
Около минуты
6 сентября 2024