Найти в Дзене
38,1 тыс подписчиков

Исследователь из научного отдела «Яндекса» разработал сервис, который позволяет запустить языковую модель Llama 3.1-8B «на обычном компьютере или смартфоне» через интерфейс браузера.


Скорость работы модели зависит от производительности устройства. На MacBook Pro с процессором M1 она составит около 3-4 символов в секунду

Около минуты