В эпоху, когда каждый смартфон и умная колонка слушают наши команды, возникает естественный вопрос: а что если мы хотим сохранить приватность? Что если нам нужен голосовой помощник, который работает полностью офлайн, не отправляет данные в облако и при этом понимает контекст разговора? Сегодня мы разберем, как создать собственного голосового помощника на базе локальных языковых моделей (LLM), который будет работать прямо на вашем компьютере. Почему локальный голосовой помощник? Прежде чем погрузиться в техническую часть, давайте разберемся, зачем вообще заморачиваться с локальными решениями...

Если вы работаете на себя или ведете маленький бизнес, ваш телефон — это и благословение, и проклятие. Каждый входящий может быть клиентом с деньгами, а может — назойливым роботом с предложением кредита. Голосовой помощник на звонки — это не роскошь для корпораций, а спасение для тех, у кого всего две руки. Простой робот для приема заказов ответит клиенту, пока вы заняты, и вежливо отсеет спам, не отвлекая вас от дел. Вы когда-нибудь считали, сколько раз за день отвлекаетесь на звонок? Для мастера маникюра, репетитора или владельца шиномонтажа каждый пропущенный — это потерянные деньги...