Цифровой ассистент портала "Госуслуг" робот Макс сможет быстро обрабатывать сложные вопросы пользователей благодаря внедрению LLM Streaming. Это произойдет не раньше начала 2026 г. Уже около 30% запросов обрабатывает робот, но без использования LLM. В целом внедрение LLM на "Госуслугах" снизило количество некорректных ответов с 22% до 10%.
Анна Швецова
© ComNews
27.06.2025
О внедрении LMM Streaming корреспонденту ComNews рассказал директор по продукту робота Макса Никита Устриков ("Госуслуги", "РТ Лабс") на конференции Conversations 2025. "Голосовая генерация с LLM и стримингом - это, скорее всего, начало 2026 г., вряд ли раньше. Пока существует очень мало подобных внедрений, нужно отладить качество работы, - объяснил Никита Устриков. - Уже идет пилот в телефонной линии, около 30% обрабатывает робот, но без LLM".
На Conversations 2025 Никита Устриков рассказал о внедрении LLM на "Госуслугах". "В планах - Streaming для LLM и Streaming для LLM в голосе. Мы хотим внедрить в телефонную линию робота с LLM, чтобы улучшить качество ответов. Стриминг нужен, потому что иначе человек на линии будет очень долго ждать", - рассказал Никита Устриков во время выступления.