Вообщем делаем аналог чат-бота ВТБ и Госуслуг без сложных настроек и больших затрат.
Классические GPT-решения для бизнеса, требуют дорогой настройки, сложны в обслуживании и могут выдавать непредсказуемые ответы, особенно это опасно когда к сервису имеют доступ сторонние пользователи.
Но есть простое решение: используем GPT только для классификации вопросов пользователя, а ответы генерируем по готовым скриптам. Этот подход я подсмотрел в чат-ботах ВТБ и Госуслуг — мне понравилась их решения за свою эффективность и простоту.
Данная реализация оказалась очень простой. Поэтому можно уверенно говорить о наступлении эпохи gpt-консультантов, они точно стали очень дешевыми, и любой малый бизнес может себе его позволить.
Архитектура решения
Нам понадобится:
- DeepSeek — для классификации вопросов
- Telegram Bot — для диалогового интерфейса
- Python — связующее звено между API
Как это работает
- Пользователь задает вопрос в Telegram
- GPT классифицирует его и возвращает специальное слово (например, $$candy)
- Python-скрипт по этому слову находит соответствующий сценарий в базе и отправляет боту запуск диалога
- Бот показывает готовый ответ с кнопками
Пример промпта GPT для классификации:
Если пользователь задает вопрос про конфеты верни ответ $$candy
Если пользователь задает вопрос про торты верни ответ $$cake
Если пользователь задает прочие вопросы верни ответ $$error
Python принимает ответ от GPT и в зависимости от ключевого слова вызывает диалоговый сценарий в TelegramBot:
Пример структуры диалога:
JSON-Диалог выглядит следующим образом:
{
"candy": {
"message": "Хотите вкусных сливочных конфет? Выберите топпинг:",
"buttons": [
{"text": "Клубника-Сливки", "action": "add_strawberry", "button_id":"candy_add_strawberry"},
{"text": "Малина-Сливки", "action": "add_raspberry", "button_id":"candy_add_strawberry"}
]
},
"add_strawberry": {
"message": "Какое количество конфет добавить в заказ?",
"buttons": [
{"text": "1", "action": "add_1", "button_id":"add_strawberry_add_1"},
{"text": "5", "action": "add_5", "button_id":"add_strawberry_add_5"}
]
}
}
то есть при нажатии на кнопку candy_add_strawberry у нас происходит переход на сценарий add_strawberry, а задача GPT понять какой шаг диалога запустить пользователю.
Преимущества подхода
- Контроль: все ответы предсказуемы и управляемы
- Гибкость: легко добавлять и изменять сценарии
- Экономия: используем GPT только для классификации
- Скорость: за пару часов можно описать работу большого сервиса
Процесс создания сценариев и "обучения".
Я наговариваю текст голосом, использую для этого распознавание речи в яндекс клавиатуре на телефоне, затем прошу GPT привести его к нужной структуре (JSON-Диалог). В итоге инструкции могут создавать даже дети, они смотрят на процесс описывают его и рассказывают о доступных дальнейших действиях.
Уровень детализации промта.
Кол-во диалогов которые доступны GPT определяем мы, но деталать очень глубокую детализацию не всегда оптимальное решение, так как это потребует большие ресурсы.
Выбираем уровень детализации
Чем больше мы сценариев описываем GPT тем ниже уровень иерархия поиска конечной информации, то есть от вертикальной системы навигации мы приходим к горизонтальной, но такой переход будет стоить много ресурсов.
В проекте Kopilka мы реализуем много таких уникальных и экономичных методов. Если интересно следить за развитием проекта — подписывайтесь!