110 подписчиков
В Open WebUI уже есть дополненная генерация на основе поиска (RAG) и инструменты. Зачем тогда писать пайп (pipe)?
Если коротко, то потому, что «включить инструменты» не равно «получить предсказуемого ИИ-бота». В новой статье в нашем блоге разбираемся, почему так вышло и как пайп помогает решить эту проблему.
В HOSTKEY начинали со стандартных настроек платформы OpenWebUI: собственная модель, база знаний, инструменты, подключенные по протоколу вызова внешних инструментов моделями ИИ (MCP). На практике модель могла проигнорировать вызов инструмента (tool call), смешать данные из дополненной генерации на основе поиска (RAG) с актуальными данными из системы или вернуть голый вызов инструмента без готового ответа.
В новой статье показываем, как пайп превращает это в управляемый конвейер:
• отдельно определяет тип запроса;
• ищет документацию;
• решает, нужен ли инструмент MCP;
• отключает RAG там, где он мешает;
• подмешивает актуальные данные из программного интерфейса (API) Invapi;
• только после этого отправляет запрос в финальную модель.
Именно так сейчас устроен бот HOSTKEY для заявок на услугу удаленных рук (Remote Hands Request).
Главный вывод: для бота в промышленной эксплуатации (production) мало просто подключить модель, RAG и инструменты. Нужен контроль порядка действий, переключение на резервные сценарии (fallback) и постобработка.
Читать статью →
1 минута
10 ноября