1 месяц назад
Зачем вызывать большую LLM, если агенту нужно просто выбрать следующий инструмент
? Исследователи из UIUC, Принстона и Google предложили JevAgentHarness: рутинные решения принимает маленькая модель, а сложные остаются большой. Схема простая: модель выбирает действие из списка. Если её уверенность выше настроенного порога — выбор принимают. Если ниже — подключают основную LLM. Порог подбирают на реальных запусках конкретного агента. Но есть подвох: хорошие ответы на отдельные вопросы ещё не означают, что модель хорошо управляет агентом. Ошибки меняют ситуацию, и дальше приходится действовать уже в последствиях собственных промахов...