1 неделю назад
Система управления инструментами для ИИ-агентов от американского стартапа снизила расход токенов на 37%
Стартап Arcade.dev, который помогает ИИ-агентам работать в корпоративном ПО и ограничивает их права, представил функцию Tool Recommendation. Она подбирает агенту нужные действия, чтобы не загружать в каждый диалог длинный перечень функций. Функция доступна клиентам облачной платформы Arcade Cloud с 15 октября без отдельной платы. Проблема связана с ростом затрат. Чем больше систем подключено к агенту, тем длиннее его инструкции и дороже обработка. Каталог Arcade включает более 8 тыс. инструментов, и описание всего перечня заняло бы около 1,75 млн токенов до первого запроса пользователя. Новая система оставляет агенту несколько точек входа для поиска приложений и функций...