🤖 TINYAGENT: ФУНКЦИОНАЛЬНЫЙ ПОЗЫВ НА МЕСТЕ – БУДУЩЕЕ AI-АГЕНТОВ
Знаешь, сейчас большие языковые модели (LLM) могут выполнять задачи через обычный язык — прям как Siri, только умнее. Но такие гиганты как GPT-4o или Gemini-1.5 требуют космических вычислительных ресурсов и обычно работают через облако. Это создаёт проблемы — приватность данных, интернет-зависимость и задержки в ответах.
Что если вместо этого развернуть компактные модели прямо на устройстве — на краю сети? Проблема в том, что даже лучшие модели слишком велики. Ведь они хранят кучу знаний о мире, что для многих задач просто не нужно.
Наша идея — обучить маленькие модели (1-7 млрд параметров), которые не припоминают википедию, а умеют только грамотно вызывать нужные функции и инструменты. Например, попросил создать событие в календаре — модель знает, какой скрипт запустить и какие данные передать.
Мы создали TinyAgent, обученный на 80 тысячах специально сгенерированных примеров работы с такими функциями (почта, контакты, сообще
