Управляющий директор по искусственному интеллекту Авито Андрей Рыбинцев в эфире Радио РБК рассказал, почему развитие автономных ИИ-систем идет осторожно и когда появление агентов, способных взаимодействовать с реальным миром, станет безопасным для людей.
Ключевое различие между обычным голосовым помощником и полноценным ИИ-агентом, по словам эксперта, заключается в способности выполнять конкретные действия в различных сервисах, а не просто выдавать ответы на запросы. Именно благодаря этому качеству агенты стали столь востребованным инструментом для автоматизации бизнеса. Примером такого подхода служит ассистент Ави, где уже применяется агентская архитектура. Однако, как отметил специалист, переход от простого общения в чате к совершению операций в реальной действительности оказался задачей гораздо более трудной, чем предполагалось изначально.
«Вне сценария разговора намного быстрее наступает столкновение с реальностью. Когда агент получает рычаги влияния на реальный мир — возможность тратить деньги, выполнять транзакции, запускать код, сразу возникают серьезные вопросы безопасности. Крупные компании вынуждены выстраивать многоуровневые системы защиты, что существенно ограничивает автономность агентов. В итоге рынок оказался перед дилеммой: либо безопасный, но ограниченный ассистент, либо полноценный агент с непредсказуемыми последствиями», — рассказал Андрей Рыбинцев.
В настоящий момент платформа проводит тестирование собственной мультиагентной системы. Под капотом ассистента Ави одновременно трудятся несколько специализированных программ: одна отвечает за анализ запроса пользователя, вторая уточняет детали, третья занимается поиском релевантных объявлений и так далее. Для человека это выглядит как единый помощник, хотя на деле используется сложная агентская архитектура. Уже сегодня функционал Ави позволяет пользователям эффективнее искать товары, сравнивать различные варианты и выбирать лучшие предложения — в перспективе эти опции будут внедрены для всей аудитории площадки.
По прогнозам Рыбинцева, прорыв в данной сфере произойдет в 2026 году. Драйвером прогресса станет, в частности, повсеместное внедрение ИИ-браузеров, способных самостоятельно совершать действия в интернете. Постепенно, шаг за шагом, равновесие между полезностью технологий и требованиями безопасности начнет смещаться в сторону подлинной автономности систем.
Автор: Виктория Храменкова