Рассказывает Роман Стятюгин, руководитель направления ИИ в VK Tech
Крупный ритейлер подключил ИИ к работе с клиентами. Модель собрала персональное предложение: данные верные, расчёт точный, фактической ошибки нет. Но сформулировала его так, что в тональность бренда оно не попало совсем. Формально всё правильно. А по сути — репутационный риск.
Это и есть задача, с которой бизнес подошёл к 2026 году: научиться контролировать ИИ, а не просто наращивать его интеллект. Разберём, почему так вышло и что с этим уже делают зрелые компании.
От пилотов — к рабочим процессам
В 2025 году рынок ИИ жил в режиме эксперимента: компании запускали пилоты, пробовали генеративные модели, собирали первые решения. К 2026 году фокус сместился. Появились первые подтверждённые экономические эффекты, и вместе с ними выросла новая задача: как использовать автономность ИИ в реальных операционных процессах безопасно и предсказуемо.
Чем агент отличается от обычного ассистента
ИИ-ассистент работает по заранее заданному сценарию, шаг за шагом. Агент устроен иначе. Он получает цель и дальше действует сам: определяет последовательность шагов, подключает нужные инструменты, обращается к корпоративным системам и по ходу дела корректирует действия.
Сначала так автоматизировали разработку кода. Потом подход быстро разошёлся: поддержка клиентов, аналитика, документооборот, внутренние процессы. Бизнес увидел в этом главное: можно автоматизировать целый цикл — принять решение и тут же его исполнить.
Цена ошибки резко выросла
Автономный агент фактически становится цифровым сотрудником, новым участником корпоративной инфраструктуры. У него есть доступ к данным, внутренним системам, API, инструментам автоматизации. И на первый план выходит другой вопрос: может ли компания доверить агенту полномочия и при этом сохранить контроль. То есть понимать, как он принимает решения, какими данными пользуется, почему выбирает тот или иной путь и как быстро можно остановить ошибочное действие.
Поэтому 2026-й становится годом зрелого управления агентными системами в корпоративной среде. В индустрии это называют AgentOps.
Парадокс: больше свободы — медленнее внедрение
Звучит неожиданно, но рынок уже понял: чрезмерная автономность внедрение не ускоряет. Часто наоборот: проекты замораживают.
По данным Cloud Security Alliance, полностью автономную работу агентам разрешают только в низкорисковых сценариях 53% компаний. На критичные процессы готовы пустить полностью автономную модель лишь 13% (1). А Gartner прогнозирует, что к 2027 году до 40% проектов агентного ИИ закроют из-за проблем с интеграцией, неконтролируемых затрат и отсутствия механизмов управления (2).
Причина провалов чаще всего не в «галлюцинациях» моделей, а в отсутствии контура управления. Когда агент получает избыточные права и бесконтрольный доступ к системам, цена ошибки растёт сразу на трёх уровнях: операционном, юридическом и репутационном. Тот самый случай с ритейлером как раз про это: ответ был корректным, а проблема возникла на уровне контекста и тональности бренда.
Операционный контур как новая норма
В зрелой архитектуре агент работает внутри заранее очерченного цифрового периметра. Компания заранее задаёт: какие системы доступны агенту и с какими правами, с какими данными можно работать, какие действия разрешены, а какие заблокированы по умолчанию. Например, агент анализирует внутренние документы, но не публикует ничего наружу без подтверждения человека. Или получает доступ к промышленным системам только на чтение.
Так складываются три механизма контроля.
- Зоны ограниченной автономности. Агент сам выполняет операции, но решения, влияющие на финансы, юридические обязательства или внешние коммуникации, требуют подтверждения человека. Человек остаётся в контуре.
- Входной и выходной контроль, или guardrails («ограждения»). Эти механизмы блокируют попытки обойти ограничения, не дают выполнить небезопасное действие и проверяют ответ агента до того, как он уйдёт в дело.
- Наблюдаемость, или observability. Важен не только результат, но и весь путь к нему: какие данные агент использовал, к каким инструментам обращался, сколько шагов сделал, как менялась его уверенность. Мониторинг траектории помогает заметить, что качество поползло вниз, ещё до того, как ошибка попадёт в бизнес-процесс.
Контроль как основа масштабирования
Именно с таким контуром компания и переходит от единичных пилотов к масштабированию. Просто подключить языковую модель уже мало. Нужна корпоративная среда: развёртывание on-premise (на собственных серверах), управление доступом, мониторинг действий агентов, единые правила безопасности.
В VK Tech мы строим платформу для корпоративных ИИ-агентов вокруг этого контура: изолированная среда, наблюдаемость каждого шага, человек в точке принятия ключевых решений. И спрос смещается в ту же сторону — с «самых умных моделей» на платформенные решения, которые дают управлять автономностью безопасно.
В ближайшие годы выиграет не тот, кто добился максимальной автономности ИИ. Выиграют те, кто научится управлять агентами, контролировать их действия и использовать автономность как инструмент достижения бизнес-целей.
А как у вас: ИИ-агентам уже доверяют действия в рабочих системах или пока держат на коротком поводке? Расскажите в комментариях.
Источники
Footnotes
- Cloud Security Alliance, опрос «Autonomous but Not Controlled: AI Agent Incidents Now Common in Enterprises», 21.04.2026 — https://cloudsecurityalliance.org/press-releases/2026/04/21/new-cloud-security-alliance-survey-reveals-82-of-enterprises-have-unknown-ai-agents-in-their-environments ↩
- Gartner, «Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027», 25.06.2025 — https://www.gartner.com/en/newsroom/press-releases/2025-06-25-gartner-predicts-over-40-percent-of-agentic-ai-projects-will-be-canceled-by-end-of-2027 ↩