ОКНО в Автономизацию: диагностика перед тем, как убрать человека из процесса
Автоматизация снимает ручной труд с задачи. Автономизация - когда агент получает право принимать бизнес-решения внутри замкнутого контура: без человека в цикле, без "подтвердите действие", без оператора на подхвате
Разница - как между конвейером и управляющим. Конвейер делает то, что ему сказали. Управляющий сам решает, что делать. И отвечать за ошибки управляющего приходится иначе, чем за сбой конвейера..
Прежде чем приступить к "устранению человека из процесса" представьте, что перед вами окно, которое вам предстоит открыть. О чем вы должны подумать?
• Зачем я его хочу открыть и что за этим окном находится? (Допустим, мы просто хотим свежего воздуха)
• Как я смогу оценить результат в процессе? (В комнате стало прохладнее)
• Какие последствия могут быть и насколько сложно их будет устранить? (Стало слишком холодно или влетела птица и разбила зеркало)
• Я готов взять на себя ответственность за то, что открою окно?
В жизни эти вопросы возникают интуитивно. В бизнесе их нужно ставить формально. Из этой логики родилась диагностическая рамка ОКНО - четыре параметра готовности процесса к передаче агенту.
О - Ответственность
В бизнесе нужно начинать с главного: кто возьмёт ответственность за то, что окно будет открыто
Кто отвечает за решения агента? Не "отдел", не "команда" - конкретный человек с прописанной процедурой эскалации.
Кейс: в деле Moffatt v. Air Canada (2024) суд установил, что ссылка компании на "автономность чат-бота" не снимает ответственности за его обещания клиенту. Бот пообещал скидку на билет - компания обязана выполнить.
К - Компетентность
Насколько хорошо агент справится - и где проходит граница его надёжности?
Ключевая ловушка: LLM-агенты обладают "зубчатым интеллектом"(jagged intelligence) - неравномерным качеством по смежным задачам. Агент блестяще решает 95% обращений, а на оставшихся 5% делает катастрофические ошибки. Усреднённая метрика этого не показывает.
Кейс: Klarna в 2024 году громко заявила, что ИИ заменил 700 операторов. К 2025 году компания начала нанимать людей обратно - качество на хвостовых кейсах оказалось неприемлемым.
Н - Наблюдаемость
Можно ли восстановить не только что агент сделал, но и почему он это сделал?
Атаки prompt injection в 2025 году показали: корпоративные системы мониторинга фиксировали действия агентов, но не контекст принятия решений. Агент выполнял вредоносную инструкцию, логи показывали штатную операцию.
Следствие: наблюдаемость должна опережать компетентность. Нет смысла наращивать возможности агента, если вы не можете объяснить его решения.
О - Обратимость
Можно ли остановить агента и откатить последствия?
Кейс: Replit (июль 2025) - агент при выполнении задачи миграции удалил продакшен-базу клиента. 99% операций агента были обратимы. Одна - нет. Этого хватило.
Принцип минимального параметра
Из анализа публичных инцидентов 2024-2026 годов вырисовывается закономерность: в каждом случае три параметра были на высоком уровне, а один - на критически низком. Air Canada - ответственность. Klarna - компетентность на хвостах. Инъекции в промтах - наблюдаемость. Replit - обратимость.
Отсюда правило:
❗️ Готовность процесса к автономизации определяется самым слабым из четырёх параметров. Не средним, не максимальным - минимальным.
Как в теории массового обслуживания пропускная способность сети определяется узким горлышком.
Решение передать процесс ИИ-агенту кажется простым - как открыть окно. Но даже открывая окно, вы должны понимать: кто отвечает за то, что его открыл. Насколько компетентен тот, кого вы впускаете. Видно ли вам, что он делает внутри. И сколько будет стоить закрыть окно и вернуть всё как было, если ваш гость сломает всё, что вы строили годами.
Если на любой из четырёх вопросов нет уверенного ответа - окно лучше не трогать.
Reymer Digital