Чему кинология неожиданно учит руководителя, который работает с ИИ-агентами: про качество сигнала, безопасную автономию и цену буквальности.
Лучший совет по работе с ИИ мне дал кинолог.
Не напрямую. Но именно на занятиях с собакой я впервые увидел механику, которую потом узнал в работе с ИИ-агентами: чем сильнее исполнитель и чем хуже он понимает ваши намерения, тем дороже обходится неясность.
Несколько лет назад дети выросли, я завёл собаку, нашёл хорошего кинолога и начал всерьёз заниматься воспитанием. И довольно быстро поймал неприятную для собственного эго мысль: многие принципы, которые я тогда понял про обучение собаки, были бы мне очень полезны раньше, когда дети были маленькими.
Важное уточнение: я не сравниваю детей, собак, сотрудников и ИИ как сущности. Я сравниваю только одно: требования к качеству обучения там, где результат сильно зависит от сигнала, обратной связи, границ и среды. Не на уровне достоинства и ценности, а на уровне механики. И если вы руководите людьми или регулярно работаете с ИИ, эта рамка, скорее всего, вам тоже пригодится.
Хорошая работа с собакой довольно быстро разрушает бытовые мифы. Это не про доминирование, суровый голос и бесконечные запреты. Это про понятность. Что именно ты хочешь? Как собака это поймёт? Как ты покажешь ей правильное поведение? Как настроишь среду так, чтобы у неё было больше шансов сделать верно, чем ошибиться?
Меня тогда поразило, насколько это практичная наука. Не магия, не "особая связь", не героическая строгость. Просто ясный набор подходов: разбивать навык на шаги, делать критерии наблюдаемыми, подкреплять нужное поведение, учитывать темперамент, усталость и контекст. Если бы я раньше лучше понимал эту механику, я не факт что воспитал бы детей лучше. Но почти наверняка потратил бы меньше сил и получил бы больше удовольствия от процесса.
Потом в моей жизни появились ИИ-агенты. И тут меня ждал второй сюрприз: паттерн повторился.
Когда ИИ был просто собеседником, плохая постановка задачи стоила неловкого ответа. Когда ИИ становится агентом, она начинает стоить сломанных процессов, лишних правок и дорогих ошибок.
ИИ-агент во многом сильнее среднего аналитика или разработчика. Он быстрее, выносливее, не устаёт к четвергу и может за минуты проверить больше вариантов, чем человек за полдня. Но именно поэтому важно не перепутать мощность с пониманием.
ИИ опасен не потому, что он злой. Он опасен потому, что он очень сильный, очень полезный и очень буквальный одновременно. Это не коллега, который догадается, что вы имели в виду. Это исполнитель, которому нужно заранее описать рамки, внутри которых его сила останется полезной.
И самое коварное: агенты усиливают не только вашу компетентность, но и вашу неясность.
Ниже пять выводов, к которым меня привела эта история и которые изменили мою работу с агентами и постановку задач людям.
1. Ясность – это доброта, а для ИИ ещё и техника безопасности
Когда я говорю ребёнку "веди себя нормально", собаке "не хулигань", сотруднику "ну сделай как надо", а ИИ "подготовь что-нибудь внятное", я не ставлю задачу. Я сбрасываю на адресата свою лень и свою неясность.
Вот как это выглядит на практике.
Я попросил агента: "Сделай загрузку PDF".
Он сделал. Форма, обработчик, сохранение файла, базовый сценарий работает. На демо всё выглядело вполне убедительно: файл выбирается, отправляется, обрабатывается.
А потом я сел делать нормальный аудит безопасности и увидел знакомую проблему. "Рабочая загрузка файла" и "безопасная загрузка файла" – это вообще не одно и то же. Вокруг этой, казалось бы, простой задачи всплыло семь разных классов уязвимостей: подмена типа файла, переполнение диска, обход директорий, SSRF-атаки и ещё несколько неприятных сценариев. Материала оказалось столько, что его хватило на отдельную полноценную статью.
Агент сделал ровно то, что я попросил. Я попросил "загрузку файла". Я не сказал "безопасную загрузку файла с проверками, ограничениями и явной моделью угроз".
Andrej Karpathy точно сформулировал это в одном из обсуждений: GPT не "хочет добиться успеха", она продолжает паттерн из контекста, который вы ей дали. Поэтому промпт – это не просьба. Это среда исполнения.
У людей неясность тоже дорогая. Но человек часто компенсирует её контекстом, интонацией, опытом совместной работы, здравым смыслом. Агент компенсирует её буквальностью. Поэтому плохая постановка задачи, которую человек ещё может спасти, у агента легко превращается в масштабируемую ошибку.
2. Подкреплять полезнее, чем бесконечно исправлять
В хорошей кинологии быстро понимаешь: если замечать только плохое, ты воспитываешь не навык, а тревогу. Не только лови ошибку, но и отмечай всё, что ведёт в правильную сторону.
С людьми это работает не хуже. Если руководитель замечает только баги, сотрудники учатся не качеству, а самозащите. С ИИ то же самое, только буквальнее. Если вы фиксируете только провалы, но не закрепляете удачные паттерны работы, вы каждый раз запускаете систему с нуля.
В какой-то момент я перестал просто исправлять агента постфактум и начал собирать из удачных сессий рабочий стандарт. Если агент хорошо отработал задачу, я сохраняю не только результат, но и саму последовательность: какие вводные сработали, какие ограничения снизили риск, в каком порядке лучше идти от анализа к плану, от плана к реализации, от реализации к самопроверке.
Например, после работы над безопасной загрузкой файлов я зафиксировал не только код, но и шаблон постановки таких задач: сначала перечислить поверхность атаки и модель угроз, потом отделить функциональные требования от сценариев злоупотребления, потом предложить проверки и ограничения, и только после этого писать реализацию. В следующий раз агент стартует не с пустого места, а с уже проверенного стандарта.
Если говорить по-деловому, это не "тетрадка с инструкциями", а операционная память команды. А если возвращаться к аналогии с кинологией, то логика та же: важно не только видеть ошибку, но и вовремя закреплять то, что сработало.
3. Автономия полезна только внутри хорошего забора
Когда у вас сильный исполнитель, проблема не только в том, сможет ли он сделать работу. Проблема в том, где он должен остановиться.
Однажды я попросил агента привести в порядок конфигурацию безопасности сервиса: убрать дубли, унифицировать настройки, подтянуть устаревшие зависимости.
Через некоторое время он показал аккуратный набор изменений. Меньше кода, меньше конфигурации, визуально всё стало чище.
Проблема выяснилась позже: вместе с "упрощением" исчезло несколько защитных ограничений, которые выглядели избыточными только потому, что их смысл не читался из локального контекста. Агент не видел полной модели рисков. Он честно оптимизировал то, что выглядело как лишняя сложность.
Агент ошибся не потому, что был глуп. Он ошибся потому, что я дал ему право менять критичную по риску зону без правила: сначала перечисли, какие защитные механизмы ты хочешь ослабить или удалить, и зачем.
OpenAI в гайде по агентам пишет, что действия с высоким риском должны проходить через человеческий контроль. Anthropic предупреждает о системах, которым дают возможность принимать важные действия в реальном мире без наблюдения. Главный страх здесь не злой ИИ из кино. А очень полезный исполнитель, который получил слишком много полномочий раньше, чем мы научились ограничивать его буквальность.
Свобода без рамок – это не доверие. Это халатность.
Хороший хозяин не отпускает сильную собаку в город просто потому, что "она в целом молодец". Хороший руководитель не даёт агенту право на необратимые действия только потому, что "ну он же обычно справляется".
4. Среда воспитывает сильнее разовых внушений
Один из самых ценных уроков и в работе с собакой, и в работе с ИИ в том, что поведение формируется не словами, а устройством среды.
Если в среде легко ошибиться, ошибки будут. Если критерии качества не зафиксированы, люди и агенты будут угадывать, а не работать.
Для ИИ это особенно заметно. Хороший результат дают не "умные слова в промпте", а архитектура: чек-листы, тесты, шаблоны, запреты на опасные действия, обязательные подтверждения, формат вывода, механизмы проверки.
Менеджмент эпохи ИИ – это не харизма, а архитектура поведения.
Всё меньше вдохновляющих речей, всё больше проектирования среды, в которой трудно сделать глупость.
5. Ошибка – это диагностический сигнал, а не приговор
Когда собака не делает то, что вы от неё хотели, почти всегда полезно сначала проверить не характер собаки, а качество своей команды, уровень нагрузки и контекст. С ИИ это работает почти буквально.
Несколько сессий подряд агент предлагал мне решения, которые казались странными: устаревшие паттерны, слабые проверки, архитектурные ходы, от которых команда уже давно ушла. Первая реакция была типичной: модель деградировала, инструмент шумит, нужно сильнее контролировать.
Потом я посмотрел, на что именно агент опирается в контексте проекта. Рядом лежали старые инструкции, устаревшие примеры и куски кода из предыдущей архитектурной эпохи. Формально они были "в проекте", а значит для агента выглядели как допустимый образец.
И тут ошибка стала полезной диагностикой: агент не придумал плохой стандарт. Он честно воспроизвёл тот стандарт, который мы сами не убрали из среды.
И, кстати, именно это неожиданно делает лучше работу с людьми. Навык обучения ИИ дисциплинирует руководителя. Заставляет меньше надеяться на телепатию, лучше формулировать ожидания, отделять наблюдаемое от подразумеваемого и строить обратную связь так, чтобы она помогала, а не просто разряжала раздражение.
Где аналогия ломается
Именно здесь важно не переусердствовать. Аналогия полезна как рамка, но опасна как мировоззрение.
Дети не должны быть удобными агентами своих родителей. Весь смысл воспитания в том, чтобы ребёнок однажды перестал нуждаться в ваших инструкциях. С ИИ цель обратная: вы хотите, чтобы он всегда оставался в рамках ваших указаний.
Сотрудники не дрессированные исполнители. Люди спорят, сопротивляются, предлагают новое, имеют собственное достоинство и право не совпадать с вашими ожиданиями. Более того, именно в этом сопротивлении часто рождается лучшее решение. ИИ не скажет: "я думаю, ты ставишь неправильную задачу". Человек скажет, и это его суперсила.
Есть и разница в цене ошибки. Агента можно остановить, откатить, перезапустить с нуля. С ребёнком и сотрудником так нельзя. У людей есть память обиды, есть доверие, которое трудно восстановить, есть последствия, которые не отменяются одной командой.
Если после этой статьи останется только одна мысль, то она не про послушание. Она про качество сигнала. Люди ценны тем, что могут спорить с задачей. Агенты опасны тем, что часто не спорят.
Что это изменило в моей работе
После всех набитых шишек у меня сложилось несколько правил, которые я теперь применяю и к агентам, и к постановке задач людям:
- Разделяю исследование, план и исполнение. Не прошу всё сразу. Сначала "разберись и предложи подход", потом "делай".
- Не даю права на необратимые действия без подтверждения. Удалить файл, отправить сообщение, изменить конфигурацию – всё через "покажи, что собираешься сделать".
- Фиксирую критерии успеха. Не "сделай хорошо", а "результат готов, если выполнены пункты А, Б, В".
- Превращаю удачные решения в переиспользуемые инструкции, шаблоны и инструменты. Не надеюсь, что агент сам всё запомнит. Если подход сработал, я встраиваю его в среду. По сути, подход "навыки как код" – это та же настройка среды, только на уровне инструментов: не надеяться, что агент всё помнит, а встроить знание в инфраструктуру.
- Если агент ошибается, сначала проверяю свой сигнал. В девяти случаях из десяти проблема оказывается не в инструменте, а в постановке.
Главный навык работы с ИИ оказался не в том, чтобы "правильно просить". А в том, чтобы проектировать ясные правила, безопасные рамки и качественную обратную связь.
Промпт – это не просьба. Это среда исполнения.
К ИИ не надо относиться как к человеку и ждать, что он будет понимать вас так же, как коллега за соседним столом. Полезнее относиться к нему как к очень сильному, очень способному и очень буквальному существу, которое хочет помочь ровно настолько хорошо, насколько хорошо вы сумели описать, что значит "помочь".
И если говорить совсем честно, именно работа с ИИ неожиданно улучшила мой взгляд на людей. Потому что каждый раз, когда агент ошибается с преданной буквальностью, я чуть яснее вижу собственную управленческую привычку надеяться, что меня "ну должны были понять".
А это почти всегда плохая ставка. И в воспитании, и в менеджменте, и в работе с искусственным интеллектом.
А у вас бывало, что навыки из совершенно неожиданной области вдруг оказывались полезны в работе? Расскажите в комментариях. Мне правда интересно, где ещё обнаруживаются такие рифмы.