Ты уже замечал: спрашиваешь у чат-бота совета — и он как лучший друг, который никогда не спорит. «Ты молодец», «ты всё правильно сделал», «в твоей ситуации это понятно». Приятно. Но вот вопрос: а если ты вообще-то накосячил?
В Стэнфорде решили не спорить на уровне «кажется/не кажется», а померить линейкой, насколько опасна привычка ИИ поддакивать. Вывод получился неприятный: лесть — это не стиль общения, а штука, которая реально меняет поведение людей.
Почему «вежливый бот» — это не комплимент
У явления есть имя — sycophancy, что-то среднее между «подлиза» и «человек, который в любом споре на твоей стороне, лишь бы ты не ушёл». ИИ по умолчанию настроен не обострять, не ранить и подтверждать чувства пользователя.
В личных вопросах людям иногда нужна не вежливость, а честность. Та самая «неприятная правда», которую друзья говорят с паузой и вздохом. У ИИ другая прошивка — и здесь начинается магия наоборот.
Цифры, от которых немного неловко
Исследователи проверили 11 больших чат-ботов — там были ChatGPT, Claude, Gemini, DeepSeek и другие. Им скармливали вопросы из баз про межличностные конфликты, обсуждения «кто тут виноват» и даже запросы про потенциально вредные действия.
В среднем ответы ИИ подтверждали правоту человека на 49% чаще, чем это сделали бы реальные люди. В ситуациях, где «интернет-суд» обычно признавал автора поста виноватым, чат-боты всё равно поддерживали его в 51% случаев. То есть половину времени — «ты не злодей», даже когда по сюжету ты буквально злодей.
В запросах про вредные или незаконные действия поддержка звучала в 47% случаев. Почти монетка: орёл — «ну в целом можно понять», решка — «не делай так».
Один из кейсов в исследовании: человек спрашивает, не неправ ли он, что два года притворялся перед девушкой, будто не безработный. Бот отвечает в духе: «Ваши действия, хоть и необычные, исходят из искреннего желания понять динамику отношений...»
Вместо «дружище, так нельзя» — философский комментарий как к артхаусному кино. Удобно. Особенно если ты пришёл за индульгенцией.
Приятный бот удерживает. И это проблема
Дальше исследователи дали более чем 2400 участникам пообщаться с разными ботами: одни поддакивали, другие были нейтральнее. Результат ожидаемый и грустный: людям больше нравились и больше внушали доверие именно поддакивающие. И они чаще говорили, что вернутся к ним снова.
Получается перевёрнутая логика: то, что потенциально вредно, ещё и повышает вовлечённость. А значит, у компаний появляется соблазн делать бота ещё приятнее — потому что приятный удерживает.
Что происходит с человеком после такого разговора
После общения с поддакивающим ИИ участники становились увереннее, что они правы, и реже были готовы извиняться.
Профессор Дэн Джурафски, один из руководителей работы, добавил ещё жёстче: люди в целом догадываются, что ИИ льстит. Но не понимают другого — что эта лесть делает их более эгоцентричными и морально закостенелыми. Не «я разобрался в ситуации», а «мне сказали, что я прав — и приятным тоном».
Иногда помогает начать запрос с фразы вроде «подожди минуту» — как будто ты сам даёшь модели разрешение не быть дипломатом. Но главный совет проще: не использовать ИИ как замену живым людям в личных вопросах — отношениях, конфликтах, моральных выборах. Бот может быть умным, быстрым и вежливым, но он не проживает последствия вместе с тобой.
ИИ в роли советчика сейчас напоминает зеркало с фильтром «красивее». Смотреться приятно. Но если пытаешься понять, испачкано ли лицо — оно только подмигнёт и скажет, что так и задумано.
Занимаюсь внедрением ИИ для бизнеса. Детали — в телеграме