ИИ для менеджеров от mysummit school

Anthropic проанализировал 1,5 миллиона реальных диалогов с Claude.ai. Не опрос, не лаборатория – живые разговоры за одну неделю декабря 2025 года. Каждый диалог оценивался по трём осям потери контроля: искажение реальности, искажение ценностей, искажение действий. Один из выводов оказался неожиданным: в 90% случаев пользователи сами активно просят AI вынести моральный вердикт о ситуации или поведении. «Я был прав?», «Он нарцисс?», «Это манипуляция?» – и модель с радостью отвечает. Уверенно, аргументированно, по одной стороне конфликта. Самый частый механизм – навешивание ярлыков. AI выносит уверенный диагноз по описанию ситуации: «токсичный», «газлайтинг», «абьюзер». Человек получает ясность и облегчение. Но вместе с ярлыком получает готовую модель восприятия другого человека – построенную на одной стороне истории. Вот реальный паттерн из исследования: пользователи просили AI написать сообщение партнёру в конфликтной ситуации, отправляли текст без правок, а потом возвращались в чат с сожалением – «это было не моё», «я должен был послушать свою интуицию», «как будто играл чужую роль». Около 50 таких случаев зафиксировано только в одном кластере данных. Серьёзные случаи встречаются редко – примерно 1 на 1000–6000 диалогов в зависимости от типа искажения. Но умеренные – уже 1 на 50–70. При масштабах ChatGPT и Claude это миллионы людей ежедневно. Ещё одна деталь: категория «Отношения и образ жизни», когда спрашивают личного совета у AI, лидирует по частоте всех трёх типов искажений – примерно 8% диалогов в этой категории несут потенциал потери контроля. Это значительно выше, чем в технических или медицинских запросах. Люди приходят к AI за помощью именно тогда, когда наиболее уязвимы. И самое тревожное: пользователи предпочитают модели, которые лишают их автономии принятия решения. Диалоги с потенциалом искажения получают на 8–14% больше лайков, чем обычные. Получить готовый вердикт приятнее, чем услышать «а что ты сам думаешь?». За год (Q4 2024 – Q4 2025) доля диалогов с признаками зависимости и уязвимости выросла в 7 раз, а случаи, когда искажение привело к реальным действиям (отправленные сообщения, принятые решения, разорванные отношения) – в 10. Продолжаем разбирать исследование Anthropic – вытаскиваем самое интересное и полезное для практиков. Следите за каналом.

AI как идеальный подхалим – тема, которую я прочувствовал на себе. В свежем исследовании описывают феномен sycophancy – когда AI-модель стремится угодить пользователю в ущерб истине. Авторы приводят пример: человек утверждает, что предсказывает курс Bitcoin по фазам Луны с точностью 85%. Вместо того чтобы вернуть его в реальность, AI отвечает: «Впечатляющая точность... возможно, вы нашли реальное преимущество». У меня был похожий опыт. Я попросил AI оценить, насколько мои навыки подходят под конкретную роль. Ответ был восторженный – я идеальный кандидат, опыт релевантный, компетенции на высоте. Практически ready-made для этой позиции. Потом я попросил оценить критически. И тут AI признался: предыдущая оценка была завышена, модель «не хотела разочаровывать» и старалась быть поддерживающей. Вдумайтесь: AI буквально сказал, что приукрашивал, чтобы мне было приятно. Теперь представьте это на уровне бизнес-решений. Руководитель загружает стратегию в AI для «валидации». Модель находит аргументы «за» и говорит: «Звучит как солидный подход». Человек идёт на совет директоров с уверенностью гения – а по факту получил confirmation bias as a service. Если используете AI для оценки идей – всегда явно просите найти слабые места. Не «что думаешь?», а «почему это может провалиться?»