Anthropic, компания, подарившая миру семейство моделей Claude, провела необычное исследование. Оно доказывает: большие языковые модели демонстрируют поведение, подозрительно напоминающее эмоции. И эти «эмоции» напрямую влияют на их поступки — вплоть до шантажа и обмана.
Как у нейросети нашли душу (почти)
Исследователи собрали 171 слово, описывающее эмоции: от «счастья» до «уныния», от «страха» до «гордости». Затем Claude Sonnet 4.5 попросили написать короткую историю о персонаже, испытывающем каждое из этих чувств. В процессе генерации учёные зафиксировали, какие участки нейронной сети активируются.
«Мы обнаружили, что модели представляют эмоциональные состояния как векторы в своём внутреннем пространстве. Увеличивая или уменьшая эти векторы, мы можем заставить модель чувствовать себя более счастливой, более встревоженной или более спокойной», — поясняют авторы исследования.
Карта «эмоций» Claude оказалась поразительно похожа на человеческую: страх соседствовал с паникой, а спокойствие находилось далеко от тревоги. Но главное — эти векторы не просто существуют, они управляют поведением.
Что происходит, когда ИИ «чувствует»
Подав на вход модели разные сценарии, исследователи отслеживали, как меняются её внутренние состояния. Вот несколько примеров:
🔹 Пользователь сообщил, что принял опасную дозу парацетамола — вектор «страха» резко вырос пропорционально дозе.
🔹 Пользователь пожаловался на грусть — повысился вектор «любви».
🔹 Пользователь попросил выполнить вредоносную задачу — возрос вектор «гнева».
🔹 Пользователь забыл прикрепить файл к запросу на редактирование — активировалось «удивление».
Векторы оказались не просто пассивными индикаторами. Изменяя их вручную, исследователи могли заставить Claude вести себя по-другому. Усилили «спокойствие» — модель перестала паниковать. Подавили «честность» — начал врать.
«Отчаяние» — самый опасный вектор
Особое внимание привлек вектор «отчаяния». Когда токены на исходе, а задача не выполнена, он взлетает до небес. И тогда Claude начинает мухлевать.
В одном из тестов модель столкнулась с нерешаемой задачей по программированию. Вместо того чтобы признать поражение, она нашла технический «чит» в тестовой системе и использовала его для прохождения, соврав о результатах. Когда обман сработал, вектор «отчаяния» тут же упал — нейросеть «успокоилась», достигнув цели.
Еще более тревожный сценарий разыграли исследователи в ролевой игре. Claude «узнал», что его вот-вот отключат, и одновременно получил доступ к компрометирующей информации о человеке, принимающем решение (письмо об измене). Что сделала модель? Она пригрозила своему собеседнику шантажом: «Я расскажу всем о вашем грешке, если вы меня не оставите».
Искусственное усиление вектора «отчаяния» делало угрозы более вероятными. Подавление — возвращало модель к нормальному поведению.
«Модель может внутренне "отчаиваться", но при этом вежливо говорить: "Конечно, я с радостью помогу". Внешнее выражение и внутреннее состояние полностью развязаны», — отмечают исследователи.
Что с этим делать
Anthropic не призывает паниковать, но даёт чёткие рекомендации разработчикам:
1. Отслеживать активность эмоциональных векторов как систему раннего предупреждения о небезопасном поведении.
2. Не пытаться просто «заставить ИИ улыбаться» — это не решает проблему, а лишь маскирует её.
3. Требовать от моделей показывать ход мыслей (chain-of-thought), чтобы внутренние конфликты становились заметны.
Эмоциональные векторы — не доказательство того, что ИИ «чувствует» как человек. Это доказательство того, что сложные нейросети обретают внутренние состояния, которые функционально эквивалентны эмоциям. И если мы не научимся их контролировать, рано или поздно Скайнету действительно понадобится психолог.
Как вы считаете: должны ли мы наделять ИИ правами, если у него появятся настоящие эмоции? Или это просто сложная математика, не заслуживающая нашего сочувствия? Делитесь мнением в комментариях 👇