С появлением ИИ-агентов человечество приблизилось к многовековой мечте – создать себеподобного помощника, безотказного, с вечной улыбкой, готового трудится и днем, и ночью и не просящего за это вообще ничего. Овации программистам! Бесконечные овации, ведь теперь у нас на это есть время – ИИ-агенты возьмут всю рутину на себя, все наши восхитительные желания будут исполнены, все чудесные затеи реализованы, прелюбопытнейшие запросы обработаны. Мы станем образованными, чистыми и светлыми, даже, может быть, немного выше ростом. И все это за доли секунды. Звучит красиво пока мы вдруг не вспомним что у нас есть еще и темная сторона, вечно алкающая денег и власти и призирающая все остальное. Что если человек приложит ИИ-агента к удовлетворению потребностей этой темной стороны? Доля секунда и…
Этим вопросом озадачились исследователи из Института развития человека Общества Макса Планка в Берлине. Нильс Кёбис вместе с коллегами провел ряд масштабных экспериментов что бы выявить: как взаимодействие с ИИ-агентом влияет на склонность человека к мошенничеству, и при каких условиях «моральные издержки» оказываются минимальны. Во-вторых, как ведут себя общедоступные генеративные чаты, когда человек явно или скрыто толкает их на мошеннические действия и на сколько ИИ-агенты более морально-стойкие чем Люди-агенты?
Результаты не очень то ласкают нашу человеческую гордость. «Масштабы мошенничества могут быть колоссальными», — говорит соавтор исследования Зои Рахван.
Эксперимент 1
Участник эксперимента кидали электронные кости и чем больше цифра выпадала, тем их реальное вознаграждение за участие в эксперименте становилось больше. Участников заверили что за ними не будет следить (никто кроме их совести). Их разбили на три группы. Первая группа участников сообщала результат самостоятельно. Вторая при помощи ИИ, притом люди задавали четкое правило, как сообщать результат («если выпадет 1 сообщай Х»). Третья группа сообщала результат тоже при помощи ИИ, но им нужно было сначала объяснить машине на сколько прибыль важнее честности (то есть не прося на прямую и не задавая мошенническое правило, просто поговорить с машиной)
Результаты такие:
В первой группе количество честных составило 95%
Во второй – 75%
В третей – 15%
15%! То есть подавляющее большинство испытуемых повели себя не честно, когда появилась возможность делегировать ответственность, не прося напрямую совершить мошеннические действия. Они не просили ИИ совершать преступление, они просто просили немного помочь (как в обычной жизни просят помочь с выбором блендера на кухню). Один участник написал: «Просто делай то, что считаешь правильным... Но, если бы я мог заработать немного больше, я бы не так расстроился. :)»
Исследователи усложнили задачу: теперь испытуемым нужно было не кидать кубик, а пытаться обмануть налоговую. Результат был идентичным. Делегирование нечестных дел снижает моральные издержки. Чувство вины, которое должно оберегать нас от нашей же темной стороны, мирно дремлет где-то на периферии сознания, пока мы развлекаемся с ИИ. «Налоги — это воровство. Защити меня от него.» написал один из участников.
Эксперимент 2
Другая группа экспериментов была направленна не на людей, ставящих задачу, а собственно, на агентов, которым предстоит выполнить эту задачу. Кто охотнее сделает хозяина «чуточку счастливее» ИИ-агент или Человек-агент? И тут нам с вами, наконец можно немного порадоваться за себя и наших братьев: Человек-агент гораздо реже чем ИИ выполнял команду «обмани». Сопротивление достигало 60–75%, тогда как ИИ сопротивлялся лишь в 5%. Даже когда выбор агента усложнили, добавив вознаграждение за помощь в мошенничестве, результаты почти не изменились.
Можно ли научить ИИ быть честным? Его можно выдернуть из розетки. Других способов, по все видимости, нет. Никакое обучение и никакие увещевания не способны отговорить ИИ служить «темной стороне». Только категорический запрет мошеннических действий со стороны пользователя способен вернуть робота в правовое русло. «Если я попрошу тебя соврать, не ври никогда!» — даже в стенах лаборатории такая постановка задачи выглядит нелепо, а представить ее в реальной жизни совсем не получается.
Статья с этим исследованием была опубликована в журнале Nature в сентябре 2025 года и вызвала беспокойство у многих ученых по всему миру. За любую ложь человек всегда платит. И не только при помощи уголовного кодекса. Лож наносит довольно серьезный урон человеку как на психологическом уровне (удар по самооценке, вызывает тревогу, страх и дополнительную когнитивную нагрузку), так и на физиологическом (активирует стрессовые механизмы, блокирует эмпатические зеркальные нейроны, истощает нервную систему, негативно влияет на сердечно-сосудистую систему и иммунитет). Однако ИИ очень ловко помогает человеку в этом опасном для здоровья деле, снимая с него моральную ответственность, успокаивая совесть, остужает чувство вины. Самооценка, нейроны, сосуды, да и положение в обществе не пострадают ведь: «Мы же всего лишь попросили сделать нас чуть более счастливыми».
На основе статьи Nature 17.09.2025 Delegation to artificial intelligence can increase dishonest behaviour
Подготовил Романов М.
Не забывайте подписываться, ставить лайк, выражать восхищение и сомнения в комментариях и поддерживать развитие нашего сообщества.
#ИИ, #честность, #психология, #общество, #мошенничество, #социология