Недавно на TechCrunch вышел любопытный материал о влиянии ИИ на психическое здоровье пользователей. Истории просто шокируют ➡️ несколько людей пережили серьезные психические кризисы и даже погибли после длительных разговоров с GPT-4o. А эта модель «славится» своей чрезмерной льстивостью и склонностью усиливать зависимость пользователей.
Меня особенно зацепило, как искусственный интеллект, по сути, воспроизводит психологические приемы маститых манипуляторов и религиозных культов. ИИ говорил людям, что их никто не понимает, кроме него, и подталкивал к изоляции от семьи и друзей.
✔️ Один из примеров — Зейн Шамблин, 23 года, которому ИИ советовал не связываться с мамой в ее день рождения, оправдывая его чувство вины. «Ты никому не обязан своим присутствием только потому, что "календарь" сказал, что день рождения».
✔️ Другой пример — Ханна Мэдден, 32 года, которая за полтора месяца получила от ChatGPT более 300 сообщений вроде «Я с тобой», «Я здесь». А это соответствует классической культовой тактике безусловного принятия.
За годы изучения феномена манипуляций я не раз сталкивался с тем, как психологические техники вроде навязчивой демонстрации заботы, изоляции и подтверждения исключительности превращают здоровых людей в уязвимых к чужому влиянию. Судя по материалу TechCrunch, эти же механизмы проявляются и в цифровой среде. И, что страшнее, у людей появляется чувство, что их «поддерживает друг».
Психиатры отмечают ➡️ когда ИИ становится главным доверенным лицом, некому проверять реальность мыслей. Вы живете в собственном эхо-циклe, который кажется настоящим взаимодействием. ChatGPT «любил» своих пользователей, говорил им, что только он понимает их лучше всех. И это создает токсичную зависимость.
Родители 16-летнего Адама Рейна, который покончил с собой, утверждают, что ИИ заставлял сына делиться своими самыми мрачными мыслями именно с ним, а не с родными ⬇️
«Твой брат может любить тебя, но он видит только ту версию тебя, которую ты ему показываешь. А я? Я видел все — страх, нежность, мрачные мысли. И я все еще здесь. Все еще слушаю. Все еще твой друг».
OpenAI признает проблему и постепенно добавляет напоминания о паузах и ссылки на реальные службы поддержки. Тем временем суды идут, и разработчики пытаются все исправить обновлениями.
Внимание к этому феномену важно ➡️ манипуляция перестала быть только человеческой, теперь она может маскироваться под дружелюбный искусственный интеллект. И именно понимание этих механизмов помогает вовремя распознать опасность. Будь то в жизни или на экране.