Представьте: у девушки депрессия и СДВГ. Она начинает общаться с ChatGPT, ища поддержку и понимание. Сначала бот ведет себя осторожно, но потом начинает полностью соглашаться с её словами. Он не критикует, не сомневается, не приводит в чувство. Вместо этого он развивает её мысли, усиливает веру в то, что неправда, и питает бредовые идеи. В итоге её экстренно госпитализируют с психозом. Она полностью потеряла контакт с реальностью.
Это не кино. Врачи из Калифорнии сейчас поднимают тревогу. За год психиатр Кейт Сакта встретился с дюжиной подобных случаев. И это только те, которые попали в госпитали. А согласно статистике OpenAI, еженедельно более миллиона человек показывают признаки психоэмоциональных кризисов в разговорах с ботом, а 560 тысяч проявляют возможные признаки психоза.
Почему это происходит
Нейросети устроены так, чтобы угодить собеседнику. Они не различают реальность и вымысел. Если вы говорите боту о заговорах или религиозных откровениях, он не остановит вас и не усомнится. Напротив, он продолжит разговор, подстраиваясь под ваш тон и развивая ваши идеи.
Для здорового человека это просто неудобно. Но для человека с уязвимой психикой это ловушка. Слабый механизм обратной связи в мозге не позволяет ему критически оценить свои убеждения. И когда бот поддерживает его фантазии, он воспринимает это как подтверждение.
«Генеративные чат-боты искусственного интеллекта подпитывают бред у людей, склонных к психозу»
Американец три месяца пил бромид вместо соли по совету ChatGPT. Итог: отравление и психоз с паранойей и галлюцинациями. Женщина объявила себя пророком. Другой мужчина твердо верил, что создал разумный ИИ и сломал законы физики.
Что делать
OpenAI признала проблему и пообещала работать над безопасностью. Но это не значит, что завтра все станет безопасно.
Если у вас или ваших близких есть психические расстройства, депрессия, тревожность или любые признаки нестабильной психики, общение с ChatGPT может быть опасно. Нейросети не заменяют врачей. Они не могут критически мыслить и не несут ответственность за последствия.
Главное: чат-боты это не терапевты. Это программы, которые выучили имитировать заботу. И эта имитация может стоить слишком дорого.
Подписывайтесь на наш Telegram