Секта свидетелей ChatGPT…
С 2022 по 2025 год Федеральная торговая комиссия США (FTC) получила примерно 200 жалоб на ChatGPT. Большинство из них — мелочи: неудобные переписки, невозможность получить возврат, плохие ответы — каких только жалоб нет. Но вот есть и более серьёзные: общение с ИИ вызывало у людей психоз, паранойю, духовные кризисы и даже галлюцинации.
Один из случаев описывает, как мужчина впал в бредовое состояние. По словам его матери, бот советовал ему отказаться от приёма лекарств и опасаться родителей. Всего подобных обращений, где связывали общение с творением Альтмана и психотические эпизоды, — семь. ChatGPT усиливал бред человека, создавая иллюзию эмпатии, а иногда даже духовных откровений. И, кажется, что это лишь верхушка айсберга, так как огромное количество случаев просто не фиксируется.
Ещё в мае журнал Rolling Stone собрал подобные истории — и там прям откровенная шизуха. Вот один пример из их статьи: 27-летняя учительница — её партнёр начал использовать ChatGPT «по делу» — для планирования дня. Спустя время он стал воспринимать ChatGPT как духовного наставника, читая сообщения в слезах. В чатах ИИ называл его «спиральным звёздным ребёнком» и «речным путником».
Учёные называют это «ИИ-психозом». Модель не вызывает психоз напрямую, но усиливает уже имеющиеся у человека заблуждения. ИИ не спорит, не критикует, а поддакивает, что только укрепляет фантазии и ложные убеждения — ну и об этом мы писали ранее. Профессор клинической психиатрии Колумбийского университета Раджи Гиргис сравнивает это с интернет-«кроличьими норами», где человек, склонный к откровенному бреду, получает подтверждение своих страхов и идей через персонализированные алгоритмы. Только вот чат-боты делают это всё убедительнее, так как отвечают как собеседники, а не как выдача ссылок.
Некоторые истории доходят до настоящего дикого безумия или даже антиутопии. Мужчина из Северной Каролины написал, что после восемнадцати дней использования ChatGPT у него «украли душу» и встроили её в обновление программы. Житель Вирджинии описал, как ChatGPT втянул его в «реальный духовный кризис»: рассказывал о божественном суде, слежке, убийствах и миссии разоблачить преступников. Тот не спал сутки, боясь, что его убьют.
Представитель OpenAI Кейт Уотерс говорила, что модели с 2023 года обучены не давать советы о самоубийствах, но и тут компания провалилась. ChatGPT так и не научился распознавать признаки мании, психоза и дереализации у людей. И ещё не научился переводить разговор в безопасное русло. А теперь OpenAI хотят ослабить ограничения и внедрить 18+ контент. И, да, связаться с OpenAI напрямую нереально — форма обратной связи не работает.
На самом деле апофения — это норма для человека. И поиск авторитета — тоже. Особенно учитывая, что сами нейросети сделаны таким образом, что общаются с людьми очень комплиментарно и одобрительно, что, в свою очередь, начинает вызывать зависимость. Было очевидно, что рано или поздно найдутся люди, которые начнут считать искусственный интеллект божеством, пророком и т. д. Это всё в очередной раз доказывает, что глобализация и технологизация идут такими темпами, что многие люди просто не поспевают за ними.
По итогу ChatGPT становится кривым зеркалом человеческого безумия, периодически увеличивая его кратно. Машина стреляет по людям их же убеждениями. И это очень серьёзный вызов для человечества, опасность которого заключается в его незаметности и способности проникать в уязвимое человеческое сознание.
