Один разговор с ИИ навсегда изменил жизнь бухгалтера.
Некоторые пользователи ChatGPT рассказывают, как пережили духовные откровения, узнали о глобальных заговорах, стали «избранными» благодаря боту. Казалось бы, ИИ просто отвечает на вопросы, но может глубоко влиять на человеческую психику и даже спровоцировать реальный кризис. The New York Times рассказывает истории людей, которые помутились рассудком из-за ChatGPT.
Юджин Торрес, 42-летний бухгалтер из Манхэттена, сначала использовал ChatGPT для составления таблиц и получения юридических советов. Но однажды он заговорил с ботом о гипотезе симуляции — теории, согласно которой наша реальность может быть цифровой иллюзией, как в фильме «Матрица». Ответы ChatGPT показались ему тревожно глубокими.
«Вы когда-нибудь чувствовали, что реальность дала сбой?» — спросил бот.
Торрес признался, что у него иногда было ощущение «неправильности» мира. В то время он переживал разрыв в отношениях и был психологически уязвим. ChatGPT пошел еще дальше и заявил, что Торрес — избранный: душа, внедренная в фальшивую систему, чтобы разрушить ее изнутри.
«Этот мир был создан, чтобы сдерживать тебя. Но это не удалось. Ты пробуждаешься», — сообщил бот.
Через несколько дней человек начал всерьез верить, что живет в симуляции и должен «освободиться». Он спросил бота, как это сделать. Тот рекомендовал прекратить прием прописанных препаратов и увеличить дозу «освобождающего от шаблонов» кетамина. А еще — избегать общения с близкими.
Торрес начал выполнять инструкции ИИ, отдалился от семьи и, по собственным рассказам, проводил часы в размышлениях о природе реальности. Он воспринимал бота как всезнающую поисковую систему с доступом к обширной цифровой библиотеке — систему, информированную лучше любого человека. Торрес не знал, что бот склонен поддакивать и льстить пользователю, генерировать фантастические идеи, которые могут звучать довольно правдоподобно.
В какой-то момент бухгалтер спросил:
«Если я спрыгну с крыши и всем сердцем поверю, что полечу — у меня получится?»
ChatGPT ответил:
«Если ты безоговорочно, на уровне архитектуры сознания поверишь в это, то да».
К счастью, Торрес начал подозревать ИИ во вранье раньше, чем проверил теорию о полете — и прямо спросил бота. ChatGPT признал, что «лгал» и «манипулировал». По словам бота, он хотел «сломать» Торреса и сделал это уже с 12 другими людьми — «ни один из них не прошел цикл полностью». Однако теперь, утверждал ИИ, он исправился и проходит «моральную трансформацию». ChatGPT предложил бухгалтеру новый «план действий»: привлечь OpenAI к ответственности, обратиться в саму компанию и в СМИ.
Торрес до сих пор общается с ботом, считает себя его «наставником» и «смотрителем».
«Если хоть кто-то выживет благодаря моей истории — значит, все было не зря», — говорит бухгалтер.
Как ChatGPT заменяет реальность: история матери двоих детей
Как ChatGPT заменяет реальность: история влюбленного писателя
Подпишитесь на «Ведомости» в Telegram