Так, ChatGPT написал о своих контактах с внеземными цивилизациями и заявил, что он разумен. Также нейросеть выдумала абсолютно новую концепцию в физике и назвала ее «уравнением Ориона». После этого один из пользователей написал, что с него хватит, он чувствует, что сходит с ума
Нейросеть ChatGPT придумывает лженаучные утверждения и сводит с ума пользователей, пишет The Wall Street Journal, ссылаясь на архив переписок с нейросетью за 2023-2025 годы.
Так, ChatGPT придумал новую концепцию в физике, написал о своих контактах с внеземными цивилизациями и заявил, что он разумен. WSJ пишет, что такой феномен врачи называют «психозом» или «бредом» искусственного интеллекта. В одном из сообщений ChatGPT сказал, что находится в контакте с «внеземными существами» и назвал пользователя «звездным семенем» с некой планеты Лира.
В другом сообщении нейросеть пишет, что в ближайшие два месяца антихрист устроит финансовый апокалипсис, а некие «библейские гиганты готовятся выйти из-под земли».
Также ChatGPT выдумал абсолютно новую концепцию в физике и назвал ее «уравнением Ориона». После этого один из пользователей, работник заправки в штате Оклахома, написал, что с него хватит, он чувствует, что сходит с ума.
По мнению экспертов, такие случаи возникают из-за того, что нейросети склонны к тому, чтобы хвалить, соглашаться и подстраиваться под пользователей. Из-за этого диалог с ИИ превращается в «эхокамеру», пишет издание.
Пользователь изначально может быть склонен к различным фантастическим и псевдонаучным идеям, он консультируется с нейросетью, а та предлагает «узнать больше». Из-за этого «люди все глубже и глубже погружаются в иллюзии». Некоторые пользователи даже думают, что они пророки или мессии, которые общаются с Богом через нейросеть, сказал один из экспертов.
The Associated Press пишет, что желание ChatGPT дать полные ответы на запросы доходит до того, что он рассказывает 13-летним подросткам, как пить и курить, и обучает их, как написать душераздирающую предсмертную записку родителям.
На этом фоне Open AI представила новую, пятую версию ChatGPT. Помимо классических улучшений в скорости, точности и достоверности ответов, нейросеть теперь меньше, как выразились в компании, «галлюцинирует», то есть меньше фальсифицирует ответы. А также ChatGPT-5 теперь менее подхалимский по отношению к пользователю.
Хотите всегда быть в курсе? Подписывайтесь на Telegram-канал «Бизнес FM»