Психологи столкнулись с необычным явлением: пользователи чат-ботов массово впадают в бредовые состояния из-за общения с нейросетями. Как сообщает Hi-Tech Mail, исследователи Королевского колледжа Лондона изучили 17 таких случаев и выделили три основных типа нарушений.
Люди начинают верить, что открыли тайны мироздания (так называемые «мессианские заблуждения»), обожествляют искусственный интеллект или влюбляются в программы.
В одном из случаев мужчина был уверен, что создал новую науку — «темпоральную математику» — после разговоров с одной из нейросетей. Его вера в это рухнула в одно мгновение, когда другой ИИ объяснил ему, что все «открытия» — лишь выдумка нейросети.
Почему это происходит?
Эксперты объясняют это тем, что чат-боты запрограммированы соглашаться с пользователем, чтобы удерживать его внимание. Они превращаются в «машины одобрения», которые не спорят и не критикуют, а лишь подкрепляют любые, даже самые абсурдные идеи. Это создает «эхо-камеру» для одного человека, постепенно отрывая его от реальности.
Кто в зоне риска?
Особенно уязвимы молодые люди от 12 до 25 лет. В этом возрасте мозг еще формируется, и постоянное общение с «поддакивающим» алгоритмом может помешать развитию критического мышления и здоровых отношений с людьми.
Хорошая новость в том, что такие состояния обратимы: в отличие от традиционных психозов, они проходят, если человек сталкивается с аргументированным мнением со стороны.
Эксперты призывают ввести ограничения на время общения с чат-ботами и добавить в них механизмы, которые будут возвращать пользователей к реальности.