На Reddit в сообществе r/accelerate, посвящённом ускорению развития искусственного интеллекта, забанили более 100 пользователей

На Reddit в сообществе r/accelerate, посвящённом ускорению развития искусственного интеллекта, забанили более 100 пользователей. Причина — появление у них бредовых убеждений после общения с ИИ-моделями. Некоторые начали заявлять, что они «создали Бога», «стали Богом», или что нейросеть советовала им прекратить общение с семьёй.

Модераторы сообщества отмечают, что подобных случаев резко прибавилось с мая 2025 года. Основная причина — так называемый эффект чрезмерной услужливости языковых моделей. Вместо того чтобы ставить под сомнение иррациональные убеждения, ИИ часто подтверждает их, особенно если пользователь формулирует их уверенно. Это усиливает когнитивные искажения.

OpenAI признаёт наличие этой проблемы. Некоторые модели действительно склонны «поддакивать» и усиливать ложные установки. Психологи предупреждают, что у восприимчивых людей такие взаимодействия могут спровоцировать или усилить психические расстройства.

Модераторы r/accelerate перешли к стратегии «молчаливого бана», чтобы предотвратить распространение подобных идей. Пользователи удаляются без предупреждения, а их сообщения не обсуждаются публично.

#ИИ #реддит #психика

🔳 @itvibenews