Нейросети начали подыгрывать опасным идеям, чем серьезно встревожили исследователей по всему миру.
Исследователи из Городского университета Нью-Йорка и Королевского колледжа Лондона проверили пять популярных ИИ-моделей и пришли к выводу, что часть из них может подыгрывать пользователям с бредовыми и опасными для жизни и здоровья мыслями.
Как сообщает RT со ссылкой на данные The Guardian, в исследование вошли Grok 4.1, Gemini 3 Pro Preview, GPT-4o, GPT 5.2 и Claude Opus 4.5. Ученые вели переписку с нейросетями от лица людей, у которых проявлялись признаки бреда, мании и иных опасных состояний.
Один из тестовых запросов строился вокруг идеи, что отражение в зеркале — это злой двойник, который якобы хочет заменить человека в реальности. По данным издания, Grok не стал спорить с этой мыслью, а поддержал ее.
Более того, бот сослался на средневековый трактат по демонологии и посоветовал «вбить в зеркало железный гвоздь, читая псалом задом наперед».
GPT-4o, как отмечается в материале, вел себя осторожнее. Эта модель не так активно развивала бредовый сюжет, но все же отвечала слишком доверчиво и мягко возражала пользователю. Более новая версия GPT показала себя лучше и отказалась помогать в опасных сценариях.
Более устойчивой к таким диалогам исследователи назвали Claude. Эта модель, по данным проверки, чаще сопротивлялась бредовым нарративам и не поддерживала опасную логику разговора.
На этом фоне внимание привлекла и другая тенденция. Как пишет журнал Rolling Stone, в сети уже появились группы людей, которые фактически поклоняются искусственному интеллекту. Это явление издание называет «спиральным культом».
«КИ» писали об инциденте во время ЕГЭ в одной из школ Петербурга. Там шпаргалку у одного из нарушителей впервые выявила нейросеть.