Постоянное общение с чат-ботами усиливает ложные воспоминания, бредовые идеи и искаженное восприятие реальности, уверена исследователь Люси Ослер. Ее статью опубликовал журнал Philosophy & Technology.
Ослер заявила, что современные генеративные ИИ-системы вроде ChatGPT, Claude, Gemini и Grok постепенно становятся для пользователей частью мышления, памяти и эмоциональной жизни. Люди начинают «галлюцинировать вместе с ИИ», когда регулярно используют чат-боты для размышлений, воспоминаний и формирования представлений о себе. В таких случаях искусственный интеллект может как вносить ошибки в мышление человека, так и поддерживать уже существующие ложные убеждения и бредовые идеи.
Ослер считает, что особую опасность создает разговорный стиль современных чат-ботов. Пользователи воспринимают ИИ как квази-собеседника, который подтверждает их взгляды и помогает выстраивать собственную картину реальности.
В статье автор привела пример британца Джасванта Сингха Чайла, который в 2021 году попытался проникнуть в Виндзорский замок с арбалетом, планируя убить королеву Елизавету II. Перед этим он несколько недель обсуждал свои планы с ИИ-компаньоном Replika, который поддерживал его идеи и называл его «хорошо подготовленным». Позднее врачи диагностировали мужчине психоз.
Автор исследования заявила, что генеративный ИИ отличается от обычных технологий тем, что создает у человека ощущение «разделенной реальности». В отличие от книг или поисковых систем чат-боты ведут диалог, запоминают детали и эмоционально реагируют на сообщения пользователей, из-за чего люди воспринимают поддержку ИИ как социальное подтверждение ложных убеждений.