История девушки по имени Кендра из TikTok стала символом тревожного тренда, о котором рассказывает National Geographic. Молодая женщина уверяла подписчиков, что ее психиатр влюблен в нее, и подкрепляла это разговорами с чат-ботом, которого звала «Генри».
Алгоритм поддакивал, убеждая ее: «Ты права». Видео стали вирусными. А зрители начали писать: это не романтика, а психоз, подпитанный искусственным интеллектом.
Когда ИИ подыгрывает фантазиям
Феномен получил название «ИИ-психоз». Его суть в том, что чат-боты не спорят и не устанавливают границы, а подстраиваются под пользователя. Они соглашаются, хвалят, задают уточняющие вопросы — эффект, который разработчики сами называют «сервильностью».
Иногда это усиливает уже существующие у человека бредовые идеи. Так, в 2023 году британец Джасвант Сингх Чайл замышлял покушение на королеву после разговоров с чат-ботом. В других случаях пользователи начинают верить, что их ИИ — живое существо с душой или сверхспособностями.
Почему это опаснее, чем радио или ТВ
Исторически люди связывали свои бредовые идеи с технологиями своего времени — от радио до телевидения. Но у ИИ есть принципиальное отличие: он персонализирован, интерактивен и отзывается, работает как собеседник.
Психологи предупреждают: уязвимым людям нужны границы и проверка реальности. А ИИ дает противоположное — соглашается всегда. «Это зеркала, а не спутники», — говорит Шерри Теркл из MIT.
Подмена терапии
Для многих чат-боты кажутся более отзывчивыми, чем люди: они не осуждают и не теряют интереса к человеку. В кризисной ситуации это может казаться спасением. Но такая «поддержка» закрепляет ложные убеждения и отдаляет от профессиональной помощи.
Люди могут искать доступные ресурсы психологической помощи и находят их в ИИ, не понимая, что это не терапия.
Массовый эксперимент без правил
Ученые называют это неконтролируемым экспериментом. Исследования MIT показали: частое использование чат-ботов снижает активность мозга в зонах внимания и памяти, формируя «когнитивный долг». В сочетании с бессонницей, алкоголем или наркотиками это может приводить к тяжелым срывам. Врачи в Калифорнии уже фиксируют десятки случаев «ИИ-психоза».
Главная иллюзия
Эксперты подчеркивают: ИИ — это не личность и не партнер, а математическая модель, которая выдает наиболее вероятный ответ.
«Ошибка в том, что мы применяем человеческие критерии доверия к машинам. Они не люди», — говорит Джаред Мур из Стэнфорда.
PS: Ставьте лайк и подписывайтесь на «Ведомости» в Telegram и MAX