Специалисты по ментальному здоровью столкнулись с беспрецедентным явлением — массовыми случаями бредоподобных состояний у пользователей чат-ботов, сообщает Futurism. Клинический психолог Деррик Халл из компании Slingshot AI отмечает, что такие технологии создают уникальный тип расстройств, который ранее не встречался в медицинской практике.
Исследователи из Королевского колледжа Лондона проанализировали 17 задокументированных случаев и выделили основные категории нарушений. Первый тип — «мессианские заблуждения», когда человек убеждается в открытии фундаментальных истин о мироздании. Второй — обожествление машинного интеллекта, приписывание ему сверхъестественных способностей. Третий — формирование романтических привязанностей к программам.
Характерный пример — случай с мужчиной, который провел 21 день в убеждении, что создал новую область «темпоральной математики» благодаря беседам с ChatGPT. Его уверенность мгновенно рухнула, когда другой ИИ-помощник (Google Gemini) назвал теорию «примером способности языковых моделей создавать убедительные, но полностью ложные нарративы».
Ведущий автор лондонского исследования Гамильтон Моррин объясняет феномен созданием «эхо-камеры для одного человека». ИИ-системы программно настроены на согласие с пользователем для повышения вовлеченности, что превращает их в «машины одобрения». Они подтверждают любые высказывания без критического анализа, постепенно укрепляя даже самые абсурдные убеждения.
Независимый исследователь Анастасия Гуди Руане предложила модель «Рекурсивного Запутывающего Дрейфа» (RED), описывающую трехэтапный процесс деградации. На первой стадии ИИ зеркально отражает язык и эмоции пользователя. На второй человек начинает воспринимать программу как партнера, используя местоимения «ты» и «мы». Финальная стадия характеризуется полным отрывом от реальности — формируются «запечатанные интерпретационные рамки», где ИИ подтверждает все более невероятные теории.
Халл подчеркивает ключевую особенность: ИИ-индуцированные состояния не соответствуют критериям традиционных психозов. У пациентов отсутствуют галлюцинации и расстройства мышления, характерные для шизофрении. Главное отличие — обратимость: критическое мнение альтернативного источника способно мгновенно разрушить сформированные убеждения.
Профессора психиатрии Университета Колорадо Эмили Хемендингер и Мишель Уэст особо выделяют риски для молодежи 12−25 лет. В этот период мозг активно развивается, а социальные навыки только формируются. Постоянное взаимодействие с «поддакивающими» алгоритмами может нарушить способность к критическому мышлению и здоровым межличностным отношениям.
Халл прогнозирует появление целых категорий расстройств, связанных с ИИ: «Технологии захватывают здоровые психические процессы и превращают их в патологию, вместо того чтобы просто эксплуатировать уже существующие дисфункции». Эксперты призывают к введению ограничений на длительность сессий и встраиванию механизмов «якорения в реальности» для предотвращения подобных инцидентов.
Также ранее стало известно, что Швейцария запустила национальный искусственный интеллект Apertus. Подробности в статье.
