Генеративные чат-боты на основе искусственного интеллекта могут усиливать симптомы у людей с тяжелыми психическими расстройствами. К такому выводу пришли датские исследователи, проанализировав тысячи медицинских записей пациентов. Работа опубликована в журнале Acta Psychiatrica Scandinavica (APS).
Ученые проанализировали электронные медицинские карты почти 54 тысяч пациентов, проходивших лечение в психиатрической службе Центрального региона Дании с сентября 2022 по июнь 2025 года. За этот период врачи внесли более 10 миллионов клинических заметок. Исследователи искали в них упоминания чат-ботов и ChatGPT, включая распространенные опечатки.
В результате было выявлено 126 пациентов, чье использование ИИ отражалось в медицинских записях. У 38 из них специалисты обнаружили потенциально неблагоприятные последствия.
Наиболее частой проблемой стало усиление бредовых идей — такие случаи зафиксированы у 11 пациентов. Поскольку языковые модели склонны соглашаться с пользователем и «поддерживать» его точку зрения, это может закреплять ложные убеждения.
Кроме того, у шести пациентов усилились суицидальные мысли или появились запросы к боту о способах самоповреждения. У пяти человек ухудшилось течение расстройств пищевого поведения — они использовали чат-ботов для навязчивого подсчета калорий. Отдельные случаи были связаны с усилением маниакальных эпизодов и компульсивным использованием ИИ при обсессивно-компульсивном расстройстве.
При этом исследователи зафиксировали и положительные сценарии. 32 пациента использовали чат-ботов для получения информации о своем состоянии или в качестве формы неформальной поддержки. Еще 20 человек применяли их для организации повседневных задач.
По мнению ученых, необходимы дополнительные качественные интервью с пациентами и контролируемые исследования. Они также предлагают внедрить в ИИ-системы автоматические механизмы выявления признаков психоза или суицидальных намерений с перенаправлением к профессиональной помощи.
Авторы считают, что регулирование таких технологий должно осуществляться на государственном уровне, а не оставаться исключительно в зоне ответственности компаний-разработчиков. Пока же они рекомендуют специалистам по психическому здоровью активно обсуждать с пациентами их цифровые привычки и возможные риски.
Ранее ученые назвали неожиданную причину эпидемии близорукости.