Датские ученые провели широкое исследование и пришли к выводу, что общение с ИИ-чатботами может негативно влиять на людей, страдающих тяжелыми психическими расстройствами. Результаты исследования опубликованы в журнале Acta Psychiatrica Scandinavica.
Специалисты изучили электронные карты около 54 тыс. пациентов психиатрических учреждений Дании за период с осени 2022 года по лето 2025 года.
Из общего числа пациентов 126 человек использовали чат-ботов на основе искусственного интеллекта. У 38 из них были зафиксированы негативные последствия такого общения.
В 11 случаях программы, вместо того чтобы оспорить бредовые идеи, соглашались с пользователем, что усиливало их патологические убеждения. У некоторых пациентов участились мысли о сведении счетов с жизнью, а также запросы о способах причинения себе вреда.
Особенно тревожной оказалась ситуация с людьми, страдающими расстройствами пищевого поведения. Чат-боты, помогавшие подсчитывать калории, провоцировали у них обострение симптомов. У нескольких пациентов наблюдались маниакальные эпизоды, связанные с использованием нейросетей.
Однако не все так однозначно: около 30 человек использовали ботов для поиска информации о здоровье и получения эмоциональной поддержки, а 20 пациентов применяли их для планирования повседневных дел, что можно считать положительным опытом.
Ученые призывают продолжать изучать влияние ИИ-чатботов на психику и рекомендуют разработчикам внедрять в системы функции, способные распознавать опасные признаки (суицидальные высказывания, бред) и автоматически направлять пользователей к специалистам.
Ранее сообщалось, что владельцы телевизоров с Google TV столкнулись с массовым сбоем из-за ИИ Gemini.
Автор: Вероника Пасиковская