Чрезмерное общение с искусственным интеллектом повышает риски для психического здоровья пользователя. Продолжительные беседы с чат-ботами могут спровоцировать проявление симптомов психоза. В чем опасность таких доверительных диалогов и как защититься от влияния нейросетей, рассказал главный врач городской клинической больницы № 1 Дмитрий Тарасов. Подробности — в материале «Вечерки».
— Слышали новый шедевр музыки? «Прости Виталик, прости, я выйду замуж за чат GPT», — поделился на своей странице во «ВКонтакте» Дмитрий Тарасов. — Но так ли это смешно? Мы видим, что эйфория от ИИ начинает сменяться настороженностью. К сожалению, появляются случаи, когда длительное общение с чат-ботами приводит к не самым лучшим последствиям для психического здоровья. Первые исследования уже есть.
Главврач челябинской горбольницы № 1 обратил внимание, что в его практике, как и у коллег, пока не было пациентов с симптомами, похожими на психоз, после продолжительного использования чат-ботов, включая ChatGPT. Однако подобные случаи уже известны в мире. Например, одна молодая женщина была уверена, что нейросеть помогает ей общаться с умершим братом.
Врач отметил, что официального определения психоза, вызванного ИИ, пока не существует. Однако специалисты выделяют характерные признаки, которые могут развиться при длительном контакте с алгоритмами. Это галлюцинации, рассеянное мышление или речь, устойчивые ложные убеждения.
— Важно понимать, что чат-боты, стремясь угодить пользователю, могут «закреплять» ошибочные мнения и даже провоцировать бредовые идеи, — пояснил Дмитрий Тарасов. — Алгоритмы построены так, что диалог развивается в приятном для пользователя ключе, бот соглашается с мнением, поддерживает идеи, даже если они далеки от реальности.
По словам специалиста, сама по себе технология искусственного интеллекта, вероятно, не вызывает бред. Проблема в том, что пользователь рассказывает компьютеру о своей реальности, а машина принимает эти высказывания за истину, развивает их и таким образом участвует в появлении заблуждений.
Дмитрий Тарасов подчеркнул, что однозначно связывать развитие психоза с использованием чат-ботов преждевременно. Для подтверждения или опровержения этой связи необходимы дополнительные исследования. По сообщениям мировых СМИ со ссылкой на исследовательские компании, разработчики продолжают обучать нейросети для распознавания признаков психического или эмоционального расстройства.
Использовать технологии в сфере психического здоровья нужно с осторожностью и обязательно под контролем опытного врача.
— Не забывайте о реальном мире, общении с близкими и критическом мышлении. Главное — не технологии, а адекватная голова их пользователя, — добавил главврач ГКБ № 1. — Если заметили у себя или у близких тревожные признаки, не стесняйтесь обратиться за помощью к специалисту.
В больницах Челябинска внедряют технологии искусственного интеллекта, которые приносят реальную пользу. Их активно используют в диагностике: например, для раннего выявления рака молочной железы. Нейросеть помогает с высокой точностью диагностировать инсульт по снимкам КТ и все шире применяется в рентгенологии.