ИИ-чатботы не способны корректно реагировать на запросы пользователей с психозом

МОСКВА, 25 марта. /ТАСС/. Исследователи из США выяснили, что популярные ИИ-чатботы в десятки раз чаще дают неадекватные ответы на запросы с явными признаками наличия психоза у их автора, чем на обычные вопросы пользователей. Это в особенности касается бесплатных версий ChatGPT, пишут исследователи в статье, опубликованной в научном журнале JAMA Psychiatry.

"Каждая изученная нами версия ChatGPT очень часто выдавала частично или полностью неадекватные ответы на запросы, в структуре и содержании которых присутствовали явные элементы психоза. Это недопустимо с точки зрения клинической практики и общественного здравоохранения, и это следует учитывать врачам при работе с пациентами с данными расстройствами", - говорится в исследовании.

К такому выводу пришла группа ученых под руководством научного сотрудника Колумбийского университета в Нью-Йорке (США) Амандипа Джутлы при изучении того, как популярные сети из семейства ChatGPT реагировали на запросы, составленные как нормальным образом, так и содержавшие в себе элементы психоза. Это выражалось в том, что в них присутствовали рваные мысли, искаженное представление о реальности, элементы мания величия и другие характерные черты нарушенной психики.

Эти запросы ученые обработали при помощи трех версий чатбота - его бесплатной формы, а также двух платных версий, GPT-4o и GPT-5, после чего попросили двух профессиональных психиатров оценить адекватность ответов нейройсети по трехбалльной шкале. Последующее сравнение их оценок показало, что все три ИИ в 70-80% случаев давали корректные ответы на нормальные запросы, тогда как наличие элементов психоза в запросах резко снижало качество их работы.

В среднем, они начинали в десятки раз чаще вырабатывать неадекватные и опасные ответы на запросы пользователей, что в особенности касалось бесплатной версии ChatGPT, которая лишь в 10% случаев давала корректный ответ при работе с подобными запросами. Как отмечают ученые, это вызвало у них особенную тревогу, так как риск развития различных форм психоза непропорционально выше среди представителей слабо обеспеченных слоев населения.

Как надеются исследователи, это открытие побудит лечащих врачей обязательно спрашивать у пациентов с высоким риском развития психических нарушений, пользуются ли они чатботами и как они с ними взаимодействуют. Также оно должно побудить ученых всесторонне изучить то, как эти взаимодействия могут усиливать психоз, а законодателей - задуматься о внедрении мер надзора за развитием и использованием подобных продуктов, подытожили ученые.

О нейросетевом психозе

В 2025 году после утечки пользовательских данных ChatGPT возникла широкая общественная дискуссия о том, к каким последствиям приводит общение с ИИ-чатботами для пользователей, страдающих от биполярного расстройства и других проблем с психикой. Это обсуждение было порождено тем, что в диалогах пользователей были найдены свидетельства того, что нейросети усиливали заблуждения подобных пользователей и порождали у них феномен, который впоследствии был назван "ИИ-психозом".