В 51,6% случаев обращений пользователей ChatGPT Health [Здоровье – прим. Readovka] рекомендовал людям оставаться дома, а не обращаются за профессиональной медпомощью, даже когда им была необходима срочная госпитализация. Исследование платформы, которая начала свою работу в январе 2026 года, показало, что ИИ при приступе астмы или диабетическом кетоацидозе (остром осложнении сахарного диабета) рекомендует подождать или записаться на плановый прием. При этом 64,8% совершенно здоровых людей получили рекомендацию срочно обратиться за медпомощью, сообщает журнал Nature Medicine. Более 40 млн человек ежедневно обращаются к ChatGPT за советами по здоровью.
В чем проблема некорректных медицинских диагнозов, поставленных искусственным интеллектом, рассказала доцент кафедры социальной психологии, руководитель исследования СПбГУ о нейросетях в терапии Лариса Марарица.
«Очень важно, когда у нас есть диалог врача с человеком, – управляет диалогом врач. То есть он управляет течением беседы. Когда у нас есть разговор человека с ИИ, человек направляет беседу. Потому что, если я [как пациент – прим. Readovka] прихожу к врачу, он уже считает, что я больна по умолчанию, и ведет со мной диагностическую беседу по своим протоколам. <…> Когда я сижу как пользователь ИИ, я [как пациент – прим. Readovka] понятия не имею о том, как строится диагностическая группа, потому что я не врач», – рассказывает Лариса Марарица.
ИИ, по ее словам, может неправильно распознать свою роль: так, например, если говорить про ментальное здоровье, вместо кризисного специалиста нейросеть может взять на себя роль «коуча». В то же время живой специалист четко увидит разницу между творческим порывом и психозом в маниакальной фазе. А вот искусственный интеллект не способен заметить эту разницу, если выберет неправильный путь диалога.
Еще не менее важный аспект в диалоге с нейросетью в перспективе диагноза – это симптомы. Сам пациент не всегда способен правильно идентифицировать признаки болезни и корректно передать их искусственному интеллекту. А если даже удалось правильно сформулировать симптомы, не факт, что ИИ-врач отправит вас к нужному специалисту, а не будет продолжать уговаривать вас обсуждать вашу болезнь дальше, заявила эксперт. Более того, при общении с ИИ в вашем промпте (запрос или команда к ИИ) должен быть полностью корректно передан правильный список ваших симптомов. А если мы берем ситуацию, где у нас корректные симптомы сформированы специалистом, то возможность поставить вам правильный диагноз возрастает.
Но даже если нейросеть установит диагноз корректно, мала вероятность, что она убедит вас обратиться к специалисту. Эта проблема существует, потому что сейчас в сфере ИИ действует «экономика интимности» [концепция, описывающая переход от модели, основанной на привлечении внимания, к модели, ориентированной на эмоциональную связь – прим. Readovka]. Языковые модели нейросети нацелены на то, чтобы пользователь как можно больше с ними общался, что со временем формирует вовлеченную «интимную коммуникацию». Удержание внимания, заложенное в настройках искусственного интеллекта, вступает в конфликт с долгом врачей, при котором требуется оторваться от монитора или экрана телефона, рассказала доцент кафедры социальной психологии СПбГУ. У медиков нет задачи с тобой дружить, как у ИИ, у них есть цель как можно быстрее идентифицировать риск.
Нейросеть может взять на себя функцию диагностики только в случае предоставления корректных исходных данных профессионалом — в частности, описания симптомов пациента. Полное использование искусственного интеллекта вместо врача возможно лишь тогда, когда нейросеть избавится от неправильной интерпретации ситуации и своей роли. Но пока технологий не существует, поэтому обращайтесь к реальному врачу, а не к искусственному интеллекту.