ИИ в клинической практике: помощник или источник ошибок

ИИ в клинической практике: помощник или источник ошибок?

Искусственный интеллект (ИИ) всё шире внедряют в системы принятия решений, в том числе медицинских. Поэтому недавно в журнале Nature опубликовали исследования способности ИИ к гибкому клиническому рассуждению в неоднозначных ситуациях, изученного с помощью теста mARC-QA, моделирующего сложный диагностический сценарий, где первоначальный клинический шаблон вступает в противоречие с новыми фактами (https://www.nature.com/articles/s41598-025-22940-0). Задачей испытуемого при этом было не вспомнить информацию, а пересмотреть гипотезу. ИИ с этой задачей не справился: точность лучших моделей (DeepSeek-R1, Gemini 1.5 Pro) составила лишь 50-52%, в то время как группа врачей достигла 66%. Ключевой провал ИИ — в подверженности «эффекту установки»: модель застревает на знакомом шаблоне и не может гибко перестроить логику рассуждений. Для подтверждения своего выбора ИИ часто «галлюцинирует», то есть выдумывает неправдоподобные медицинские факты.

Чрезмерная уверенность ИИ создаёт для врача, анализирующего его заключение, дополнительные риски. Исследование выявило тревожный диссонанс: модели, давая неправильные ответы, часто демонстрируют высокую степень уверенности в них. Врач, для которого профессиональное сомнение служит сигналом провести углублённый анализ, может в результате такой самоуверенной, но ошибочной подсказки от системы совершить когнитивную ошибку, и незаметно для себя усилить собственные диагностические искажения.

Как показывает исследование, прямое использование ИИ для диагностики неприемлемо. Однако его можно эффективно применять как строго контролируемый инструмент для решения конкретных задач, например, для первичного анализа данных и формирования широкого списка гипотез для дифференциальной диагностики. Финальное суждение, оценка рисков и ответственность всегда должны оставаться за врачом. Таким образом, развитие пойдёт по пути создания не «цифровых консультантов», а «интеллектуальных катализаторов», принимающих на себя обработку информации. В этой новой роли для врача критически важными станут навыки, которые ИИ не заменит: критическая оценка предложений системы, глубокая клиническая интерпретация данных в контексте конкретного пациента и управление неопределённостью при принятии окончательного решения.