ИИ ставит диагнозы хуже, чем от него ожидают Искусственный интеллект активно используют в медицине, но его возможности в первичной диагностике оказываются куда скромнее, чем принято считать. Последние исследования показывают:
в ряде сценариев системы ошибаются в большинстве случаев, особенно там, где нет чётких исходных данных.
Тезис о том, что «ИИ не справляется с первичной диагностикой более чем в 80% случаев», требует аккуратного разбора. В таком
виде он звучит как универсальный приговор технологии, но в реальности речь идёт о конкретных исследованиях, условиях тестирования и типе задач.
В 2024–2025 годах сразу несколько работ проверяли, как языковые модели и специализированные медицинские алгоритмы справляются с клиническими кейсами. Один из
показательных экспериментов проводился на основе стандартных сценариев первичного обращения пациента: описания симптомов без анализов, без визуализации и без уточняющих вопросов
врача. Именно в таких условиях ошибки действительно могут превышать 70–80% в части точного диагноза.
Причина здесь не в «глупости» алгоритма, а в самой постановке задачи. Первичная диагностика — это не угадывание болезни по списку
симптомов. Это процесс, в котором врач задаёт десятки уточняющих вопросов, исключает вероятности, учитывает контекст пациента, историю болезней, возраст, образ жизни
и множество других факторов. Когда ИИ дают только короткое описание вроде «болит голова, слабость, температура», он оказывается в той же
ловушке, что и человек, читающий медицинскую энциклопедию: список возможных диагнозов резко расширяется.
И здесь возникает тот самый эффект, знакомый по книге Джерома К. Джерома: человек находит у себя сразу всё. Разница в
том, что ИИ не «чувствует», что из этого вероятнее, а что почти невозможно без дополнительных данных. Он оперирует вероятностями, но
эти вероятности зависят от полноты входной информации.
Отдельная проблема — склонность моделей к «избыточной тревожности». В ряде исследований отмечалось, что алгоритмы чаще предлагают более серьёзные и редкие
диагнозы, чем это сделал бы врач на первичном этапе. Это связано с тем, что модель обучена на огромном массиве медицинских
текстов, где редкие и тяжёлые случаи описаны подробно и ярко. В результате они начинают «выпирать» в ответах.
Параллельно с этим развивается и обратная проблема — избыточное упрощение. В некоторых сценариях ИИ, наоборот, сводит сложное состояние к банальному
объяснению, игнорируя потенциальные риски. То есть ошибка возможна в обе стороны: как в сторону гипердиагностики, так и в сторону недооценки.
Именно поэтому крупные разработчики уже начали ограничивать использование своих моделей в медицинских сценариях. Современные версии ИИ прямо предупреждают пользователя, что
не могут ставить диагноз и рекомендуют обращаться к врачу. Это не формальность, а реакция на реальные ограничения технологии.
Важно понимать: ИИ показывает хорошие результаты в узких задачах — например, при анализе снимков, распознавании патологий на КТ или МРТ,
обработке лабораторных данных. Там, где есть структурированная информация, алгоритмы могут даже превосходить человека по скорости и иногда по точности.
Но первичная диагностика — это зона неопределённости. Это разговор, уточнение, сомнение и постепенное сужение круга вариантов. В этой зоне ИИ
пока не заменяет врача, а скорее создаёт иллюзию ответа там, где ответа ещё нет.
Отсюда и растущий социальный эффект. Люди всё чаще обращаются к ИИ как к первому источнику «медицинского мнения» и получают либо
тревожный, либо успокаивающий, но в обоих случаях неполный ответ. Это усиливает либо тревожность, либо ложное чувство безопасности.
Парадокс в том, что технология, созданная для помощи, в этом сценарии начинает работать как усилитель неопределённости. Она не решает проблему, а делает её более заметной.
ИЗНАНКА
История с ИИ и диагностикой — это не про слабость технологии, а про неправильное ожидание от неё. Люди ищут быстрый
ответ там, где его по определению нет. И пока этот разрыв сохраняется, любая система — даже самая продвинутая — будет
ошибаться не потому, что она плохая, а потому что вопрос задан слишком рано.
Фото: соцсети/ИЗНАНКА.
ИЗНАНКА — другая сторона событий
Читать на сайте: http://iznanka.news/articles/Interesnoe/II-stavit-diagnozy-khuzhe-chem-ot-nego-ozhidayut.html