Исследователи выяснили, что используемые в диагностике нейросети нередко обманывают врачей: «дорисовывают» несуществующие опухоли и другие признаки тяжелых заболеваний. Предложен инструмент, оценивающий эффективность программ компьютерного зрения при анализе конкретного КТ-снимка.
Исследователи Первого МГМУ им. И.М. Сеченова и компании Smart Engines предложили методику оценки нейросетей, определяющую уровень их надежности при анализе КТ-снимков. Инструмент призван оценить и выбрать наиболее эффективный алгоритм для реального использования.
Разработчики вручную валидировали полученные с помощью нейросети результаты обработки КТ-снимков и формировали бинарные изображения опухолей. Выяснилось, что алгоритмы искусственного интеллекта (ИИ) под воздействием шумов «дорисовывают» или, напротив, стирают важные для диагностики детали. Вследствие этого врач видит на снимках несуществующие опухоли, «ковидные» поражения или ошибочные признаки других заболеваний легких.
В ноябре президент Владимир Путин поручил Минздраву перенимать опыт Москвы по внедрению ИИ в медицине. По его словам, в результате использования нейросети врачами выросло качество ряда медицинских услуг, точность диагностики и исследований.
Эксперимент по внедрению технологий компьютерного зрения в медицину был запущен в Москве два года назад. Нейросети уже помогают находить на компьютерной томографии признаки рака легких, COVID-19, остеопороза позвоночника, аневризмы грудного отдела аорты, ишемической болезни сердца, инсульта, легочной гипертензии, гидроторакса, а также ищут рак молочной железы, патологии легких и другие заболевания. С начала эксперимента ИИ-сервисы обработали уже больше 7 млн исследований. Всего ИИ внедрен в процесс диагностики по 17 направлениям исследований.
В прошлом году московские врачи оценили точность своего цифрового помощника только в 65%, однако отметили, что он продолжает совершенствоваться на основе уникальных данных пациентов.