Искусственный интеллект всё увереннее входит в онкологическую диагностику. Он анализирует гистологические препараты, помогает отличать подтипы опухолей и ускоряет работу патологов. Но новое исследование показывает неожиданную сторону этой точности: алгоритмы способны извлекать из тканевых срезов не только признаки рака, но и информацию о том, кто именно перед ними. Возраст, пол, расовая принадлежность — всё это может незаметно влиять на итог диагноза.Методы исследования — проверка ИИ на объективность
Работу выполнила команда учёных из Гарвардской медицинской школы (Harvard Medical School) совместно со специалистами Женской больницы Бригама (Brigham and Women’s Hospital).Исследование возглавил Кун-Хсинг Ю (Kun-Hsing Yu) — научный сотрудник в области биомедицинской информатики и патологии. Учёные проанализировали работу четырёх распространённых моделей искусственного интеллекта, применяемых для диагностики рака по цифровым гистологическим срезам.Для оценки использовалась многоцентровая
- Искусственный интеллект всё увереннее входит в онкологическую диагностику. Он анализирует гистологические препараты, помогает отличать подтипы опухолей и ускоряет работу патологов. Но новое исследование показывает неожиданную сторону этой точности: алгоритмы способны извлекать из тканевых срезов не только признаки рака, но и информацию о том, кто именно перед ними. Возраст, пол, расовая принадлежность — всё это может незаметно влиять на итог диагноза.Методы исследования — проверка ИИ на объективность
Работу выполнила команда учёных из Гарвардской медицинской школы (Harvard Medical School) совместно со специалистами Женской больницы Бригама (Brigham and Women’s Hospital).Исследование возглавил Кун-Хсинг Ю (Kun-Hsing Yu) — научный сотрудник в области биомедицинской информатики и патологии. Учёные проанализировали работу четырёх распространённых моделей искусственного интеллекта, применяемых для диагностики рака по цифровым гистологическим срезам.Для оценки использовалась многоцентровая база данных, включавшая образцы 20 различных типов опухолей. Главный вопрос был предельно практичным: одинаково ли хорошо эти системы работают для разных групп пациентов?Результаты исследования опубликованы в журнале «Cell Reports Medicine».Основные результаты — точность оказалась неравномерной
Анализ показал, что диагностическая точность ИИ заметно варьирует в зависимости от демографических характеристик пациента. Алгоритмы работали по-разному в зависимости от:возраста
пола
самоидентифицированной расы
Например, системы хуже различали подтипы рака лёгкого у афроамериканских пациентов и у мужчин, а также демонстрировали сниженную точность при классификации рака молочной железы у молодых пациентов. Аналогичные расхождения наблюдались и при диагностике опухолей почки, щитовидной железы и желудка.В сумме такие различия затронули около 29 % диагностических задач, включённых в исследование.Механизмы — почему ИИ «видит» лишнее
Считается, что гистологический срез — обезличенный объект. Патолог не знает, кому принадлежит ткань. Но ИИ оказался куда наблюдательнее. Команда выявила три ключевых механизма, формирующих смещение.Во-первых, неравномерные обучающие данные: некоторые группы пациентов представлены хуже, что снижает точность алгоритмов именно для них.Во-вторых, различия в распространённости заболеваний. Если определённый тип рака чаще встречается в конкретной группе, ИИ начинает использовать этот контекст как подсказку — и ошибается там, где привычные закономерности не работают.И, наконец, молекулярные особенности. Алгоритмы способны улавливать тонкие биологические сигналы, связанные с мутациями и сигнальными путями, которые коррелируют с демографическими признаками. Эти сигналы становятся «короткими путями» для классификации — в ущерб универсальности.Последствия и значение — риск скрытой несправедливости
Такие перекосы — не абстрактная проблема. Они могут напрямую влиять на клинические решения и приводить к тому, что одни пациенты получают менее точную диагностику просто из-за своих демографических характеристик.Чтобы снизить этот эффект, исследователи разработали метод обучения FAIR-Path, который заставляет модели фокусироваться на различиях между типами опухолей, а не на косвенных демографических сигналах. Применение этого подхода снизило диагностические различия примерно на 88 %, без радикального пересмотра самих алгоритмов.Заключение — справедливость как часть точности
История с патологическим ИИ наглядно показывает: даже самые продвинутые алгоритмы могут воспроизводить скрытые перекосы медицины, если их этому неосознанно научить. Диагностика рака должна быть не только быстрой и высокоточной, но и одинаково надёжной для всех пациентов. Эти выводы логично вписываются в более широкий контекст того, как искусственный интеллект всё глубже проникает в онкологию — от диагностики до прогноза исходов заболевания, что хорошо иллюстрирует материал «ИИ может предсказывать выживаемость у больных раком». Похоже, следующий шаг в развитии медицинского ИИ — это не просто рост вычислительной мощности, а осознанный контроль над тем, какие сигналы алгоритмам разрешено учитывать при принятии клинических решений.Источник - Shih-Yen Lin, Pei-Chen Tsai, Fang-Yi Su, Chun-Yen Chen, Fuchen Li, Junhan Zhao, Yuk Yeung Ho, Tsung-Lu Michael Lee, Elizabeth Healey, Po-Jen Lin, Ting-Wan Kao, Dmytro Vremenko, Thomas Roetzer-Pejrimovsky, Lynette Sholl, Deborah Dillon, Nancy U. Lin, David Meredith, Keith L. Ligon, Ying-Chun Lo, Nipon Chaisuriya, David J. Cook, Adelheid Woehrer, Jeffrey Meyerhardt, Shuji Ogino, MacLean P. Nasrallah, Jeffrey A. Golden, Sabina Signoretti, Jung-Hsien Chiang, Kun-Hsing Yu. Contrastive learning enhances fairness in pathology artificial intelligence systems. Cell Reports Medicine, 2025; 6 (12): 102527 DOI: 10.1016/j.xcrm.2025.102527