Искусственный интеллект в повседневной практике помогает анализировать медицинские изображения, такие как рентгеновские снимки или томограммы, и выявлять признаки заболеваний. Алгоритмы машинного обучения способны распознавать закономерности в больших массивах медицинских данных, которые человек (в частности врач) может просто не заметить. Это позволяет ставить более точные диагнозы и прогнозировать течение болезни. Именно по этому они получили невероятную популярность и распространение в медицине.
Одна из самых популярных тематических сессий на Конгрессе ИТМ-2024 (https://itmcongress.ru/) сегодня была посвящена искусственному интеллекту (ИИ) в здравоохранении: гостям в зале не хватило стульев, поэтому многие слушали стоя. Взято из канала https://t.me/medicalksu
Когда мы говорим о медицине, тут пересекаются разные интересы, поэтому нельзя полностью доверять ИИ:
- Предвзятость. Она заложена в данные, на основе которых модели обучались. Если в исходных данных были ошибки или смещения, то ИИ-система может воспроизводить и усиливать эти ошибки. Это может приводить к неточным или даже ошибочным выводам при диагностике и лечении.
- ИИ-системы обладают ограниченной способностью к обобщению и интерпретации. Они могут хорошо работать в рамках ограниченных задач, для которых они обучены, но могут испытывать трудности при работе со сложными, нестандартными или нетипичными случаями. Это тот самый богатый клинический опыт за который и ценят некоторых врачей.
- Врачи и пациенты могут чрезмерно полагаться на рекомендации ИИ и недооценивать роль человеческого опыта, интуиции и суждений. Это создает ловушку, когда врачи перекладывают ответственность на ИИ, а пациенты воспринимают его как неоспоримый авторитет.
Запрещать использование искусственного интеллекта в медицине было бы неразумно и контрпродуктивно. ИИ уже внедряется во многие области здравоохранения и доказывает свою эффективность. Ключевыми аспектами здесь должны быть:
- Строгое регулирование и контроль за разработкой и применением медицинских ИИ-систем, чтобы обеспечить их надежность, безопасность и соответствие этическим нормам.
- Тщательное тестирование и валидация ИИ-алгоритмов на репрезентативных выборках данных, чтобы минимизировать риски предвзятости и ошибок.
- Тесное сотрудничество врачей и IT-специалистов для правильной интеграции технологий в клиническую практику.
- Обучение медицинского персонала работе с ИИ-системами и критическому осмыслению их рекомендаций.
- Обеспечение прозрачности и подотчетности при использовании ИИ, чтобы сохранить ответственность врачей за принятие решений.
Представим, что разработан алгоритм для ранней диагностики заболевания на основе анализа изображений. Данный алгоритм проходит испытания в нескольких клиниках и показывает высокую точность на ранних стадиях.
Без должного регулирования и контроля такой ИИ-алгоритм поспешно выведен на рынок и широко внедрен в клиническую практику. Однако, при ближайшем рассмотрении выясняется, что алгоритм был обучен на данных, в которых недостаточно представлены некоторые возрастные группы. Это приведет к снижению точности диагностики для этих пациентов.
В реальных условиях клиники могут возникнуть технические ошибки в работе алгоритма, вызванные особенностями систем визуализации или качеством изображений. Это создаст риск пропуска реальных случаев.
При тщательной оценке выяснится, что алгоритм принимает решение о диагностике, не учитывая предпочтения пациентов и их готовность к лечению. Это противоречит этическим принципам, ставящим во главу угла благо пациента.
До появления ИИ в медицине были другие технологии, которые также прошли долгий путь от разработки до широкого клинического использования.
Возьмём, например, технологию рентгена. Когда рентген был впервые открыт, его применение не сразу стало безопасным. Поначалу врачи и пациенты подвергались опасному радиационному облучению, пока не были разработаны необходимые меры предосторожности. Только тогда рентген стал незаменимым инструментом диагностики.
Аналогичная история наблюдалась и с внедрением антибиотиков. Каждый раз требовалось тщательное изучение рисков, разработка протоколов и стандартов, прежде чем эти технологии могли быть использованы повсеместно.
Теперь настала очередь медицинских ИИ-систем пройти этот непростой путь. Разработка нейросетевых алгоритмов - лишь первый шаг. Не менее важно установить строгий контроль и регулирование, чтобы гарантировать их надежность, безопасность и соответствие этическим нормам.
Как общество мы несём ответственность за то, чтобы внедрение ИИ в здравоохранение происходило ответственно и взвешенно.
С наилучшими пожеланиями, Екатерина Якушина.