Нашла интересные данные результатов одного и того же опроса об ИИ в России и США.
Факт 1
- Россияне очень радушно относятся к внедрению и развитию искусственных алгоритмов, в отличие от американцев-скептиков.
Например, 33% американцев уверены, что внедрение ии в медицину повлечет ухудшение диагностики и снизит лечебный эффект. Россиян таких всего 17%. Ухудшения взаимотношений между врачом и пациентов в США ожидают 57% жителей, а в России - 18%.
Факт 2
- Больше всего уверены в положительном эффекте от применения ИИ россияне с высшим образованием, доступом в интернет и хорошим материальным положением.
ВЦИОМ объясняет такое различие веры в положительное применение ИИ отсутствием “антирейтинга” ИИ в России и позитивной ассоциацией с новыми технологиями и прогрессом как таковыми. То есть, доверие проистекает из незнания – что достаточно частое явление. И непонимания, что за каждым новым методом стоят правообладатель, инвесторы и бизнес-модель.
Факт 3
- Мнение же жителей США и других стран испорчено тем, что неудачные истории применения ИИ становятся поводами для научных статей и обсуждения в медицинском сообществе, массовой прессе.
Так, алгоритм Epic Sepsis Model в Штатах, якобы учитывал ~80 параметров, от результатов анализов до хронических заболеваний, и был обучен на огромной выборке в 405 тыс. пациентов с одной задачей – ранняя диагностика такой тяжелой и опасной для жизни болезни как сепсис. Когда Мичиганский университет провел независимое исследование 38,5 тыс. больных, “обследованных” моделью, оказалось, что ее сигналы не только были ложноположительными в 50%, ИИ также пропустил сепсис у 67% пациентов, которые им действительно страдали.
Факт 4
- В Великобритании накрылся медным тазом британский "флагман медицинского ИИ" Babylon Healthcare, стартап, который с 2017 года продвигал бывший министр здравоохранения Великобритании Мэтт Хэнкок, представлявший его как “будущее NHS”. К выходу на рынок США в 2021 стоимость компании оценивалась уже в $4,2 млрд. Кстати и в самой Британии начались скандалы, связанные с неадекватностью диагностики.
Практикующие врачи выступали на ТВ, наглядно демонстрируя, как работает алгоритм в реальности, а не на презентации. Например, при введении одинакового симптома, болей в области сердца, если пациент был мужчиной, приложение диагностировало “сердечный приступ” и рекомендовало немедленно обратиться в больницу, если женщиной - ИИ утверждал, что это паническая атака, и советовал дождаться приема у врача общей практики. В другом раз курящему мужчине старшего возраста, страдающему от болей в груди, алгоритм определял либо гастрит, либо обострение серповидноклеточной анемии, а вовсе не проблемы с сердцем.
Когда исследователи решили залезть вовнутрь программы, то выяснилось, что их ИИ не был ИИ в полном смысле - приложение единорога было основано на стандартной таблице Excel с перечислением симптомов и вероятных диагнозов. В результате, в августе 2023 компания, представляющая собой, по словам одного из сотрудников, только “дым и зеркала”, заявила о своем банкротстве.
Факт 5
На том же принципе была основана работа ИИ другого крупного единорога Olive AI. Компании, которая оценивалась в миллиарды и была чрезвычайно успешна в привлечении инвестиций благодаря боту для автоматизации рутинных задач в медучреждении. Компании удалось заключить несколько крупных контрактов с больницами, а в начавшийся с 2020 бум ИИ деньги потекли рекой. Однако 31 октября 2023 года компания объявила о прекращении своей деятельности, так как обещание, что технология Olive позволит снизить административные расходы в 5 раз, сэкономив системам здравоохранения миллиарды, оказалось пшиком. Управленческие решения Olive не экономили ничего.
Факт 6
- В дополнение выяснилось, что высокотехнологичные ИИ-модели Olive - на самом деле старые методы извлечения данных, а все ее прогнозы были сделаны буквально “на коленке” и ничем не отличаются от бесплатных инструментов гугл-поиска. Компании удалось продержаться так долго потому, что венчурные инвесторы и гуру не хотели поднимать скандал.
Факт 7
- В России также за каждым продаваемым алгоритмом стоят "крупные инвесторы", такие, как Сбер, либо лица, способные повлиять на приобретение алгоритма для нужд больницы.
Насколько главрач может сказать “фи” про работу ии, купленного на бюджетные миллиарды, мы можем только догадываться. Кстати, ИИ совместной разработки “Сбера” и московской мэрии, диагностического ассистента столичных терапевтов для постановки диагноза зовут “Аида”. Да, да. *“Аида”.* Похоже, с черным юмором у всех все в порядке.
Помню, когда мой терапевт в поликлинике дал перечень диагностических процедур по диспансеризации, меня удивило, что был включен один вид исследования. Я спросила, почему, ведь, у меня показаний ни разу в жизни не было по обращениям в поликлинику для данных анализов. И он ответил, что не знает. Потому что перечень анализов дает ИИ, а на чем основаны его рекомендации и чем руководствуется алгоритм, им, врачам, неведомо. Не объясняют. Знают только создатели ИИ. Он же может только одобрить или отклонить рекомендации и распечатать направления.
Так что моя вера во "всемогущество" ИИ на данном этапе еще больше пошатнулась. Особенно с учетом описанных мною выше 7 фактов из исследования.
А что вы, мои многоуважаемые читатели, думаете о применении ИИ в медицине и других сферах? Приобрели ли опыт и какой? Поделитесь в комментариях, мне очень интересно.
Благодарю за подписку на мой канал