10,6 тыс подписчиков
Половина одобренных в США медицинских ИИ обучалась на сгенерированных данных
Это ставит под сомнение их клиническую применимость
Исследователи проанализировали историю разработки свыше пяти сотен систем ИИ и приборов на их базе, одобренных для использования в США, и пришли к выводу, что около половины этих алгоритмов обучалось не на реальных, а на сгенерированных данных. Это ставит под сомнение их клиническую применимость, сообщила пресс-служба американского Университета Северной Каролины (UNC).
"Корпорации часто используют сам факт одобрения их разработки регулирующими органами в качестве свидетельства того, что их продукт заслуживает доверия. В реальности это одобрение не означает, что при разработке и проверке ИИ были использованы реальные данные о пациентах. Мы надеемся, что наше исследование заставит разработчиков и профильные органы проводить подобные проверки и обнародовать их результаты", - заявил научный сотрудник UNC Сэмми эль Фасси, чьи слова приводит пресс-служба вуза.
Исследователи пришли к такому выводу при изучении истории одобрения 520 медицинских устройств и алгоритмов, в работе которых используются различные формы машинного обучения и искусственного интеллекта. Все эти продукты получили одобрение со стороны Управления по контролю качества пищевых продуктов и лекарственных средств (FDA) - главного регулирующего медицинского органа в Соединенных Штатах.
В последние несколько лет чиновники FDA ежегодно одобряют к использованию сразу несколько десятков медицинских систем ИИ, способных ускорить постановку диагноза, выявлять патологии на снимках, подбирать дозировку лекарств и предугадывать скорость развития болезни. Эксперты заинтересовались, насколько качественно специалисты FDA проводили проверку работы этих алгоритмов и устройств.
Анализ показал, что лишь 22 системы ИИ (4,2% от их общего числа) прошли полноценные клинические испытания, и при этом почти у половины алгоритмов, около 43% из них, отсутствовали любые публично доступные результаты проверки их работы на практике. В дополнение к этому исследователи обнаружили, что почти 50% нейросетей и связанных с ними устройств проходили обучение или проверку работы не на реальных, а на сгенерированных данных о пациентах.
"Мы уже передали собранные нами данные тем руководителям FDA, которые отвечают за выдачу разрешений на использование медицинских приборов. Кроме того, мы надеемся, что наша публикация заставит научные коллективы и университеты по всему миру проводить полноценные клинические испытания при разработке медицинских ИИ для повышения безопасности и эффективности этих технологий", - подытожил эль Фасси.
© Spencer Platt/Getty Images
2 минуты
27 августа 2024