В 2023 г. Росздравнадзор приостановил использование медицинской системы Botkin.AI (платформа с ИИ) для анализа медицинских снимков пациентов. В ходе тестирования платформы были выявлены существенные недостатки, которые могут быть угрозой для жизни и здоровья людей.
Годом ранее Национальная комиссия по здравоохранению Китая выявила аналогичные риски замены врача системой ИИ:
- дискриминация больного при оценке необходимости оказания первой помощи из-за некачественных данных, используемых ИИ;
- пациенты не понимают алгоритмы работы ИИ и не могут их оспорить;
- неясно, кто несет ответственность за решения, принятые с использованием ИИ, например, если пациенту поставлен неправильный диагноз.
Однако специалисты Школы общественного здравоохранения Гарварда считают, что ИИ снизит затраты на лечение до 50% и улучшит результаты на 40%.
Эксперты лаборатории анализа лучших международных практик Института Гайдара в Мониторинге № 6 (за июнь 2024 г.) рассказали, какие подходы к регулированию ИИ в здравоохранении есть в мире:
- ИИ может иметь компетенции врача и назначать рецептурные лекарства (США);
- ИИ может использоваться специалистами при оказании психологической помощи (Массачусетс, США);
- генеративный ИИ может общаться с пациентами о состоянии их здоровья (Калифорния, США).
Однако, существуют аспекты, на которые следует обратить внимание:
- любые решения в здравоохранении, сделанные ИИ, должны дополнительно контролироваться человеком (Джорджия, США);
- врачи должны диагностировать, лечить и выписывать рецепты лично (Китай).
А как развивается ИИ в России? – ИИ может быть частью ПО в медицинских изделиях. Это ПО с высокой степенью риска, для которого установлены специальные требования к регистрации, например, проводится тестирование, валидация и верификация такого ПО в рамках предварительных испытаний, включая, оценку баз данных.
Так что в России решающее слово – по крайней мере пока – остается за человеком.
#технологии #искусственный_интеллект