Во второй день Российского диагностического саммита, 7 сентября, многих интересующихся собрала сессия «Автономный искусственный интеллект в практической медицине (безопасность, эффективность, доверие, финансирование)».
Автономный ИИ - это алгоритм, который сам принимает решения за человека. Впервые в мире системы ИИ вышли на рынок в 2015 году, а несколько месяцев назад такой алгоритм получил регистрационное удостоверение. Он определяет только норму, а не патологию, и пока только на рентгенографии легких. Так могут ли подобные продукты не помогать, а заменять человека, ведь это страшный сон врача-диагноста?
Замдиректора по науке Центра диагностики и телемедицины ДЗМ Антон Владзимирский в ходе обсуждения отметил:
«Мы уже доверяем томографу, хотя это не снимок рентгена, а машина, которая выдает нам изображение на основе цифр. Мы уже доверились этим цифрам и доверили решение машине. И множество таких решений мы уже передали инновационным технологиям, поэтому, возможно, автономный ИИ - это просто очередной шаг, который, однако, требует пристального внимания из-за повышения ответственности, которую мы передаем алгоритмам. Усиленная клиническая оценка, испытания систем ИИ должны предшествовать их внедрению, плюс их пострегистрационный мониторинг».
Павел Румянцев, главный онколог-радиолог группы клиник «СОГАЗ медицина», назвал тему провокационной:
«Действительно, многие технологии превышают возможности человека и зачастую более точны, чем действия человека. Конечно, такие действия можно поручить валидированному ИИ. Так что мы - врачебное сообщество - или дружим с ними, или объявляем им войну. Клинические испытания таких технологий должны быть очень тщательными».
Слова «страшно», «опасения», «риски», «ответственность» звучали в ходе дискуссии очень часто, ведь если в системе взаимодействия «врач-пациент» все понятно, то кто ответственен в системе ИИ-пациент? Адвокат Эллина Быкова напомнила, что ответственность за постановку диагноза и лечение по-прежнему несет врач, при этом в нормативно-правовых актах понятие технологий ИИ все еще непрозрачное:
«Мы не можем посадить ИИ за решетку в случае причинения вреда пациенту. Нельзя отдавать на откуп ИИ здоровье человека: нужно взять на себя интеграцию технологий, исследовать, изучать и помнить, что именно человек придумал робота, а не наоборот».
Модератор дискуссии, директор по развитию ЦНИИ организации и информатизации здравоохранения Минздрава России, эксперт Центра диагностики и телемедицины ДЗМ Александр Гусев подвел итог: в современном мире стирается грань между разработкой и выводом на рынок технологий ИИ и, скажем, фармпрепаратов - и тем, и другим необходимы строжайший контроль и клинические испытания; и те, и другие, раньше или позже, стали частью медицины. Теперь ее частью становятся и автономные системы ИИ - будем с ними дружить.