Антон Владзимирский: «Накал хайпа вокруг искусственного интеллекта не стихает»

В рамках форума «Онлайн-диагностика 3.0» прошел круглый стол «Мы – первые! Национальные стандарты для медицинского искусственного интеллекта». Все участники мероприятия состоят в Подкомитете 01 Технического комитета по стандартизации «Искусственный интеллект» (ТК 164) – именно благодаря деятельности подкомитета стало возможным внедрение нацстандартов ИИ в России. 1 марта 2022 года они вступили в силу, и это стало эпохальным событием в мировом масштабе. Ученые, инженеры, юристы, разработчики, врачи, организаторы здравоохранения – все они участвуют в процессе разработки стандартов. По признанию членов подкомитета, это была сложная задача – учесть и свести воедино нужды, чаяния и опасения, найти компромисс, учесть этический и научный подходы.

Антон Владзимирский, д.м.н., заместитель директора по научной работе Центра диагностики и телемедицины ДЗМ, отметил: «Накал хайпа вокруг применения ИИ в медицине не стихает – продолжается рост инвестиций, числа научных публикаций, дискуссий. И хотя он используется в здравоохранении уже два года, полноценного законодательства у сферы нет. Кто субъект правоотношений? Кому делегировать принятие решений в этой сфере? Общество продолжает поиск ответа на этот вопрос».

Илья Просвиркин, к.т.н., ИТ-директор ООО «ФтизБиоМед», напомнил, что ИИ – лишь помощник врача, он не принимает решение сам, и согласился: «У сообщества пока не сформировалось понимание рисков, надежности результатов, предсказуемости, сферы применения алгоритмов». Он сравнил стандарты с рельсами, по которым ИИ сможет «перевозить больший груз с меньшими издержками», а для «получателя» это гарантия того, что «груз» дойдет в целости.

Дарья Шарова, ответственный секретарь ПК 01, руководитель отдела инновационных технологий Центра диагностики и телемедицины ДЗМ, подчеркнула, что аналогов принятым стандартам в мире не существует: «Юридических документов по применению ИИ в медицине в мире нет, мы же смогли вывести это на «верхний», юридический уровень. Стандарты помогут повысить доверие как пользователя, так и разработчиков ИИ-сервисов».

О доверии говорил и Антон Владзимирский, объясняя, что в разработке таких документов традиционно существуют два подхода: «Это перевод международных или иностранных стандартов или разработка оригинальных, и у нас – оригинальные, научно обоснованные документы. Вместе с тем у любого стандарта есть ограничения. Это не меч, не запрет, не закон, не обязательный документ, который производитель может проигнорировать. В то же время, это своего рода система менеджмента качества, и разработчик обязан принять их к исполнению, повысив доверие к своему продукту».

В ходе круглого стола поднимались этические, юридические, технические вопросы: как совместить этику применения ИИ в медицине и профессиональную этику врача? Как формировать и выкладывать в открытом доступе библиотеки датасетов – обезличенных наборов данных – для использования разработчиками в обучении ИИ-сервисов? Как масштабировать применение нейросетей, «воспитанных» всего на сотне обезличенных исследований пациентов, на население целой страны?

Напомним, сейчас десятки разработчиков, сотни врачей и миллионы исследований пациентов вовлечены в московский Эксперимент по применению ИИ в медицине, реализованный на базе Центра диагностики и телемедицины ДЗМ. И один из значимых результатов в масштабах страны – появление национальных стандартов, позволяющих регулировать сферу использования медицинского искусственного интеллекта.