Как в России защитили медицинский ИИ от ошибок, которые в США приводят к инсультам и травмам

В Соединенных Штатах участились случаи тяжелых последствий при использовании искусственного интеллекта в медицине. Количество травм, связанных с применением нейросетей, выросло в 10 раз. Об этом пишет Reuters.

Агентство отметило, что в числе инцидентов – повреждения основания черепа и разрывы артерий, приводившие к инсультам. Источником проблемы в материале назвали ускоренную процедуру сертификации, допускающую внедрение «сырых» разработок в клиническую практику под влиянием бизнес-интересов и лоббистов.

Между тем Readovka выяснила, что России подобный сценарий не грозит. Подход к внедрению таких технологий в нашей стране принципиально иной. В частности, ИИ-решения для здравоохранения сразу были отнесены к наивысшему классу риска, наравне с хирургическими имплантами. С 2022 года в РФ введен в действие национальный стандарт ГОСТ Р 59921-2021, исключающий упрощенные схемы регистрации. Любая система перед выходом на рынок обязана пройти полноценные клинические исследования и подтвердить свою безопасность в Росздравнадзоре.

Кроме того, оказалось, что юридически нейросети в РФ выполняют исключительно вспомогательную функцию. Они не могут ставить диагноз или назначать терапию без участия специалиста. Искусственный интеллект лишь подсвечивает подозрительные зоны на снимках компьютерной или магнитно-резонансной томографии, выступая в роли «второго мнения». Ответственность же за принятие решений остается за настоящим врачом.

Помимо этого, все отечественные разработки проходят обязательную проверку в московском Центре диагностики. Фильтрация на основе миллионов клинических данных позволяет отсеивать неэффективные или небезопасные алгоритмы. В результате сегодня в 84 регионах страны штатно применяются 43 сертифицированные системы ИИ.

И пока физические риски от использования нейросетей в России удалось свести к минимуму, вероятность возникновения ментальных проблем по-прежнему существует. Так, ранее сообщалось, что регулярное общение с ИИ-собеседниками может провоцировать психические расстройства.