Разработка лекарств, выявление заболеваний, исследования… Искусственный интеллект (ИИ) обладает огромным потенциалом, способным совершить революцию в сфере здравоохранения. Но вместе с этим, предупреждает Всемирная организация здравоохранения (ВОЗ), связано множество рисков, о которых следует беспокоиться.
Генеративный ИИ может произвести революцию в здравоохранении, например, облегчив разработку лекарств или ускорив выявление заболеваний, но ВОЗ предупреждает, что ИИ требуется уделять больше внимания, поскольку существует немало рисков.
В документе, опубликованном 18 января, ВОЗ анализирует опасности и преимущества использования больших мультимодальных моделей (МММ) – быстрорастущего типа генеративной технологии искусственного интеллекта – в здравоохранении. Эти МММ могут использовать несколько типов данных, включая тексты, изображения и видео, и генерировать результаты, которые не ограничиваются типом данных, подаваемых в алгоритм.
Выявление заболеваний, исследования, обучение и администрирование
«Ожидается, что МММ будут широко использоваться и применяться в здравоохранении в целом, научных исследованиях и разработке лекарств», – заявляет ВОЗ. Организация определяет пять областей, в которых можно использовать эту технологию: выявление заболеваний, например, для ответа на письменные запросы пациентов; научные исследования и разработка лекарств; врачебное и сестринское образование; административные задачи; и использование пациентами, например, для проверки симптомов.
Хотя эта технология имеет большой потенциал, ВОЗ отмечает, что также было показано, что эти МММ могут выдавать ложные, неточные, предвзятые или неполные результаты, что, очевидно, может иметь печальные последствия. «Поскольку МММ все чаще используются в здравоохранении и медицине, ошибки, неправильное использование и, в конечном итоге, вред людям неизбежны», – отмечает ВОЗ.
Этика и руководство
В документе также представлено новое руководство по этике и управлению МММ, содержащее более 40 рекомендаций для правительств, технологических компаний и поставщиков медицинских услуг о том, как безопасно использовать эти технологии. «Технологии генеративного искусственного интеллекта могут улучшить здравоохранение, но только в том случае, если те, кто разрабатывают, регулируют и используют эти технологии, полностью выявят и примут во внимание связанные с ними риски, – говорит главный научный сотрудник ВОЗ Джереми Фаррар. – Нам нужна прозрачная информация и политика для управления пониманием, разработкой и использованием МММ для достижения лучших результатов в отношении здоровья и преодоления сохраняющегося неравенства в отношении здоровья».
ВОЗ призывает ввести правила об ответственности, чтобы «гарантировать, что пользователи, пострадавшие от МММ, получат должную компенсацию или другие формы защиты». ВОЗ также подчеркивает, что соблюдение МММ существующих правил, особенно в отношении защиты данных, также вызывает обеспокоенность.
Регулирование и кибербезопасность
Более того, по мнению ВОЗ, тот факт, что МММ часто разрабатываются и внедряются технологическими гигантами, имеется риск установления доминирования со стороны этих компаний. Поэтому организация рекомендует, чтобы МММ разрабатывались не только учеными и инженерами, но также медицинскими работниками и пациентами. ВОЗ также предупреждает об уязвимости МММ к рискам кибербезопасности, которые могут поставить под угрозу информацию о пациентах и даже надежность здравоохранения в целом.
Наконец, ВОЗ делает вывод, что правительствам следует поручить регулирующим органам одобрить использование МММ в здравоохранении, и призывает к проведению проверок для оценки воздействия этой технологии.
Александр ПАРХОМЕНКО (по материалам AFP и Le Figaro Santé)