ВОЗ перечислила риски внедрения ChatGPT в медицину

По словам экспертов, необходимо тщательно исследовать риски при использовании ChatGPT, Bard, Bert и других платформ.

«Поспешное внедрение непроверенных систем может привести к ошибкам медицинских работников, причинить вред пациентам, подорвать доверие к ИИ и тем самым отсрочить потенциальные долгосрочные преимущества и использование таких технологий во всем мире», — говорится в официальном заявлении организации.

В числе рисков ВОЗ назвала следующие факторы: искусственный интеллект могут обучать на основе предвзятых данных, из-за чего он будет генерировать «ложную или неточную информацию, которая может принести ущерб здоровью и инклюзивности», иногда чат-боты генерируют ответы, которые кажутся пользователю достоверными и правдоподобными, но на деле являются совершенно неверными.

Кроме того, не все чат-боты обучены защищать предоставленную им пользователем чувствительную информацию, в том числе касающуюся его здоровья. Стоит помнить, что чат-боты могут генерировать информацию в форме текста, аудио- и видеоконтента, которая выглядит «очень убедительно», а пользователи не всегда в состоянии отличить обман от достоверных данных.

Эксперты подчеркнули важность «прозрачности, инклюзивности, участия общественности, контроля экспертов и тщательной оценки», прежде чем чат-боты начнут активно применяться в здравоохранении.

Искусственный интеллект уже активно помогает врачам в России. Например, в Москве заработал новый сервис, который распознает рассеянный склероз на магнитно-резонансной томографии головного мозга. Теперь нейросети помогают врачам в поиске признаков рассеянного склероза на лучевых снимках.

Рассеянный склероз стал 21-й патологией, диагностируемой при помощи нейросетей в лучевой диагностике в медучреждениях столицы.

«Это опасное неврологическое заболевание обычно начинает развиваться в молодом возрасте и со временем может привести к тяжелой инвалидности. Технологии искусственного интеллекта позволят медикам повысить скорость и точность его диагностики на МРТ головного мозга», — прокомментировала Анастасия Ракова, заместитель мэра Москвы по вопросам социального развития.