Живой интерес участников XII международного конгресса "ОргЗдрав - 2024" вызвал круглый стол "Человеческий и искусственный интеллект: борьба за первенство в эпоху больших языковых моделей".
Смотреть запись сессии: https://congress.orgzdrav.com/orgzdrav/2024/06-11-S02
Модераторы: Гусев Александр Владимирович, к.т.н., директор по развитию бизнеса Webiomed и Машковский Евгений Владимирович, к.м.н., руководитель направления «Медицина», Нетология.
Вводная информация. Сегодня рынок ИИ (AI – artificial intelligence) в здравоохранении самый быстрорастущий, особенно это касается разновидности ИИ - больших языковых моделей. Большая языковая модель (Large Language Model – LLM) – это разновидность генеративной (то есть способной генерировать тексты или изображения) модели искусственного интеллекта (ИИ). Она обучена на естественных языках, то есть «понимает» их. Эти модели предварительно обучаются на больших неразмеченных данных из Интернета (в отличие от других «обычных» нейросетей, которые обучаются на предварительно размеченных экспертами данных). В результате этого формируется сложная статистическая модель, которая устанавливает и запоминает вероятность последовательности слов. Когда в LLM поступает вопрос, она может выдать ответ, исходя из сохраненных вероятностей. Как правило, в таких моделях более миллиарда (до триллиона) значений математических функций. LLM может с успехом использоваться в клинической практике (например, в виде системы поддержки принятия решений), в медицинском образовании (для представления сложных концепций в понятном для студентов виде), в административной работе (обобщая и резюмируя записи из ЭМК), в науке (подыскивая наиболее подходящие молекулы для разработки лекарств). Однако в этой фантастической модели заложены серьезные риски, связанные с необходимостью обеспечивать безопасность персональных данных, высокой стоимостью внедрения, возможными ошибками. Среди ошибок: алгоритмические (связанные с неправильным обучением), галлюцинации (связанные с неверной работой формул), академические (плагиат). Но главный риск – это снижение уровня клинического мышления, потеря самостоятельности профессии врача. И как этому не произойти, если, по данным опросов, менее 20% врачей читают современную литературу.
Предложения и примеры решений:
Роза Радиковна Яхина, директор МИАЦ Республики Башкортостан.
Здравоохранение в Башкортостане высоко цифровизировано: в единую систему входят более 205 медицинских организаций, в час пик одновременно подключено более 30 тыс. рабочих мест. Имеется более 30 сервисов и подсистем, в том числе СППВР (система поддержки принятия врачебных решений). Только в 2023 г. в ГИС было передано более 47 млн СЭМД (структурированные электронные медицинские документы). В работу с СППВР активно вовлечены ГВС (главные внештатные специалисты). Предложения по развитию СППВР: наличие удобного интерфейса; оперативная, без недельной задержки, передача врачу информации о рисках; возможность оценки правильности и полноты заполнения ЭМК; учет всех основных факторов при формировании подсказки по рискам; наличие болееширокой библиотеки клинических рекомендаций и других руководств. Также важно иметь обратную связь, как часто медицинские работники пользуются такими системами.
Назаров Илья Владимирович, к.м.н., главный врач ФГБУ «НМИЦ колопроктологии имени А.Н. Рыжих» Минздрава России
В НМИЦ колопроктологии был разработан СППВР, основанный на машинном обучении (нейросеть, которая обучается на ограниченном объеме данных – датасете, например, изображениях, полученных при колоноскопии). Этот продукт предназначен для выявления онкологических заболеваний и полипов. Его использование полезно для обнаружения мелких и особо расположенных полипов, которые, как правило, пропускаются специалистами, а также в случае усталости и неопытности эндоскописта. Система подходит для всех типов эндоскопов. По итогам применения СППВР частота выявления новообразований увеличилась на 16%, а полипов – на 5%, что даже выше, чем показатели аналогичных зарубежных продуктов. В настоящий момент СППВР проходит клиническую апробацию в 3-х учреждениях, затем пройдет регистрацию в Росздравнадзоре. При разработке аналогичных продуктов важно найти грамотного ИТ-партнера, иметь средства для разработки и оплаты экспертов, которые формируют датасеты. Модель должна иметь удобный интерфейс и быть интегрирована с платформой, где собираются другие данные, например, банк видеоизображений.
Успенский Юрий Павлович, д.м.н., профессор, президент Ассоциации гастроэнтерологов Северо-Запада, главный внештатный специалист гастроэнтеролог Санкт-Петербурга.
Воспалительные заболевания кишечника растут во всем мире, что происходит из-за ожирения, нездорового питания, частого применения антибиотиков. На базе ВЗК «Елизаветинской больницы» в Санкт-Петербурге был разработан СППВР по прогнозированию рисков тяжелого течения болезни Крона, соответственно, решения о необходимости хирургического вмешательства. На вход нейросети поставляется большое количество данных о пациенте, на выходе системы – ранжирование рисков (высокий/низкий). Получен патент на изделие и свидетельство о государственной регистрации свободного программного обеспечения (freeware). Позволяет более внимательно следить за пациентами с высоким риском.
Лисогор Дмитрий Александрович, заместитель генерального директора по цифровому здравоохранению, Philips.
Сегодня у компании Philips самое большое количество патентов на ИИ-системы в мире. Как правило, они зашиты в программное обеспечение диагностических аппаратов. Максимальная польза от ИИ может быть реализована при создании единой экосистемы. Например, Philips, сотрудничая с 50 разработчиками ИИ, предлагает систему «AI-менеджер», которая позволяет пользователю, как на маркет-плейсе, выбрать наиболее подходящий алгоритм для анализа изображений. Для увеличения ценности ИИ-решений для пациента необходимо: поэтапное внедрение ИИ-решений от простых к сложным; высокое качество данных, на которых обучаются датасеты изображений; высокая интеграция с другой аппаратурой, например, для мониторинга состояния пациента; удобство использования – единая платформа (интерфейс) для анализа данных. Philips также использует LLM-модели для переформатирования заключений врача в понятный для пациента вид, а также для конвертации в цифровую форму результатов устного общения врача и пациента.
Моисеев Александр Алексеевич, директор по стратегическому развитию, «Консультант студента».
В РФ созданы серьезные инструменты для ускорения трансляции новых знаний в практическое здравоохранение и образование. Усилиями ВШОУЗ, в сотрудничестве с крупнейшим медицинским издательством страны, профессорами и преподавателями национальных НИИ и медицинских вузов разработана первая отечественная цифровая база медицинских знаний на русском языке MedBaseGeotar. Она содержит огромный интеллектуальный багаж современных информационных источников (более 180 тыс.) для врачей всех специальностей, включая российские и зарубежные клинические рекомендации, справочник лекарственных средств, национальные и лучшие мировые руководства. База имеет удобную поисковую систему и доступна с любого цифрового устройства.
Машковский Евгений Владимирович, руководитель направления «Медицина» образовательной компании Нетология.
Компанией Нетология подготовлен курс обучения ИИ в здравоохранении, который позволяет освоить 5 ключевых компетенций, необходимых для работы с ИИ: 1) базовые здания об ИИ; 2) оценка и анализ инструментов ИИ; 3) социальные и этические вопросы использования ИИ, включая регулирование; 4) принципы интеграции в практику; 5) пути доработки и дообучения ИИ.
Лебедев Георгий Станиславович, д.т.н., директор Центра цифровой медицины, ФГАОУ ВО Первый Московский государственный медицинский университет им. И.М. Сеченова Минздрава России (Сеченовский Университет).
В РФ сегодня есть две свои большие языковые модели – у Сбербанка и Яндекса. LLM позволяет сделать цифровую модель пациента и обучать студентов на ней; сформировать на основании готовой презентации тестовые вопросы к занятиям; подготовить лекционный учебный материал по заданному формату. Предлагается в Сеченовском университете создать экспертный Совет, который дообучит эти модели на доказательных данных.
Смотреть запись сессии: https://congress.orgzdrav.com/orgzdrav/2024/06-11-S02