Сервис «СберЗдоровье» заметил, что россияне всё чаще просят ИИ-помощника расшифровать медицинские анализы. При этом они ожидают от нейросети не просто интерпретации показателей, а конкретного плана дальнейших действий, включая рекомендации по лечению, пишет «Коммерсант».
С мая этого года пояснить результаты анализов стали просить в восемь раз чаще, а число людей, которые обращаются к ИИ за составлением плана дальнейших действий, возросло с 4% до 41%. Врачей эти показатели серьёзно беспокоят: ИИ основывается на средних значения и не учитывает индивидуальных особенностей пациента.
Почему же обращаться за интерпретацией анализов к нейросетям небезопасно? Об этом «Стриж» поговорил с экспертом по лекарственным препаратам и общественному здоровью, иммунологом Николаем Крючковым. По его словам, люди обращаются к нейросетям из-за удобства.
«Это гораздо быстрее, чем обратиться к врачам, и гораздо дешевле. Информация предоставляется в удобной форме, можно адаптировать уровень подачи информации к конкретному человека: если он что-то не понял, может переспросить и ChatGPT не скажет, что у него нет времени», — говорит Николай.
Обращаться к нейросетям можно, но нужно разделить задачи.
«Некоторые люди спрашивают, что в принципе значат те или иные параметры, просят расшифровку тех или иных аббревиатур. Это вполне посильная для больших языковых моделей задача и в этом смысле, если пациент потом переходит на правильные источники информации, не ограничивается чатом, то даже какой-то образовательный компонент в этом есть», — полагает эксперт.
При этом просить нейросети интерпретировать результаты анализов не стоит, ведь точность информации и её качество никто не гарантировал. Исследования показывают, что специалисты считают правильными, своевременными, достоверными и доказательными ответы больших языковых моделей всего в 5%, 10% или 20% случаев.
При этом есть специализированные языковые модели, которым врачи доверяют гораздо больше, но большинство людей пользуются обычными нейросетями, интерпретация которых вызывает вопросы.
«Использовать эту интерпретацию можно, но ни в коем случае нельзя основывать исключительно на ней лечение, дальнейшие пути в диагностике и уж точно не стоит говорить, что “всё, ответ получен, к врачам обращаться не будем”. Важен клинический контекст, важно, что большие языковые модели берут информацию из самых разных источников, далеко не только с доказательных», — настаивает Николай Крючков.
Николай согласен, что нейросети можно использовать как дополнительный источник информации, но ни в коем случае не вместо врача. И точно не как самостоятельный и единственный источник для диагностики и лечения.
Как пишет «Коммерсант», врачи отмечают, что слегка повышенный ТТГ нейросеть может ошибочно принять за гипотиреоз и начать ненужную терапию, которая приведет к осложнениям. А рекомендация принимать высокие дозы витамина D при его низком уровне может быть опасна для сердца и почек.
Как реально работает диагностика и почему ChatGPT с этим не справляется? Смотрите в нашем сюжете в Ютубе или во ВКонтакте