Блог Фонда «ИнДата»
Чат-боты с искусственным интеллектом могут казаться «суперкомпетентными», поскольку модели обучены на обширных медицинских знаниях, но результаты их работы существенно ухудшаются при взаимодействии с реальными людьми.
По данным исследования, опубликованного в Nature Medicine, в лабораторных условиях чат-боты с искусственным интеллектом смогли выявлять медицинские проблемы с точностью до 95%, а выдавать корректные рекомендации по таким действиям, как вызов врача или оказание неотложной помощи, — более чем в 56% случаев. При попытке обработки чат-ботом медицинских сценариев, представленных ему в форме обычной разговорной речи, ситуация изменилась в худшую сторону. Точность диагностики состояния предполагаемого пациента снизилась до менее чем 35 процентов, а точность рекомендации правильного действия — до 44 процентов.
Снижение эффективности чат-ботов при переходе от лабораторных условий к реальной жизни говорит о важной проблеме: «ИИ обладает медицинскими знаниями, но людям трудно получить от него действительно полезный совет», — замечает один из авторов исследования.