В то время как технология разработки чат-ботов с искусственным интеллектом существует уже некоторое время, новая точка зрения в JAMA излагает клинические, этические и юридические аспекты, которые необходимо учитывать, прежде чем применять их в здравоохранении. И хотя появление COVID-19 и сопровождающее его социальное дистанцирование побудили больше систем здравоохранения исследовать и применять автоматизированные чат-боты, авторы по-прежнему призывают к осторожности и вдумчивости, прежде чем продолжить работу.
"Мы должны признать, что это относительно новая технология, и даже для старых систем, которые были на месте, данные ограничены", - сказал ведущий автор точки зрения Джон Д. Макгриви III, доктор медицинских наук, адъюнкт-профессор медицины в Медицинской школе Перельмана при Пенсильванском университете. "Любые усилия также должны осознать, что большая часть данных, которыми мы располагаем, исходит из исследований, а не из широкого клинического применения. Зная это, оценка этих систем должна быть надежной, когда они входят в клиническое пространство, и те, кто ими управляет, должны быть достаточно проворными, чтобы быстро адаптироваться к обратной связи."
Макгриви, к которому присоединились К. Уильям Хэнсон III, доктор медицинских наук, главный специалист по медицинской информации в Penn Medicine, и Росс Коппел, доктор медицинских наук, FACMI, старший научный сотрудник Института экономики здравоохранения имени Леонарда Дэвиса в Пенсильвании и профессор медицинской информатики, написал "клинические, юридические и этические аспекты разговорных агентов с помощью искусственного интеллекта. В ней авторы выделяют 12 различных областей фокуса, которые следует учитывать при планировании внедрения чат-бота, или, более формально, "разговорного агента", в клиническую помощь.
Чат-боты - это инструмент, используемый для общения с пациентами с помощью текстовых сообщений или голоса. Многие чат-боты работают на базе искусственного интеллекта (ИИ). В этой статье специально рассматриваются чат-боты, использующие обработку естественного языка, процесс искусственного интеллекта, который стремится "понять" язык, используемый в разговорах, и извлекает из них потоки и связи, чтобы обеспечить содержательные и полезные ответы.
Что касается здравоохранения, то эти сообщения и реакция людей на них чрезвычайно важны и имеют ощутимые последствия.
"Мы все чаще вступаем в прямую связь с нашими пациентами через электронные медицинские карты, предоставляя им прямой доступ к результатам их тестов, диагнозам и записям врачей", - сказал Хэнсон. "Чат-боты обладают способностью повышать ценность этих сообщений, с одной стороны, или вызывать путаницу или даже вред, с другой."
Например, то, как чат-бот справляется с тем, что кто-то говорит ему что-то настолько серьезное, как "я хочу навредить себе", имеет много различных последствий.
В Примере с самоповреждением существует несколько областей, на которые авторы обращают особое внимание. Это касается в первую очередь категории" безопасность пациента": кто следит за чат-ботом и как часто он это делает? Это также касается "доверия и прозрачности": действительно ли этот пациент серьезно отнесется к ответу известного чат-бота? Это также, к сожалению, вызывает вопросы в категории "юридические и лицензионные" статьи: Кто несет ответственность, если чат-бот не справляется со своей задачей. Кроме того, здесь также может быть применен вопрос из категории "область применения": является ли эта задача наиболее подходящей для чат-бота или она все еще должна полностью управляться человеком?
С их точки зрения, команда считает, что они изложили ключевые соображения, которые могут служить основой для принятия решений, когда речь заходит о внедрении чат-ботов в здравоохранении. Их соображения должны применяться даже тогда, когда требуется быстрое внедрение для реагирования на такие события, как распространение COVID-19.
"В какой степени чат-боты должны расширять возможности клиницистов, которые мы бы назвали дополненным интеллектом, или заменять их полностью искусственным интеллектом?- Сказал Коппел. - Точно так же нам нужно определить пределы полномочий чат-бота для выполнения различных клинических сценариев, например, когда пациент указывает, что у него кашель, должен ли чат-бот реагировать только сообщением медсестре или копанием дальше: "можете ли вы рассказать мне больше о своем кашле?'"
Чат-боты имеют возможность значительно улучшить результаты здравоохранения и снизить эксплуатационные расходы систем здравоохранения, но оценка и исследования будут иметь ключевое значение для этого: как для обеспечения бесперебойной работы, так и для поддержания доверия как пациентов, так и медицинских работников.
"Мы считаем, что работа не выполняется, когда разговорный агент развернут", - сказал Макгриви. "Это будут все более эффективные технологии, которые заслуживают мониторинга не только до их запуска, но и на протяжении всего жизненного цикла их работы с пациентами."