Американские исследователи из Пенсильванского университета и Калифорнийского университета в Санта-Барбаре обнаружили, что люди могут с меньшей вероятностью прислушаться к советам виртуального врача (чатбота) на основе искусственного интеллекта, если робот знает их имя и историю болезни. С другой стороны, пациенты хотят общаться со своими врачами-людьми по имени.
Когда виртуальный врач использовал имя пациента и ссылался в разговоре на его историю болезни, участники исследования чаще считали такого чатбота навязчивым, а также с меньшей вероятностью прислушивались к его медицинским советам. Однако они ожидали, что врачи-люди отличат их от других пациентов, и были менее склонны подчиняться, если врач-человек не запоминал их информацию.
По словам исследователей, полученные результаты служат еще одним доказательством того, что машины проходят тонкую грань, выступая в роли врачей. Машины не способны чувствовать и испытывать ощущения, поэтому, когда они спрашивают пациентов о самочувствии, для них это просто данные. Возможно, это причина, по которой люди все еще сопротивляются медицинскому искусственному интеллекту.
По словам директора Центра информационных технологий Калифорнийского университета доктора Джозефа Вальтера,
Это натолкнуло нас на вопрос: "Кто действительно знает нас лучше: машина, которая может хранить всю эту информацию, или человек, который никогда не встречался с нами раньше или не установил с нами отношения, и что мы ценим в отношениях с медицинским экспертом?
Команда разработала пять чат-ботов для двухэтапного исследования, набрав в общей сложности 295 участников? которые в разных комбинациях общались либо с врачом-человеком, либо с виртуальным врачом с искусственным интеллектом, либо с врачом, использующего программное обеспечение на основе искусственного интеллекта.
Во время исследования чат-боты были запрограммированы, чтобы задавать восемь вопросов, касающихся симптомов COVID-19 и ощущений, а также предлагать диагноз и рекомендации
Интересно, что около 78% участников эксперимента, в котором участвовал врач-человек, считали, что они взаимодействуют с виртуальным врачом. Предварительное объяснение этого результата заключается в том, что во время пандемии люди, возможно, больше привыкли к медицинским онлайн-платформам и ожидали более насыщенного взаимодействия от "живого" врача.
Ученые ожидают, что в будущем будет проведено больше исследований, посвященных роли аутентичности и способности машин участвовать в вопросах "туда-сюда" в развитии лучшего взаимопонимания с пациентами.
Источник: Penn State University