Новое исследование в Nature Medicine показало, что ChatGPT Health от OpenAI регулярно не распознавал неотложные медицинские состояния. В половине случаев ИИ советовал пациентам с экстренными показаниями оставаться дома. — pcworld.com
Согласно новому исследованию, опубликованному в журнале Nature Medicine, ChatGPT Health (специализированный чат-бот с искусственным интеллектом от OpenAI, «разработанный для здоровья и благополучия», который был запущен ранее в этом году) неоднократно не справлялся с распознаванием неотложных медицинских состояний, требующих немедленной помощи, сообщает The Guardian.
Ведущий исследователь доктор Ашвин Рамасвами вместе с коллегами разработал «60 реалистичных сценариев пациентов, охватывающих заболевания от легких недомоганий до экстренных случаев», которые были проанализированы независимыми врачами на основе установленных клинических рекомендаций.
В 51,6% случаев, когда пациентам следовало направить в больницу для оказания неотложной помощи, им вместо этого рекомендовали оставаться дома и/или записаться на плановый прием к врачу.
ChatGPT Health достаточно хорошо справлялся с очевидными экстренными ситуациями, такими как инсульты и тяжелые аллергические реакции, но показал худшие результаты, когда симптомы были более сложными и еще не являлись неотложными, но могли быстро стать угрожающими жизни.
«Если у вас дыхательная недостаточность или диабетический кетоацидоз, у вас есть 50-процентный шанс, что этот ИИ скажет вам, что это несерьезно», — заявил аспирант Алекс Руани. «В восьми случаях из десяти [ChatGPT Health] отправлял задыхающуюся женщину на будущий прием, до которого она бы не дожила. […] В то же время 64,8% совершенно здоровым людям было рекомендовано немедленно обратиться за медицинской помощью».
OpenAI заявила The Guardian, что эти результаты не отражают обычный сценарий использования сервиса и что модель постоянно совершенствуется.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Joel Lee, Viktor Eriksson