Microsoft и Epic Systems, ведущий разработчик программного обеспечения для здравоохранения, объявили о партнерстве для внедрения генеративной модели GPT-4 от OpenAI для улучшения услуг здравоохранения. Чат-бот на основе GPT-4 будет использоваться для ответа на сообщения пациентов и анализа медицинских записей.
Системы электронных медицинских записей, такие как MyChart компании Epic, используются в более чем 29% американских больницах и охватывают более 305 миллионов пациентов по всему миру. Однако была высказана критика в адрес компании после того, как расследование Stat News обнаружило неточности в алгоритмах Epic Systems.
Сотрудничество с Microsoft позволит Epic использовать службы Azure для доступа к языковым моделям OpenAI, таким как GPT-3 и GPT-4. Это позволит автоматически генерировать ответы на сообщения пациентов и интегрировать искусственный интеллект в некоторые повседневные процессы компании.
GPT-4 также будет использоваться для анализа данных в исследовательском инструменте Slicer Dicer компании Epic. По словам Microsoft, это поможет сотрудникам клиник искать информацию в интуитивном формате, аналогичном взаимодействию с ChatGPT.
Однако партнерство между Microsoft и Epic Systems вызвало опасения среди экспертов по языковым моделям, поскольку GPT-4 имеет тенденцию создавать фабуляции, предоставляя информацию, которая отсутствует в его наборе данных. Кроме того, возможна проблема предвзятости GPT-4, которая может привести к дискриминации пользователей по различным основаниям.
Маргарет Митчелл, главный этический офицер Hugging Face, подчеркнула, что текущая политика OpenAI запрещает использование моделей для получения медицинских инструкций, так как создание ложной информации в клинических условиях может иметь трагические последствия.