OpenAI ограничила возможности медицинских консультаций ChatGPT

Компания OpenAI ограничила возможности нейросети ChatGPT, связанные с консультированием по медицинским и юридическим вопросам. Не уточняется, в чем будут заключаться эти ограничения, но речи о полном запрете нет.

Компания OpenAI (разработчик ChatGPT) обновила политику использования нейросети. В документе указано, что ChatGPT нельзя использовать для предоставления специализированных консультаций, требующих лицензии, в том числе юридических или медицинских, без привлечения лицензированного специалиста. Речи о полном запрете нет: нейросеть ответила на вопросы «МВ», сформулированные от лица пациента и сомневающегося в диагнозе врача.

В обновленной политике компании подчеркивается, что ChatGPT нельзя использовать для автоматизации принятия решений без участия человека в важных областях, включая медицину. При этом полный запрет ответов на связанные со здоровьем вопросы врачей или пациентов не упоминается.

Сам ChatGPT в ответ на вопрос «МВ» о наличии запрета на медицинские советы пояснил, что продолжит предоставлять информацию о здоровье. Сервисы компании не предназначены для постановки диагнозов, назначения лечения и не заменяют консультацию врача.

Российский регулятор ужесточит контроль за применением медицинского искусственного интеллекта (ИИ), сообщал ранее «МВ». Производители должны передавать данные о медицинских изделиях с ИИ в автоматизированную информационную систему надзорного органа, в том числе об ошибках и сбоях.

Ранее в России заработал ИИ-сервис для выявления орфанных заболеваний по анкете и фото пациента, писал «МВ». Обученная на тысячах подтвержденных случаев нейросеть помогает обнаружить болезнь Фабри, Т-клеточную лимфому и синдром Хантера.