Искусственный интеллект в неотложной помощи
В ходе нового исследования, проведенного Калифорнийским университетом в Сан-Франциско (UC San Francisco), было обнаружено, что использование модели искусственного интеллекта (ИИ) ChatGPT в отделении неотложной помощи (ОНП) может привести к назначению ненужных медицинских процедур и госпитализации пациентов, которые в этом не нуждались.
Ограничения ИИ в медицинской практике
Исследователи пришли к выводу, что модель ИИ не может заменить клиническое суждение врача и не способна точно определить, какие действия необходимы для лечения пациента.
Анализ данных и сравнение рекомендаций
В рамках исследования команда проанализировала данные о 1000 посещений ОНП и сравнила рекомендации, предоставленные моделью ИИ ChatGPT-3.5 и ChatGPT-4, с решениями, которые приняли врачи-ординаторы.
Результаты исследования
Результаты показали, что модели ИИ склонны рекомендовать больше услуг, чем это необходимо, и их точность ниже, чем у врачей. ChatGPT-4 был на 8% менее точным, чем ординаторы, а ChatGPT-3.5 — на 24% менее точным.
Причины низкой точности ИИ
Исследователи считают, что это связано с тем, что модели ИИ обучаются на данных из интернета, где законные сайты медицинских консультаций предназначены для направления читателей к врачу, а не для предоставления неотложной медицинской помощи.
Необходимость усовершенствования ИИ
Крис Уильямс (Chris Williams), ведущий автор исследования, отметил, что модели ИИ должны быть усовершенствованы, прежде чем они смогут использоваться в неотложной медицинской помощи. Необходимо найти баланс между тем, чтобы модели не пропускали серьёзные заболевания, и тем, чтобы они не вызывали ненужные обследования и расходы.
Заключение
Это означает, что исследователи, разрабатывающие медицинские приложения ИИ, должны тщательно продумать, как эти модели будут использоваться в клинической практике.
Литература:
Chris Williams et al, Nature Communications (2024). www.nature.com/articles/s41467-024-52415-1