Медицинские устройства с ИИ привели к врачебным ошибкам

Внедрение искусственного интеллекта в медицинские устройства, призванное повысить точность диагностики и операций, столкнулось с неожиданными проблемами. Поступают сообщения о врачебных ошибках, вызванных некорректными данными, предоставляемыми системами с ИИ, в частности, касающимися положения хирургических инструментов во время вмешательств.

Технологии на основе искусственного интеллекта активно интегрируются в сферу здравоохранения, обещая ускорить разработку лекарств, повысить эффективность хирургических процедур и расширить возможности медицинских специалистов. Однако, как отмечают эксперты, наряду с этими перспективами растет и количество инцидентов, связанных с травмами пациентов, в которых фигурируют медицинские системы с ИИ.

Один из примеров – навигационная система TruDi от Acclarent (подразделение Johnson & Johnson), используемая при операциях на носовых пазухах. После интеграции алгоритмов машинного обучения, призванных помогать хирургам ориентироваться в анатомии пациента в режиме реального времени, число сообщений о сбоях и неблагоприятных событиях значительно возросло. С конца 2021 года по ноябрь 2025 года зафиксированы случаи, когда система некорректно отображала положение хирургических инструментов. Это привело к таким осложнениям, как вытекание спинномозговой жидкости, повреждение основания черепа и инсульты вследствие травмирования крупных артерий.

В связи с этим уже поданы судебные иски, в которых утверждается, что внедрение ИИ способствовало возникновению травм. Владелец системы, Integra LifeSciences, в свою очередь, заявляет, что отчеты лишь фиксируют факт использования устройства в операциях с осложнениями и не доказывают причинно-следственной связи между работой ИИ и травмами.

Общее количество одобренных FDA медицинских устройств с ИИ достигло 1 357, что вдвое больше, чем в 2022 году. Помимо TruDi, регулятор получал сообщения о других системах, например, о кардиомониторе, пропустившем аномальные сердечные ритмы, и УЗИ-аппарате, ошибочно определявшем части тела плода. Исследования также показывают, что одобренные устройства с ИИ чаще подлежат отзыву с рынка по сравнению с традиционными медицинскими устройствами.

В одном из судебных исков описывается случай, когда пациентке во время синусопластики была повреждена сонная артерия из-за некорректных данных навигационной системы TruDi с ИИ, что привело к инсульту. Аналогичный инцидент с разрывом сонной артерии и последующим инсультом произошел у другой пациентки во время схожей операции. В обоих случаях утверждается, что производитель был осведомлен о проблемах с точностью системы.