Университет Ватерлоо разработал модель искусственного интеллекта для борьбы с предвзятостью при диагностике
Исследователи Университета Ватерлоо разработали модель объяснимого искусственного интеллекта (XAI), предназначенную для снижения предвзятости и повышения доверия и точности решений и структурирования знаний, основанных на машинном обучении.
Медицинский сектор представляет собой одну из областей, где искаженные результаты машинного обучения могут привести к серьезным последствиям. Машинное обучение помогает просеивать большие объемы данных, повышая тем самым эффективность, но есть и непреднамеренное следствие: могут быть упущены из виду определенные группы пациентов с редкими симптомами. Новая модель призвана решить эту проблему. Она позволяет расшифровать сложные закономерности, соотнести их с конкретными фундаментальными причинами, на которые не влияют аномалии или неверная маркировка данных. Это может значительно повысить надежность и согласованность XAI.
Эндрю Вонг, профессор Университета Ватерлоо, подчеркнул важность этого достижения. «Данное исследование знаменует собой заметный скачок в области XAI, – сказал Вонг. – Тщательно проанализировав огромное количество данных о связывании белков, полученных с помощью рентгеновской кристаллографии, наша команда обнаружила статистику, связанную с физико-химическими закономерностями взаимодействия аминокислот. Ранее эта статистика была скрыта на уровне данных из-за сложного переплетения различных факторов. Наши результаты демонстрируют, что эти запутанные статистические данные можно расшифровать, открывая тем самым глубокие знания, которые ранее оставались незамеченными на уровне данных, и подтверждают их реальными научными доказательствами».
Как цифровые технологии приходят в медицину: