Нейрорасизм: ИИ хуже диагностирует болезни у чернокожих пациентов, особенно женщин.
В США учёные проверили эффективность ИИ, который диагностирует заболевания по медицинским снимкам. Оказалось, что созданная в Стэнфорде модель CheXzero успешно обнаруживала патологии у белых мужчин, но оказалась гораздо менее эффективна в диагностике у пациенток-афроамериканок.
Почти у 50% пациенток из этой группы CheXzero не выявил серьёзные патологии сердца и лёгких. Причина проста – при обучении модели использовалось крайне мало рентгеновских снимков чернокожих женщин.
ИИ дообучили на новых данных, но проблема не исчезла полностью. Специалисты заявляют, что ситуация с предвзятостью медицинских моделей неудивительна и высказывают сомнения, что в ближайшее время появится нейросеть, которая одинаково эффективно работает с рентгеновскими снимками всех подгрупп.
