Исследователи обнаружили дискриминацию по цвету кожи в работе алгоритмов, отвечающих за лечение граждан в американских больницах. Конечно, виноваты люди.
Данные показали, что ПО отправляет чернокожих пациентов на программы по улучшению ухода гораздо реже, чем белых. И на лечение им дается в среднем на $1800 меньше. Хотя больны пациенты в равной степени.
Расизм у машины от людей — для тренировки помощника разработчики брали реальные данные из системы здравоохранения США. Годами врачи лечили черных и белых пациентов по-разному и, сами того не подозревая, наделили искусственный интеллект расовыми предрассудками.
Притом что физиологические различия у людей разных рас действительно есть и это может отражаться на ходе лечения. Но это не тот случай.
Подписывайтесь на наш канал, чтобы читать новости из будущего!