Не такой уж беспристрастный 🙃 Исследование показало, что медицинские ИИ-модели выдают разные рекомендации в зависимости от дохода, расы или места жительства пациента. Например, богатых чаще направляют на МРТ и КТ, а малоимущим советуют «подождать». В психиатрических случаях ИИ чаще настаивал на госпитализации для представителей меньшинств. Проблема — в предвзятости не самого ИИ, а данных, на которых его обучают. Поэтому ученые предлагают ввести обязательную проверку алгоритмов перед внедрением, чтобы сделать ИИ безопасным и справедливым для всех групп пациентов. #ИИсследование
Не такой уж беспристрастный 🙃
Исследование показало, что медицинские ИИ-модели выдают разные рекомендации в зависимости от дохода, расы или места жительства пациента.
Например, богатых чаще направляют на МРТ и КТ, а малоимущим советуют «подождать». В психиатрических случаях ИИ чаще настаивал на госпитализации для представителей меньшинств.
Проблема — в предвзятости не самого ИИ, а данных, на которых его обучают. Поэтому ученые предлагают ввести обязательную проверку алгоритмов перед внедрением, чтобы сделать ИИ безопасным и справедливым для всех групп пациентов.
#ИИсследование
