На сегодняшний день уже можно наблюдать отголоски применения технологий ИИ в разных сферах общественной жизни. Так, например, система с ИИ может принимать дискриминирующие решения в зависимости от того, на каких наборах данных она обучалась.
Примеры предвзятости систем с ИИ:
- Разработчик настраивает рекомендательную систему так, чтобы предлагать конкретный продукт, создавая нечестную конкуренцию.
- Система распознавания лиц, которая может определять как потенциальных нарушителей закона лиц определенной национальности.
- Инструмент на основе ИИ для подбора кадров, дискриминирующий лиц женского пола.
- ИИ, который используется для определения пациентов, которым нужна дополнительная медицинская помощь, стал принимать решения, учитывая в первую очередь материальное положение пациента.
