❗Существует понятие bias in AI – предвзятость в искусственном интеллекте

❗Существует понятие bias in AI – предвзятость в искусственном интеллекте.

Это систематические и повторяющиеся ошибки в алгоритмах ИИ, которые приводят к несправедливым, перекошенным или дискриминационным результатам.

Некоторые виды предвзятости в ИИ:

Человеческая предвзятость – сознательные или бессознательные когнитивные искажения разработчиков, аналитиков и пользователей, которые влияют на сбор данных, проектирование модели и интерпретацию результатов.

Предвзятость данных – систематические искажения, заложенные в обучающих выборках (нерепрезентативность, исторические стереотипы), передающиеся модели.

Алгоритмическая предвзятость – ошибки, обусловленные особенностями самой модели (метрика оптимизации, выбор признаков, прокси-переменные, петли обратной связи), которые могут усиливать или порождать нарушения справедливости независимо от данных.

Социальная предвзятость – отражение и усиление существующих общественных стереотипов и неравенств в результатах ИИ.

Техническая предвзятость – погрешности, вызванные аппаратными или программными ограничениями (ошибки сенсоров, генераторов случайных чисел и т. д.).

Стереотипная и культурная предвзятость – стереотипные или культурно обусловленные образы, закреплённые в результатах моделей.