Алгоритмический найм

Когда компании используют программы и искусственный интеллект для отбора кандидатов, это может приводить к несправедливым и необъяснимым решениям. Система может необъективно оценивать людей по полу, возрасту или другим признакам, даже не предназначенным для этого.

Что требует закон?
Законы запрещают дискриминацию, требуют понятных решений и согласия человека на обработку его данных.

Как проверяют систему на справедливость?
Проверка (аудит) проходит по трем направлениям:

1. Данные: Откуда они взяты, законно ли собраны? Нет ли в них скрытой предвзятости?
2. Модель: Проверяют, насколько честно алгоритм оценивает разные группы людей (например, мужчин и женщин).
3. Процессы: Уведомляют ли кандидатов об автоматическом отборе? Дают ли возможность оспорить решение и поговорить с живым человеком?

Что делают на практике?

• Раз в три месяца готовят отчет о предвзятости системы.
• Проверяют, насколько тестовые задания соответствуют реальной работе.
• Проводят «контрольные закупки»: отправляют в систему одинаковые резюме с разными именами или другими характеристиками, чтобы проверить, будет ли разный результат.

Как измеряют результат?
Смотрят на ключевые показатели:

• Какой процент людей из разных групп проходит отбор?
• Сколько достойных кандидатов система по ошибке отсеивает?
• Как быстро пересматривают спорные решения?

Как устраняют проблему?

• Убирают из данных информацию, которая может косвенно указывать на пол, возраст и т.д.
• «Выравнивают» данные, чтобы у системы было достаточно примеров из всех групп.
• Для спорных случаев добавляют проверку живым специалистом.

Главный вывод:
Проверять систему найма на справедливость нужно не один раз, а постоянно. Это должно стать стандартной процедурой.