Ученые Стэнфордского университета (признан Минюстом РФ нежелательной организацией) обнаружили, что алгоритмы отбора кандидатов заметно реже рекомендовали темнокожих и азиатских соискателей на отдельные вакансии. Исследователи также выявили эффект систематического отказа, при котором один и тот же кандидат получал отрицательную оценку алгоритма сразу при обращении в несколько компаний.
Команда под руководством профессора Дэна Юрафски проанализировала более 4 млн заявок, поданных в 2018−2022 годах почти на 2 тыс. вакансий через платформу Pymetrics. Ее игровые тесты оценивали склонность кандидатов к риску, способность концентрироваться, щедрость и другие качества, после чего алгоритм относил каждого соискателя к одной из двух категорий — «рекомендован» или «не рекомендован».
При анализе всего массива данных исследователи не обнаружили выраженного общего перекоса. Однако на уровне отдельных вакансий картина оказалась иной — 15% заявок азиатских кандидатов и 26% заявок чернокожих соискателей пришлись на позиции, где алгоритм рекомендовал их заметно реже, чем белых участников отбора.
По расчетам ученых, если бы доля положительных рекомендаций среди чернокожих и азиатских соискателей соответствовала показателю белых кандидатов, алгоритм дополнительно одобрил бы около 40 тыс. заявок.
Отдельно команда зафиксировала эффект систематического отказа. Среди кандидатов, которые прошли игровой тест при подаче заявок на десять вакансий, 4% были отнесены алгоритмом к категории «не рекомендован» во всех десяти случаях. Это происходило заметно чаще, чем могло бы происходить, если бы компании оценивали соискателей независимо друг от друга.
Авторы связали этот результат с эффектом алгоритмической монокультуры. Множество работодателей используют одинаковые инструменты одного поставщика, поэтому ошибка или заложенное в алгоритм искажение одновременно распространяется на решения десятков компаний.
Установить источник выявленных различий исследователи пока не смогли. Для дальнейшего анализа им необходим доступ к закрытым данным поставщиков, поэтому авторы работы призвали разработчиков ИИ-инструментов для найма раскрывать больше информации о принципах работы своих систем.
Менеджеры слабее контролировали ИИ
Риски непрозрачных алгоритмов не ограничились отбором кандидатов. Компании начали включать ИИ-агентов в организационные структуры, называть их «сотрудниками» и поручать им задачи, которые раньше выполняли люди, при этом механизмы контроля за их работой зачастую оставались неясными.
Исследование профессора Бостонского университета Эммы Уайлз и Boston Consulting Group показало, что менеджеры значительно менее тщательно проверяли документы, если считали их авторами ИИ-агентов, а не людей. В результате одни и те же ошибки участники замечали в работах, приписанных человеку, но пропускали в идентичных документах, которые якобы подготовил ИИ-сотрудник.
Читайте также
Испанский HR-стартап Orbio привлек $21 млн на ИИ-агентов для найма
Опрос более тысячи менеджеров показал, что около трети компаний называют ИИ-агентов «членами команды», а почти четверть уже включила их в организационные структуры. При этом ответственность за результаты их работы оказалась размытой: возникающие ошибки участники связывали либо с техническим подразделением, либо с руководителями, которые инициировали внедрение технологии.
Дополнительное искажение обнаружили в работе самих языковых моделей. При оценке текстов они чаще отдавали предпочтение материалам, созданным ИИ. Исследование, опубликованное в 2025 году в журнале Proceedings of the National Academy of Sciences, показало, что большие языковые модели систематически ставили человеческим текстам более низкие оценки.
Более серьезные последствия могут возникнуть при включении ИИ в управленческие процессы. В экспериментах модели переоценивали рациональность участников рынка и предлагали компаниям более жесткие конкурентные действия — например, агрессивно снижать цены в борьбе с соперниками. В рамках теоретической модели такая стратегия могла казаться выгодной, но в реальном бизнесе она способна запустить разрушительную ценовую войну.
Часть выявленных искажений можно скорректировать. Исследователи из Университета штата Огайо и Мэрилендского университета обнаружили, что предпочтение в пользу ИИ-текстов ослабевало, когда модели прямо указывали оценивать только содержание работы и не учитывать предполагаемое авторство. Однако, по словам ученых, большинство компаний пока внедряют ИИ в операционные процессы, не понимая подобных рисков, и обнаруживают их уже после запуска технологии.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.