Исследование выявило скрытую дискриминацию в автоматизированном найме.
Революционное исследование ученых из университетов Мэриленда, Сингапура и штата Огайо обнаружило тревожную тенденцию: ИИ-системы для найма персонала отдают предпочтение резюме, созданным тем же алгоритмом, который их оценивает.
🔍 Ключевые выводы исследования:
Анализ 2245 резюме показал, что языковые модели ИИ последовательно предпочитают резюме, сгенерированные ими самими, а не написанные людьми или созданные другими моделями. Эффект самопредпочтения достигает 68-88% среди крупных ИИ-моделей, включая GPT-4o, LLaMA и DeepSeek.
Соискатели, использующие тот же ИИ-инструмент для создания резюме, что и HR-системы компании, получают на 23-60% больше шансов попасть в шорт-лист по сравнению с равноквалифицированными кандидатами, подавшими резюме, написанные людьми.
📈 Масштаб проблемы:
70% компаний планируют использовать ИИ в процессах найма в 2025 году, несмотря на признание его предвзятости. Особенно сильно эффект проявляется в бизнес-сферах — продажах и бухгалтерии.
💡 Решения:
Исследователи предлагают два подхода: инструктировать ИИ игнорировать происхождение резюме и использовать несколько моделей для оценки кандидатов. Это снижает самопредпочтение с 90% до менее чем 50%.
"Когда ИИ оценивает резюме, он склонен предпочитать контент, похожий на собственный, и это поднимает важные вопросы о справедливости найма" — объясняет соавтор исследования Джейн И Цзян.
Проблема особенно актуальна, поскольку взаимодействия "ИИ с ИИ" становятся все более распространенными в сфере трудоустройства.