В США соискатели начали юридическую атаку на популярный сервис искусственного интеллекта для подбора персонала Eightfold AI. Они обвиняют компанию в непрозрачности и нарушении законодательства о защите прав потребителей.
Против платформы Eightfold AI, которая с помощью искусственного интеллекта анализирует резюме и оценивает кандидатов для крупных работодателей, подали коллективный иск. Истцы считают, что система нарушает их права, поскольку работает как «чёрный ящик», а соискатели не видят, на каких основаниях система оценивает их резюме и почему их, возможно, не приглашают на собеседования.
Иск зарегистрировали в Калифорнии от имени всех соискателей, чьи резюме обрабатывали с помощью технологий Eightfold AI. По мнению истцов, автоматизированная система собирает и анализирует большие объёмы данных о кандидатах — включая личную информацию из открытых источников и профессиональных сетей — и на основе этого присваивает рейтинг от 0 до 5. Именно этот рейтинг, говорят они, влияет на решение работодателя, допускать кандидата к личному отбору или отбрасывать на ранней стадии.
Ключевая претензия соискателей заключается в том, что они не видят и не могут проверить рейтинг, не получают информацию о том, какие данные сервис использовал при оценке, и не имеют возможности оспорить ошибки или неточности. Авторы иска указывают на нарушение Fair Credit Reporting Act (FCRA) — федерального закона США о потребительских отчётах. Он гарантирует людям право знать, какие сведения о них собирают и как они используются в решениях работодателей и других организаций.
Иск также ссылается на аналогичные нормы калифорнийского законодательства о защите потребителей. Авторки обращения утверждают, что алгоритмы Eightfold AI действуют как рейтинг или отчёт о кандидате, и потому должны подпадать под требования об открытости и праве на исправление ошибок, аналогично кредитным отчётам или проверкам биографии.
Eightfold AI — технологическая компания, которую используют многие крупные работодатели, включая Microsoft и PayPal, для предварительного отбора кандидатов. Компания от комментариев воздерживается, но в предыдущих заявлениях отмечала, что её алгоритмы опираются только на информацию, которую сами кандидаты предоставляют работодателям, и утверждала о соблюдении действующих норм.
Иск привлёк внимание к проблеме автоматизированных решений в HR‑процессах и открытому доступу к данным, которые используют ИИ‑системы. Юристы эксперты считают, что если суд признает такие алгоритмы подотчётными законам о потребительских отчётах, это может изменить правила применения искусственного интеллекта в подборе персонала в США.
Читать далее:
Вселенная внутри черной дыры: наблюдения «Уэбба» подтверждают странную гипотезу
Испытания ракеты Starship Илона Маска вновь закончились взрывом в небе
Сразу четыре похожих на Землю планеты нашли у ближайшей одиночной звезды
Обложка: freepik