Всемирно известная компания Amazon разработала Искусственный интеллект, задача которого состояла в оценке и ранжировании резюме. Спустя некоторое время система автоматически исключила большинство производных от слова “женский” и начала отдавать предпочтение тем, кто использует мужскую манеру общения и составления предложений. В итоге Интеллект от Amazon отправился на заслуженный отдых и доработку.
Как так получилось?
Данную систему начали разрабатывать еще в 2014 году. Но уже при тестировании в 2015 стало понятно, что “робот” начал разграничивать гендерные отличия и их особенные черты (популярные глаголы, слова, обороты) и в большей степени стал приверженцем мужской части населения.
Специалисты, которые трудились над разработкой системы оценивания, изначально не вкладывали такие исключения в работу своего ИИ. По их словам, это результат машинного обучения, который был обнаружен спустя некоторое время после запуска.
Но уже достаточно скоро загадка была разгадана. Все дело в том, что система обучалась на тех резюме, которые поступили в компанию Amazon за последние 11 лет. Т.к. большинство резюме были поданы на IT специальности, где соискатели в основном мужчины, Искусственный интеллект сделал вывод, что мужчины более предпочтительны, как кандидаты.
Что произошло дальше с этой чудо-машиной?
После проделанной работы над ошибками, в программу были внесены корректировки касательно отбора претендентов по ключевым словам. Но, несмотря на это, до 2017 года разработчики так и не смогли подобрать ключ к качественному отбору кадров с помощью робота. И в этом же году команда была распущена, а проект закрыт.
Ходят слухи, что в данный момент разработка специалистов по машинному обучению занимается тем, что ищет и удаляет дублированные и пустые резюме.
Читайте также:
Предсказания Нострадамуса о России - правда или обман?
4 случая, доказывающих, что путешествия во времени реальны!
Топ-3 самых загадочных городских легенд Москвы.