(Разные разности. «ХиЖ» 2022 №10)
Не знаю, как вас, а меня бесят голосовые помощники в банках. И не только в банках. Сейчас их повально устанавливают везде, где только можно. Толку от них никакого, потому что позвонивший в подавляющем большинстве случаев будет требовать разговора с живым оператором по причине невозможности объясниться с голосовым помощником.
И зачем, спрашивается, эти неквалифицированные роботы нужны в банках, где лежат наши деньги? Чтобы пожирать время клиентов и безумно их раздражать?
Мне говорят — да подождите, это же самообучающийся механизм. Ему надо тренироваться, чтобы стать лучше. Но позвольте, господа банкиры, почему вы решили, что у меня есть время и желание работать тренером вашего искусственного интеллекта (ИИ)? Хотите проводить эксперименты на людях? Тогда, как минимум, получите от них информированное согласие.
С этими голосовыми помощниками клиенты банков справились быстро. Только он отвечает по телефону, как мы начинаем повторять одно и то же слово — «оператор». И на третьей — пятой попытке поговорить ИИ сдается и соединяет с нормальным человеком.
Однако ИИ в виде голосового помощника — это мелочи. ИИ уже всерьез влез в процессы найма сотрудников на работу, а значит, он начинает влиять на судьбы людей и компаний. И это не есть хорошо. Во всяком случае, исследователи Кембриджского университета уверены, что утверждения, будто ИИ может повысить разнообразие на рабочем месте, — ложные и опасные.
Действительно, в последние годы появились разновидности ИИ, которые позволяют просеивать резюме и анализировать видеоинтервью потенциальных кандидатов на должности в компаниях.
Разработчики утверждают, что эта система совершенно лишена каких бы то ни было человеческих предубеждений при приеме на работу — в отношении пола и этнической принадлежности, например. Роботам вообще чужда человеческая предвзятость — они просто считывают словарный запас, речевые шаблоны и даже микровыражения лица, которые видны в видеоинтервью. На основании всего этого они отбирают кандидатов с правильным типом личности, соответствующем корпоративной культуре.
Но, как обычно, все оказалось куда сложнее. Исследователи из Кембриджа говорят, что использование ИИ для отбора кандидатов на самом деле увеличивает единообразие, а не разнообразие в рабочей силе, которого ждут работодатели.
Во-первых, технология откалибрована, чтобы искать «идеального кандидата», описанного работодателем в техническом задании. А во-вторых, поскольку алгоритмы оттачиваются с использованием данных уже работающих сотрудников, кандидаты, отобранные ИИ, скорее всего, окажутся сильно похожими на сотрудников компании. Так что никакого разнообразия не получится. А сила любой организации — именно в разнообразии ее работников.
И вообще — все это похоже на автоматизированную лженауку, которая определяет тип личности по форме черепа и чертам лица. Так считают исследователи из Кембриджа.
Чтобы развенчать этот опасный и лженаучный техносолюционизм, когда принятие решения отдано на откуп ИИ, исследователи вместе со студентами создали «Машину личности». Она демонстрирует, как произвольные изменения в выражении лица, одежде, освещении и фоне могут на видеозаписи давать радикально разные показания личности для считывающего их алгоритма.
Немного изменилось выражение лица или на него легла тень — и все, работы не видать. Потому что для алгоритма вы из приятного превратились в очень неприятного человека, из открытого и добросовестного — в закрытого и недобросовестного. И все из-за игры какой-то тени на лице.
Надо признать, что эксперты ЕС считают, что организации, использующие ИИ при найме на работу, сильно рискуют. Но несмотря на это, все больше компаний внедряют эти технологии. В 2020 году исследователи из Кембриджа опросили 500 организаций в пяти странах. Оказалось, что каждая четвертая использует ИИ при найме на работу. И количество их неуклонно растет.
Но я уверена, что если мы знаем, как работает система, то сможем ее обмануть. И здесь нам в помощь «Машина личности», созданная в Кембридже. Она лежит в открытом доступе и показывает, как работают алгоритмы, нанимающие на работу.
А знание — сила. Голосовых помощников победили, и с роботами-кадровиками справимся.
Любовь Стрельникова
Остальные статьи из этой рубрики вы можете найти в подборке «Разные разности».
Благодарим за ваши «лайки», комментарии и подписку на наш канал.
– Редакция «Химии и жизни»