Сегодня все больше решений за нас принимает искусственный интеллект. Тут и там мы слышим, что ИИ крадет нашу работу, роботы получают самое настоящее гражданство, а некоторые способны даже самостоятельно передвигаться по полосе препятствий и открывать двери. Медиапространство буквально пропитано паникой и страхом перед нашими будущими робохозяевами. Только на самом деле это не главная проблема робототехники. Так сколько, всё-таки, решений за нас принимает искусственный интеллект сегодня? И сколько из них основано на нашем гендере, расе или прошлом?
Теперь алгоритмы решают, кто мы и чего хотим. Люди все больше замечают, что, например, говорили о кошках с родителями и через минуту имели счастье любоваться на симпатичную усатую мордашку в очередном рекламном объявлении в своем смартфоне. И давно уже наши запросы в браузере стали оборачиваться для нас обилием разнообразных баннеров, им соответствующих.
Но не только для продажи продуктов и систематизации интересов используется искусственный интеллект. Какие-то решения, очень важные, ИИ принимает, основываясь на стереотипах, которым он научился у нас. Например, помогая кому-то решить, для какой работы мы подходим или каков наш шанс получить тот или иной кредит. И при этом используются данные о нашей личности, расе, гендере, религии или возрасте.
Возьмём, к примеру, менеджера по подбору персонала, пользующегося помощью ИИ в поисках ведущего программиста. Cам менеджер, допустим, в основном нанимает мужчин. И программа, конечно же, обучается таким образом, что теперь будет считать мужчин более подходящими на роль программиста, чем женщины. Грубо говоря, перенимает данный стереотип, начиная игнорировать большинство кандидатов-женщин. И загвоздка в том, что, если так будет делать человек, скорее всего рано или поздно из-за общественного недовольства или действующего законодательства он будет уволен, но в случае с машиной все будет по-другому. Так получилось, что сейчас ИИ будто выше морали и закона – ну а что, программы ведь не умеют врать и преследовать свои корыстные цели.
Кстати, что общего между популярными голосовыми помощниками, такими, как Сири и Яндекс.Алиса? У большинства из них женский голос. А это ведь тоже своего рода стереотип – что женский голос всегда приятнее.
Представьте, как ребенок растет в окружении всех этих технологий. Гуглит, например, слово «президент» и получает преимущественно изображения мужчин. А затем гуглит «секретарь» и получает только фотографии женщин. Получается, теперь машина передает стереотипы человеку – вот такой вот замкнутый круг.
Но хорошая новость в том, что мы полностью контролируем ИИ, мы можем обучить машины правильным ценностям и этике. И для этого мы должны:
- Сами знать о своих стереотипах и о тех, которым мы уже обучили машины.
- Удостовериться в том, что такие технологии разрабатывают разношерстные и разноплановые команды.
- Дать этим командам вариативный опыт, основываясь на котором они будут обучаться.
Ведь когда вместе работают люди с разной историей, разными возможностями, талантами, взглядами, характерами, все можно сделать правильно, а возможности безграничны.
Не оставайтесь равнодушными! И не забудьте поставить лайк и подписаться на канал, если остались довольны статьей. Спасибо!
Все не подписанные изображения в статье имеют лицензию CC0 или аналогичную.