Добавить в корзинуПозвонить
Найти в Дзене
Идеономика

Предвзятые роботы: как компьютер учится стереотипам

Стереотипность - это неотъемлемая черта любого человеческого языка, порой абсолютно безвредная и непримечательная. Например, цветы у нас ассоциируются с положительными словами, а насекомые - с отрицательными. Оказывается, компьютер, обучаясь человеческим языкам, неизбежно будет запоминать в том числе и различные стереотипы и предрассудки. К такому выводу пришла группа ученых из Принстона, которая провела исследование алгоритмов машинного обучения английскому языку - тех, на основе которых работают Google, Siri и другие приложения, взаимодействующие с языком. В рамках исследования алгоритм использовал тексты на английском языке, взятые из интернета (в общей сложности почти триллион слов). В результате у компьютера появилось множество традиционных стереотипов. Например, мужские имена оказались более тесно связаны с такими словами, как "управление" и "зарплата", а женские - со словами "дом" и "семья". Также авторы сравнили силу ассоциаций между названиями различных профессий и слов, обозн

Стереотипность - это неотъемлемая черта любого человеческого языка, порой абсолютно безвредная и непримечательная. Например, цветы у нас ассоциируются с положительными словами, а насекомые - с отрицательными. Оказывается, компьютер, обучаясь человеческим языкам, неизбежно будет запоминать в том числе и различные стереотипы и предрассудки. К такому выводу пришла группа ученых из Принстона, которая провела исследование алгоритмов машинного обучения английскому языку - тех, на основе которых работают Google, Siri и другие приложения, взаимодействующие с языком.

В рамках исследования алгоритм использовал тексты на английском языке, взятые из интернета (в общей сложности почти триллион слов). В результате у компьютера появилось множество традиционных стереотипов. Например, мужские имена оказались более тесно связаны с такими словами, как "управление" и "зарплата", а женские - со словами "дом" и "семья".

Также авторы сравнили силу ассоциаций между названиями различных профессий и слов, обозначающих принадлежность к женскому полу. Оказалось, компьютер очень точно смог указать число женщин, работающих в каждой из указанных профессий.

Подробнее об исследовании можно прочитать на сайте Quartz.