Большие языковые модели склонны переоценивать моральные ценности жителей западных стран и искаженно воспринимать общества за пределами Запада. Такой вывод сделали авторы статьи, опубликованной в журнале «Труды Национальной академии наук США».
Аналитики сравнили оценки моральных установок, которые сгенерировали языковые модели, с результатами международного опроса жителей 48 стран. Исследование охватило шесть моральных категорий: заботу, равенство, справедливость, лояльность, уважение к авторитету и чистоту.
Ученые выяснили, что модели систематически переоценивают одни ценности, прежде всего, заботу и гуманизм, и недооценивают другие, особенно значимые для части незападных обществ. Кроме того, GPT завышали уровень моральной чувствительности жителей США, Канады и Австралии и одновременно занижали показатели для Нигерии, Марокко и Индонезии.
Исследователи связали такие искажения с особенностями обучающих данных языковых моделей, в которых преобладает западный контент. По их мнению, проблема может иметь практические последствия, поскольку большие языковые модели все чаще используют для анализа общественного мнения, политических процессов и поведения людей. Искаженное представление о моральных ценностях способно привести к ошибочным выводам о настроениях разных обществ и усилить культурные стереотипы.