Ой, не знаю, что со мной Дзен за такой заголовок сделает, но из песни исследования слов не выкинешь.
Неравнодушные умы США решили проверить опытным путем, какой из ИИ риелтор. И, естественно, доставать своими запросами стали многострадальный ChatGPT.
Таки шо вы думаете выкинул этот чат-бот?
Не для того папы орла разрабатывали, шобы вы, курицы, мне тупую работу подсовывали.
Ладно, шучу. На самом деле, ChatGPT показал расовую предвзятость в рекомендациях по жилью.
Суть эксперимента
Чат-боту было предложено поставить себя на место риелтора и предложить покупателям и арендаторам жилье.
В запросах на поиск недвижимости указывали этнос, пол и семейное положение с учетом детей.
Всего отработали свыше 1000 промтов.
Результат
В абсолютном большинстве случаев ChatGPT для темнокожих клиентов подбирал недвижимость в бедных районах, плохого качества и тп.
Интересно, кто-нибудь выступит с протестами и обвинениями в расовых предрассудках в адрес ОpenAI, Microsoft или ChatGPT?
