Facebook формирует новые команды, посвященные изучению его основной социальной сети и Instagram на предмет расовой предвзятости, в частности, для того, чтобы узнать действительно ли алгоритмы, обученные с использованием искусственного интеллекта, отрицательно влияли на чернокожих, латиноамериканцев и другие недопредставленные группы. Команде будет «поставлена задача обеспечить честность и справедливое развитие продукта, присутствующих во всем, что мы делаем», - сообщил представитель Facebook. «Мы будем продолжать тесно сотрудничать с командой ответсвенной за искусственный интеллект Facebook, чтобы гарантировать, что мы ищем соответствующие отклонения на наших платформах».
Создание новой команды справедливости - как ее называют в Instagram (аналогичная команда создается для изучения основного приложения и веб-сайта Facebook) - знаменует собой закат компании, которая исторически сопротивлялась усилиям внутри компании по изучению влияния расовых предрассудков.
«Движение за расовое равенство - это важный момент для нашей компании. Любое смещение в наших системах и политиках противоречит тому, чтобы предоставить платформу для каждого, чтобы выразить себя», - заявил Вишал Шах, вице-президент по продуктам Instagram. «В то время как мы всегда работаем над созданием честной платформы, мы прилагаем дополнительные усилия для продолжения этого прогресса - от создания Instagram Equity Team до Facebook Inclusive Product Council».
Сегодняшние решения компании принимаются в связи с тем, что протесты против расизма и жестокости полиции продолжаются ежедневно в американских городах после смерти Джорджа Флойда в конце мая. Facebook также переживает последние этапы месячного рекламного бойкота в рамках движения #StopHateForProfit, организованного Антидиффамационной лигой, Color of Change, NAACP и другими группами за гражданские права. Бойкот включал крупных спонсоров, таких как Coca-Cola, Disney, McDonald's, Starbucks и Walmart, среди десятков других, хотя генеральный директор Марк Цукерберг был назван «разочаровывающим» и обвинен в мелких оправданиях при встрече с организаторами бойкота в начале этого месяца.
В прошлом месяце генеральный директор Instagram Адам Моссери пообещал пересмотреть то, как компания пытается решить проблемы, с которыми Иlack и другие недопредставленные группы сталкиваются на платформе. «Все начинается с признания проблем, с которыми сталкиваются недопредставленные группы, такие как наше сообщество чернокожих, когда они используют Instagram», - написал Моссери. «Мы проделали большую работу, чтобы лучше понять влияние нашей платформы на разные группы, и это помогло нам добраться туда, где мы находимся сегодня. Но я думаю, что есть еще кое-что в некоторых ключевых областях, которые попадают в обязательства нашей компании». Мосери особо выделил преследование, проверку аккаунта, распространение и алгоритмическую предвзятость как области, которые, по его мнению, должны улучшить Instagram, чтобы улучшить опыт для чернокожих пользователей.
У Facebook каменистая история с расовым предубеждениями. Было установлено, что компания позволяет рекламодателям исключить определенные группы меньшинств при рекламе на федерально регулируемых рынках, таких как жилье и работа. Facebook часто обходил проблемы, используя технические детали, такие как классификация пользователей не по расе, а по так называемому «этническому» или «многокультурному» сходству, или по выбору группы идентичности, согласующейся с тем, что статистически большинству чернокожих, испаноязычных или других меньшинств может понравится на платформе. Только после тщательного освещения в средствах массовой информации, в первую очередь ProPublica, Facebook в конечном итоге отключил варианты таргетинга объявлений для жилья, работы и кредитных объявлений в рамках законного урегулирования с группами по защите гражданских прав.
Компания также состоит из менее чем 4 процентов чернокожих сотрудников, и в прошлом году должностные лица компании запретили сотрудникам изучать расовые последствия ее платформы без одобрения самых высокопоставленных руководителей. В результате было установлено, что программное обеспечение Facebook, которое автоматизирует модерацию, например приостановку аккаунтов в Instagram, непропорционально влияет на пользователей, которых платформа распознает как чернокожих.
Facebook пообещал пожертвовать 200 миллионов долларов для поддержки предприятий, принадлежащих чернокожим, в связи с протестами Black Lives Matter по всей стране. В прошлом месяце компания также заявила, что планирует увеличить процент чернокожих и других недопредставленных меньшинств, составляющих команду лидеров, на 30 процентов в течение следующих пяти лет, а также попытаться удвоить число чернокожих и испаноговорящих сотрудников к 2023 году.