В день модераторы контента Facebook просматривают три миллиона постов, фотографий и видео, которые помечает ИИ и на которые жалуются пользователи. Если вспомнить слова самого Цукерберга о том, что модераторы ошибаются более чем в одном случае из десяти, получается, что ошибочно помечаются как неподобающие 300 тыс. постов в день, подсчитали авторы отчета, подготовленного школой бизнеса Леонарда Н.Штерна (NYU Stern). Они также раскритиковали условия труда модераторов, приводящие к ошибкам и стрессу.
Что делать и кто виноват
Еще немного математики от авторов исследования: в Facebook работает около 15 тыс. модераторов контента. Если считать, что модераторы проверяют около трех миллионов постов в день, на каждого человека приходится по 200 постов, или 25 постов в час за восьмичасовую смену. Соответственно, у модератора есть меньше 150 секунд, чтобы решить, соответствует ли сообщение стандартам сообщества или нарушает их. Но как быть, если, например, модератору надо посмотреть десятиминутное видео? В таком случае у него остается меньше времени на другие сообщения, что приводит к ошибкам и стрессу.
«Facebook маргинализировал работу модераторов, отдав ее на аутсорс сторонним поставщикам», — считают авторы исследования. По их мнению, будет лучше, если соцсеть трудоустроит работников официально (и с адекватной зарплатой), а также удвоит число модераторов и передаст их под особый контроль топ-менеджера. Кроме того, по мысли авторов доклада соцсеть могла бы усилить контроль за модераторами в неразвитых странах и спонсировать исследования, посвященные влиянию модерации на психическое здоровье пользователей, а еще расширить систему фактчекинга, чтобы не допустить распространение дезинформации.
Facebook не первый год упрекают в проблемах с модерацией контента — платформа либо слишком медленно реагировала на случаи публикации неприемлемого контента, либо наоборот неправомерно удаляла посты. Сами модераторы часто жаловались на тяжелые условия работы и стресс. В 2018 году из-за сердечного приступа умер модератор Кит Атли. В расследовании The Verge говорится, что 42-летний Атли испытывал сильный стресс на работе.
Ваш пост нарушил правила сообщества
Впрочем, Facebook пытается решить проблему и другими методами. В период пандемии модераторы были отправлены домой, а за контентом следила автоматизированная система Facebook. Правда, это привело к казусам, например, алгоритм удалял все сообщения с упоминанием коронавируса, вне зависимости от того, кем они опубликованы, включая авторитетные источники вроде The Independent и Dallas Morning News, не говоря уже о миллионах простых пользователей. 9 мая соцсеть блокировала фотографии со Знаменем Победы над Рейхстагом (причем цветную версию), чтоб вызвало шквал возмущения у пользователей.
Реален и серьезен
Соцсеть не отрицает проблему с модерацией. В мае 2020 года в Facebook появился совет, который займется спорными вопросами, связанными с модерацией контента. Пока в новый орган вошли 20 человек, со временем их количество постепенно будет увеличиваться. Среди участников совета бывшая премьер-министр Дании Хелле Торнинг-Шмитт и лауреатка Нобелевской премии мира Тавакуль Карман. На создание и нужды совета Facebook планирует выделить $130 млн.
Кроме того, соцсеть приняла решение выплатить $52 млн бывшим и нынешним модераторам, чтобы компенсировать проблемы с психическим здоровьем, возникшие в результате работы. Каждый модератор получит минимум $1000 и право на дополнительную компенсацию, если у него будет диагностировано посттравматическое расстройство или связанные с ним состояния. Под действие соглашения попали 11 250 сотрудников, и юристы считают, что до половины их них имеют право на компенсацию.
«Мы рады, что Facebook работает с нами в рамках создания беспрецедентной программы, чтобы помочь людям выполнять работу, которую нельзя было себе представить даже несколько лет назад. Вред, который может быть нанесен этой работой, реален и серьезен», — говорит Стив Уильямс, адвокат сотрудников Facebook, обратившихся за компенсацией.
