Модерация миллиардов сообщений в неделю на более чем ста языках стала самой большой проблемой Facebook. Утечка документов и почти два десятка интервью показывают, как компания иногда не успевает закончить свою работу.
Этой весной Facebook обратился к нескольким десяткам ведущих ученых в социальных сетях с приглашением: хотели бы они провести неформальный ужин с Марком Цукербергом, чтобы обсудить проблемы Facebook? По словам пяти человек, которые присутствовали на серии внеочередных обедов в доме Цукерберга в пало-Альто, Калифорния, разговор в основном сосредоточился на самой важной проблеме, преследующей компанию: модерация контента.
В последние месяцы Facebook был атакован и обвинён во всех грехах начиная с либералов и заканчивая религиозными людьми. Платформу даже обвиняют в содействии геноциду.
Эти ситуации были в значительной степени обрамлены как отдельные "пожары" по связям с общественностью, которые Facebook пытался потушить по одному. Но потребность в модерации контента лучше рассматривать как системную проблему в бизнес-модели Facebook. Марк Цукерберг сказал о том, что хочет, чтобы платформа была одним глобальным сообществом, идеалом, учитывая огромное разнообразие сообществ, культурных нравов по всему миру. Facebook считает, что очень щепетильная модерация контента может решить эту напряженность. Но, это невероятно сложная логистическая проблема, которая не имеет очевидного решения и в корне угрожает бизнесу Facebook, переместив в значительной степени роль арбитража свободной речи от правительств на частную платформу.
Встречи продемонстрировали приверженность Цукерберга решению трудных проблем, которые Facebook создал для себя благодаря неустанному стремлению к росту. Но несколько человек, которые присутствовали на обедах, сказали, что, по их мнению, они начали разговор на принципиально другой почве: Цукерберг считает, что проблемы Facebook могут быть решены. Многие эксперты этого не делают.
Раннее, утопическое обещание интернета было децентрализованной сетью, которая соединяла бы людей под сотнями миллионов веб-сайтов и сообществ, каждый из которых отвечает за создание своих собственных правил. Но по мере развития интернета он становится все более корпоративным, и такие компании, как Facebook, YouTube, Instagram, Reddit, Tumblr и Twitter, заменяют индивидуальные веб-сайты и форумы в качестве основных речевых каналов для миллиардов людей во всем мире.
Поскольку эти платформы выросли в размерах и влиянии, они наняли модераторов контента для полиции своих веб—сайтов-сначала для удаления незаконного контента, такого как детская порнография, а затем для обеспечения соблюдения правил, запрещающих контент, который может заставить пользователей уйти или кошмар PR.
"Фундаментальная причина модерации контента — ее первопричина для существующих - идет довольно просто к вопросу защиты бренда и смягчения ответственности за платформу”, - сказала Сара т. Робертс, доцент UCLA, изучающая коммерческую модерацию Контента. “Это в конечном счете и принципиально на службе самих платформ. Механизмы gatekeeping, которые платформы используют для управления характером пользовательского контента.”
Чтобы понять, почему у Facebook, Twitter, YouTube и Reddit вообще есть правила, стоит учитывать, что, поскольку эти платформы стали более строгими, “свободные слова”, ориентированные на клонов с несколькими или вообще без правил, в основном барахтались и обычно рассматриваются как выгребные ямы, наполненные ненавистной риторикой и кишащие нацистами.
