Принципы Санта-Клары устанавливают новый стандарт для платформы модерации, но обратят ли на это внимание Google и Facebook?
За последние несколько лет модерация контента достигла критической точки. Мы видели, как всевозможные уродства процветают на таких платформах, как Facebook, Twitter и YouTube, будь то скоординированные преследования, счета самозванцев, внешнее политическое влияние или странный алгоритмический приятель. В то же время непоследовательная, а иногда и жесткая умеренность становится все более пристрастной проблемой, когда консервативные знаменитости выступают перед Конгрессом, чтобы сделать мрачные заявления о цензуре. В обоих случаях потеря доверия ощутима, подпитывается отсутствием прозрачности. Огромная доля речи в мире происходит на закрытых платформах, таких как Facebook и YouTube, и пользователи по-прежнему имеют мало контроля или осведомленности о правилах, регулирующих эту речь.
Сегодня коалиция некоммерческих групп попыталась устранить этот пробел с помощью списка основных стандартов модерации, называемых принципами Санта-Клары о прозрачности и подотчетности в модерации контента (Santa Clara Principles on Transparency and Accountability in Content Moderation), разработанных в качестве набора минимальных стандартов для того, чтобы определить как относиться к пользовательскому контенту в интернете. Конечный продукт опирается на работу американского Союза гражданских свобод, Electronic Frontier Foundation, Center for Democracy & Technology и New America's Open Technology Institute, а также ряда независимых экспертов. Вместе, они призывают к более тщательным уведомлениям, когда пост сняли, более лучшего процесса подачи апелляции и новой прозрачности, сообщающей об общем количестве сообщений и приостановленных счетов.
Это простые меры, но они дают пользователям гораздо больше информации и ресурсов, чем они в настоящее время получают на Facebook, YouTube и других платформах. Результатом является новая дорожная карта для модерации платформы — открытый вызов любой компании, модерирующей контент в интернете.
В соответствии с правилами Санта-Клары, каждый раз, когда учетная запись или другой контент снимается, пользователь получит конкретное объяснение того, как и почему контент был помечен, со ссылкой на конкретное руководство, которое они нарушили. Пользователь также может оспорить решение, предоставив новые доказательства отдельному человеческому модератору по апелляции. Компании также будут представлять регулярный отчет о модерации, смоделированный после текущих отчетов о запросах правительственных данных, с перечислением общего числа отмеченных счетов и обоснованием для каждой пометки.
“То, о чем мы говорим, — это в основном внутреннее право этих платформ”, - говорит директор института открытых технологий Кевин Бэнкстон, который работал над документом. "Наша цель — сделать так, чтобы процесс был максимально открытым.”
До сих пор компании молчали о новых руководящих принципах. Google и Twitter отказались комментировать новые правила; Facebook не ответила на несколько запросов.
Но в то время как компаниям еще предстоит взвесить правила Санта-Клары, некоторые из них самостоятельно принимают аналогичные меры. Facebook опубликовал свои рекомендации по полной модерации впервые в прошлом месяце, изложив конкретные правила о насилии и наготе, которые руководствовались решениями в течение многих лет. Компания также создала свой первый официальный процесс апелляций для пользователей, которые считают, что они были заблокированы по ошибке.
YouTube ближе к соблюдению правил, хотя он по-прежнему отстает от прозрачности. Платформа уже имеет процесс уведомления и апелляции, и её руководящие принципы были открыты для общественности с самого начала. YouTube выпустил свой первый ежеквартальный отчет о модерации в апреле, детализируя 8,2 миллиона видео, удалённые в течение последнего квартала 2017 года. Но в то время как отчет разбивает политики, связанные с человеческими пометками, он не дает той же детали, если контент был отмечен автоматизированными системами, ответственными за основную часть удаления контента на YouTube.
Документ Санта-Клары ограничен вопросами процесса, обходя многие из самых сложных вопросов вокруг умеренности. Правила не говорят о том, какой контент должен быть удален или когда данный пост можно справедливо считать угрозой безопасности пользователя. Он также не имеет дело с политической речью или вырезами для новостной годности, как спорная политика мировых лидеров Twitter.
Но многие эксперты говорят, что правила — это скорее минимальный набор стандартов, чем окончательный список требований. “Я очень критиковал некоторые конкретные политики - от наготы до терроризма", — говорит Джиллиан К. Йорк, которая работала над правилами для EFF. "В конечном счете, однако, я не считаю, что модерация контента уйдёт в ближайшее время, и поэтому посредничество в ней через прозрачность и надлежащий процесс это отличное начало.”