Фейсбук блокирует фейковые новости, Youtube отключает комментарии к топовым детским каналам, Яндекс.Дзен борется с копипастом — каждый год в соцсетях появляются новые правила. Разобрались в требованиях блог-платформ к контенту и узнали, как они возникали и почему меняются.
Соцсети и медиаплатформы вырабатывали нормы и правила больше десяти лет. Последние менялись с ростом количества пользователей и публикаций, под влиянием общественных движений и чрезвычайных происшествий. Требования площадок могут показаться чересчур жесткими, но это помогает соцсетям лучше следить за контентом, когда в онлайне сотни миллионов пользователей, а публикации могут нанести психологический ущерб и даже нарушить закон.
Начало соцсетей: свобода без ответственности
В первые годы работы соцсетей их не воспринимали всерьез. Критики не понимали, зачем, например, Google купил самый популярный на сегодня видеохостинг, который тогда был скорее хранилищем контента (часто с нарушением авторских прав). «Google плюс YouTube: кому настала труба?» — так называется статья о сделке. VK, Facebook, YouTube были, как уже понятно сегодня, очень свободными площадками UGC. Основатель VK, например, говорил, что не позволит «стричь пользователей как овец в сговоре с этой кучкой работорговцев», комментируя возможность появления на платформе лицензионной, но платной музыки.
Бренды, останьтесь: как Facebook ввел модерацию, чтобы не лишиться рекламных чеков
За миллионами пользователей в соцсети пришли и крупнейшие бренды с рекламными бюджетами, и власти с требованием соблюдать закон. Платформы стали устанавливать собственные правила. Одним из первых, кто сформулировал свои регламенты для размещения контента, был Facebook.
Поводом для этого стало происшествие на митинге в Иране в 2009 году. Во время разгона демонстрации убили протестующую. Видеозапись убийства стала вирусной в Facebook, а позже получила премию как лучший видеосюжет года. Компания не стала удалять это видео, но поняла, что нужно расширять команду модераторов, которые принимали бы решения по поводу спорного контента.
Facebook начал сам блокировать контент, но еще четыре года закрывал глаза, когда на нежелательную информацию жаловались пользователи В 2013 году сообщество Woman Action Media выступило с протестом: показало крупным брендам их рекламные объявления на Facebook среди постов с изображением насилия. После этого Nissan, Dove и другие бренды убрали платные материалы. Оставшийся без больших рекламных бюджетов Facebook связался с организаторами кампании и согласился сделать модерацию жестче.
Принцесса Эльза с оторванной рукой: как YouTube показывал детям «страшилки»
Через рекламный бойкот прошел и Youtube. В 2017 году сервис потерял около 750 миллионов долларов: Starbucks, PepsiCo, Coca-Cola, Toyota и еще 250 компаний убрали свою рекламу на видеохостинге, после того как обнаружили ее среди видеороликов с пропагандой экстремизма и ненависти. В том же году HP, Mars, Adidas и другие крупные бренды отказались от продвижения на Youtube, увидев непристойные комментарии под роликами с участием детей.
С тех пор Youtube постоянно ужесточает требования к детским каналам. Например, за пропаганду нездорового образа жизни сервис заблокировал самый популярный русскоязычный видеоблог Vlad Crazy Show с 9,4 миллиона подписчиков. Главные герои блога — Влад и его младший брат в своих видео постоянно пили кока-колу, ели чипсы и фастфуд.
В 2018 году проблемы с детским контентом вышли на новый уровень. Родители пожаловались, что при автоматическом воспроизведении видео детям показывают не только их любимые мультфильмы, но и фейковые. Персонажи в этих мультиках были похожи на настоящие, а вот сюжеты включали сцены насилия и жестокости. Например, принцессе Эльзе из Frozen отрубали руку, а свинка Пепа появлялась с гигантским шприцем. В эти видео также интегрировалась реклама. Скандал спровоцировал проверки в Youtube и сделал внутренние правила видеохостинга еще жестче.
В бан попали больше пятидесяти детских каналов. С начала 2020 года в разделе Youtube Kids начали действовать новые запреты: там больше нельзя размещать таргетированную рекламу, отключены комментарии, чаты и уведомления.
От волонтеров до нейросети: кто решает, что блокировать?
Сначала модерацией занимались только люди, а по мере развития технологий на подмогу пришел искусственный интеллект:
- Первые модераторы появились во «ВКонтакте» в 2009 году. Это были волонтеры, которые в основном отслеживали спам. Год спустя соцсеть запустила скрипт по очистке контента, автоматически удалявший посты, темы обсуждений, аудио и фотографии. Позже появились модераторы, отвечающие за обработку жалоб на порнографию, оскорбительное поведение и шок-контент. Сейчас в отделе работают 107 человек, на рассмотрение одного вопроса уходит от нескольких секунд до 5–10 минут.
- За десять лет команда модераторов в Facebook выросла с двенадцати человек до 30 тысяч. Нейросети выявляют 100 % спама и 86 % постов, связанных с насилием, 38 % сообщений на темы ненависти и дискриминации (в основном на английском и португальском языках, так как объем текстов на них достаточен для распознавания). Модерация потенциально нарушающих правила постов может занять до суток.
- В Youtube сегодня работают 10 тысяч модераторов. Но даже такой штат не всегда справляется: журнал Wired в конце 2018 года обвинил платформу в непоследовательности действий: по мнению журналиста, сервису не хватает прозрачности в правилах.
- В открытых источниках не нашлось данных о том, насколько велика команда модераторов в Instagram. Однако известно, что для проверки используются алгоритмы Facebook DeepText и DeepFake, которые могут не только распознавать недопустимые слова и выражения, но и способны анализировать контекст.
- Чтобы проверять качество контента, Яндекс. Дзен использует человеко-машинный комплекс. Разработчики создают правила разметки для одного типа контента (например, кликбейтного), из размеченных материалов собирают датасет. Модераторы проверяют, насколько эта выборка релевантна, и дальше на ней обучаются нейросети, которые затем автоматически распознают разрешенный и запрещенный контент. Но регулируют контент не только модераторы и нейросети. Любой автор или посетитель может повлиять на информацию, которая публикуется на платформе, если решит, что материал фейковый или оскорбительный. Для этого под любой статьей есть механизм обратной связи.
Целомудренный Instagram: как соцсеть искореняет откровенный контент
Поскольку работа нейросетей пока несовершенна, а требования к контенту у модераторов могут отличаться, результат проверки бывает непредсказуем: даже безобидная информация может попасть под блокировку.
Видеограф Юлия Андреева оплатила продвижение ролика в Instagram о прогулке молодой пары. «Сам пост в ленте соцсеть не заблокировала, — рассказывает Юлия. — А вот промо не одобрили». По мнению администраторов, пост был сексуального характера или с эротическим подтекстом. Блогер с этим не согласна: молодые люди на видео просто держались за руку и целовались. Переписка с администраторами ситуацию не изменила: они настаивали, что правила были нарушены.
Алексей Ткачук, автор блога о продвижении в Instagram:
«Любая платформа, работающая на UGC, сталкивается с тем, что люди публикуют разный, в том числе неприемлемый, контент. Соцсети сегодня становятся мультикультурным международным пространством, где у каждого пользователя есть свое понимание допустимого. Администрации приходится лавировать между ними».
Чтобы ограждать от негативного контента миллионы людей, модераторам приходится изучать его самим. Постоянный просмотр среди прочего убийств, сцен насилия приводит к тому, что сотрудники отделов модерации получают психологические травмы. Vice в своем материале о модераторах Facebook назвал их работу невыполнимой.
Блокировка за бренд: как блогеры столкнулись с запретами
Правила создания контента блогов в первую очередь регулируются законодательством. Один из самых часто нарушаемых законов — закон об авторском праве.
Пётр Печеницын, администратор сообщества «Яблочный Иркутск»:
«Наша страница посвящена купле-продаже техники Apple. В прошлом году ее заблокировали. В итоге по требованию Apple пришлось сменить название, описание и даже URL-сообщества, убрав упоминание компании.
Разблокировка заняла меньше недели. За это время мы потеряли около 200 подписчиков. Работу паблика удалось восстановить только потому, что мы не занимались продажей товаров Apple: мне известны несколько случаев, когда страницы продавцов китайских товаров с логотипами известных брендов закрывали навсегда».
Кроме юридических требований к контенту есть и условия самих платформ:
У каждой площадки есть своя специфика. Например, Instagram советует добавлять к посту предупреждение об изображении насилия, если он публикуется, чтобы привлечь внимание к проблеме. Facebook утверждает, что разрешает публикацию фотографий картин, скульптур с обнаженной натурой, но в реальности авторы сталкиваются с запретами.
Зарина Асфари, искусствовед, автор блога в Яндекс.Дзене:
«Однажды у меня провалилась лекция „От сосуда греха к сексуальной революции. Многовековая история ню“ об образе женского тела в искусстве. Фейсбук не блокировал пост с анонсом, но и не позволил продвигать его рекламой, а также пессимизировал в выдаче. В итоге получилось, что про лекцию почти никто не узнал».
Соцсети также не допускают плагиат. Подробнее о том, как использовать чужой контент без нарушений правил и законов, можно почитать в нашей статье.
В Яндекс.Дзене не поощряют кликбейтные материалы, которые обманывают ожидания читателей (таким статьям ограничивают показы, и их видят только подписчики блога). Кроме того, на платформе запрещены посты рекламного характера о медицинских препаратах и услугах. Свои правила есть и для постов с упоминанием алкоголя и табака (Дзен рекомендует добавлять в настройках такого поста специальную пометку).
Как избежать блокировок: советы блогеров
Зарина Асфари: Не испытывайте судьбу и не тратьте время и нервы, размещая в соцсетях материалы, которые могут вызвать подозрения (например, с изображением обнаженного тела). Чтобы повысить органический охват «спорных» постов, делайте ставку на общение с подписчиками в комментариях. Не рассчитывайте на одну площадку для продвижения, подключайте и другие соцсети.
Юлия Андреева: Вкладываясь в рекламу поста, еще раз изучите правила платформы, чтобы вопросов к контенту не возникало. В случае запрета на промо деньги, скорее всего, вернуть не удастся.
Петр Печеницын: Помните об авторских правах на контент, созданный не вами, а также об использовании зарегистрированных товарных знаков. В большинстве случаев таких нарушений социальные сети не прощают.
Резюме
- Правила и запреты в соцсетях возникли из-за необходимости саморегуляции блог-площадок с миллионами пользователей.
- Часть правил появилась из-за жалоб пользователей на неприемлемый контент, а не по инициативе создателей соцсетей.
- У каждой соцсети были свои поворотные события, после которых они ужесточали свои правила. Например, у Facebook — волнения в Иране и флешмоб против насилия, у Youtube — публикация детского «треш»-контента, у VK — вступление в силу «антипиратского» закона.
- Правила соцсетей меняются часто — из-за появления новых уязвимостей и попыток пользователей обойти существующие запреты. Любому блогеру нужно отслеживать эти изменения, чтобы не столкнуться с блокировками.
Подготовила Юлия Иванова