Ранее в этом месяце Twitch объявил, что начнет банить пользователей за поведение вне своего сайта. Платформа потоковой передачи Amazon, включала в себя найм юридической фирмы для проведения расследований неправомерных действий пользователей, что является новым поворотом в последнем ярком примере того, как технологические компании действуют «вне службы». Как платформы применяют меры против действий, проводимых не только в их сервисах, но и на других сайтах, а также в автономном режиме, часто лишь расплывчато описывается в их правилах. Но по мере того, как законодатели и исследователи исследуют связь технологий с насилием или вредом в реальном мире, эта умеренность привлекает внимание. В то время как некоторые группы хвалят платформы за активную защиту пользователей, другие критикуют их за посягательство на гражданские свободы. «Это не модерация контента, это модерация поведения», - сказала Коринн МакШерри, юридический директор группы цифровых прав Electronic Frontier Foundation, которая сказала, что ее беспокоят платформы, которые не могут эффективно модерировать контент на своих сайтах, расширяя их охват. В ходе интервью руководители политик платформ рассказали, как они обрисовали разные линии в отношении действий вне службы, которые могут повлиять на их сайты, признав минное поле проблем. «Наша команда изучает в Интернете ряд различных платформ и каналов, где, как мы знаем, присутствуют наши создатели ... чтобы как можно лучше понять, чем они там занимаются», - сказал Лоран Креншоу, политик. посетите Patreon, сайт, где фанаты оплачивают подписку на контент создателей. Правила Facebook Inc запрещают пользователям, которых они считают опасными, включая тех, кто участвует в террористической деятельности, организованных ненавистнических или преступных группах, осужденных преступников на сексуальной почве и массовых убийцах. По словам пресс-секретаря, люди, убившие одного человека, в большинстве случаев допускаются к преступлению из-за масштабов преступления. В прошлом году Facebook расширил список, включив в него «военизированные социальные движения» и «сети заговоров, подстрекающих к насилию», такие как QAnon. Новые правила Twitch гласят, что они могут запрещать пользователей за «умышленное участие в сексуальных действиях без согласия» или действия, которые «прямо и явно поставят под угрозу физическую безопасность сообщества Twitch», категории, которые, по словам пресс-секретаря, были намеренно широкими. Изменение политики Twitch в значительной степени связано с моментов в игровой индустрии летом 2020 года, когда сайт подвергся преследованиям на реальных игровых мероприятиях и на таких сайтах, как Twitter и Discord, сказала главный операционный директор Сара Клеменс. Рейтер. По словам Дэйва Сифри, вице-президента Центра технологий и общества Антидиффамационной лиги, компаниям удалось избавиться от экстремистов и других лиц, которые «усвоили тонкости правил» в правилах сайтов, чтобы оставаться в сети. платформы для включения этого поведения в решения. Самоиздательский сайт Medium установил правила поведения вне службы в 2018 году, после того как стало известно, что участники митинга белых националистов в августе 2017 года в Шарлоттсвилле, которые не нарушали правила на определенных сайтах, оказались «плохими игроками в Интернете в целом», говорится в сообщении. Прошлым летом протесты против убийства Джорджа Флойда побудили публично поговорить о внеплатформенных правилах: генеральный директор Эван Шпигель объявил, что Snapchat не будет продвигать учетные записи людей, разжигающих расовое насилие, в том числе за пределами приложения. В декабре 2020 года TikTok обновил свои правила сообщества, заявив, что он будет использовать информацию, доступную на других сайтах и офлайн, при принятии решений, и это изменение, по словам пресс-секретаря, помогло ему действовать против групп ополченцев и воинствующих экстремистов. Примечательно, что в этом году такие сайты, как Facebook, Twitter и Twitch, приняли во внимание действия бывшего президента США Дональда Трампа вне службы, которые привели к тому, что его сторонники штурмовали Капитолий США 6 января, когда они его забанили. Технологические компании различаются подходами к внеплатформенному поведению, и то, как они применяют свои правила, может быть непрозрачным и непоследовательным, говорят исследователи и правозащитные группы. Twitter, сайт, на котором продолжают работать белые националисты, такие как Ричард Спенсер, фокусирует свои правила вне службы на насильственных организациях, сказал в интервью глобальный директор по стратегии и развитию государственной политики Ник Пиклз. Другие платформы описали конкретные действия, вызывающие тревогу: Pinterest придерживающийся жесткого подхода к дезинформации о здоровье, может удалить кого-то, кто распространяет ложные заявления за пределами платформы, заявила глава отдела политики Сара Бромма. Креншоу из Patreon сказал, что, хотя сайт подписки хотел поддержать реабилитированных преступников, он мог бы запретить или ввести ограничения в отношении осужденных за отмывание денег или растрат, использующих свою платформу для сбора денег. Сайты также расходятся во мнениях относительно того, следует ли банить пользователей исключительно за деятельность вне службы, или же контент на сайте должен быть связан с правонарушением. Заявляет, что требует, чтобы пользовательский контент был тесно связан с реальным преступлением, но это может