CNNНью-Йорк—
До того, как тогдашний президент Дональд Трамп был заблокирован в Twitter после беспорядков в Капитолии в январе прошлого года, среди некоторых сотрудников были дебаты о том, что делать с самым известным и противоречивым пользователем компании.
Согласно внутренним документам, некоторые сотрудники задались вопросом, действительно ли последние твиты Трампа на платформе нарушают политику компании. Другие спрашивали, можно ли считать твиты завуалированными (или “закодированными”) попытками обойти правила Twitter, и просили провести исследование, чтобы лучше понять, как пользователи могут их интерпретировать.
Дискуссия о высоких ставках среди нескольких сотрудников, в том числе нескольких топ-менеджеров, была раскрыта ранее на этой неделе в последнем выпуске “Файлов Twitter”, транша внутренних документов компании, предоставленных и опубликованных в твиттере несколькими журналистами, не связанными с крупными новостными организациями. организации. До сих пор выпуски были сосредоточены на некоторых из самых громких и противоречивых решений о модерации контента в социальных сетях.
Элон Маск говорит, что Трамп не нарушал правила Twitter. Правда сложнее
Отчеты Twitter Files, похоже, направлены на то, чтобы поставить под сомнение честность прежнего руководства Twitter и разозлить правых пользователей, за которыми все чаще ухаживает новый владелец Элон Маск.Например, в последнем выпуске, по-видимому, подразумевается, что руководители Twitter обошли правила платформы при принятии решения о запрете Трампа и вместо этого искали оправдание для поддержки партизанского решения, которое они уже приняли. Эта интерпретация, хотя и не полностью подтверждается документами, была поддержана Маском, который приветствовал и, по-видимому, санкционировал публикацию документов. Но за пределами основной базы Маска реакция на файлы Twitter, которые дают мало нового понимания политики и принятия решений компании, была в значительной степени приглушенной.
Уберите зрелище и партизанские разногласия, и то, что показывают файлы Twitter, - это то, что, возможно, гораздо менее взрывоопасно, но, тем не менее, должно заставить всех пользователей задуматься, независимо от того, где они находятся в политическом спектре. В отсутствие значимой координации или государственного надзора избранным нескольким мощным технологическим платформам приходится принимать невероятно эффективные и трудные решения по модерации контента - и, даже при наличии благих намерений, люди в этих компаниях часто сталкиваются с тем, насколько беспорядочным может быть этот процесс.
В моменты кризиса платформы, как правило, сами определяют, как взвешивать иногда конкурирующие приоритеты — защита слова против защиты пользователей - и часто под пристальным вниманием общественности и давлением, требующим действовать быстро. Эти компании разработали обширные рекомендации по платформе, создали советы по модерации контента, сотрудничали с проверяющими факты и вложили значительные средства в искусственный интеллект, но, в конце концов, это все еще может быть просто группа сотрудников, пытающихся разобраться в беспрецедентных решениях, например, запретить или не запретить действующему президенту США.
“Нет бесплатного решения”, - сказал Мэтт Перо, консультант по технической политике и профессор Школы информатики и библиотечного дела Университета Северной Каролины. “Проблема в том, что любое решение [компаний социальных сетей], включая решение не действовать, будет иметь последствия, и им нужно выяснить, какие последствия их устраивают … Я действительно думаю, что это намного сложнее, чем кажется большинству людей ”.
Процесс не обязательно всегда дает правильный результат. Бывший глава отдела доверия и безопасности Twitter Йоэль Рот признал, что компания, возможно, сделала неправильный выбор в отношении того, как справиться с историей New York Post 2020 года о ноутбуке Хантера Байдена. А основатель и бывший генеральный директор Twitter Джек Дорси повторил в онлайн-сообщении во вторник, что, по его мнению, компания действовала неправильно, удалив учетную запись Трампа.
“В то время мы поступили правильно для бизнеса публичных компаний, но неправильно для Интернета и общества", - написал Дорси, хотя добавил: "Я продолжаю верить, что не было злого умысла или скрытых намерений, и все действовали в соответствии с лучшей информацией, которая у нас была на тот момент".. Конечно, были допущены ошибки ”.
"Пытаюсь быть действительно вдумчивым и осторожным"
В файлах Twitter, опубликованных в понедельник журналистом Бари Вайсом, появились скриншоты, показывающие, как сотрудники Twitter обсуждают, как обращаться с твитами Трампа после атаки на Капитолий 6 января 2021 года, в качестве доказательства того, что руководство компании хотело обойти свои правила, чтобы запретить Трампа. Но скриншоты также могут быть истолкованы как показ группы сотрудников, бросающих вызов друг другу, чтобы найти наилучший возможный способ применения правил компании в критический момент, к которому никто не мог быть полностью подготовлен.
Процесс привлечения нескольких сотрудников и команд и принятия важных решений на основе исследований не противоречит тому, как Twitter и другие социальные платформы принимают решения о модерации контента, особенно в кризисных ситуациях.
“Вот как прошел весь процесс ... на самом деле в этом нет ничего необычного”, - сказал CNN один из бывших руководителей Twitter, отметив, что различные команды, участвующие в принятии решений о контенте, будут подталкивать друг друга к рассмотрению контекста и информации, о которых они, возможно, не подумали, когда работали над решением сложных проблем. “Я думаю, что эти разговоры выглядят так, как будто люди пытались быть действительно вдумчивыми и осторожными”, - сказал бывший исполнительный директор.
Илон Маск говорит, что Twitter запускает новую функцию, которая будет помечена как "запрет теней". Это сложно
Не только Twitter борется с жесткими решениями, в том числе вокруг Трампа. Meta также провела многомесячные переговоры со своей внутренней командой и советом по внешнему надзору по поводу собственного решения приостановить работу Трампа в Facebook и Instagram.
Файлы также указывают на несколько случаев, когда руководители Twitter меняли или рассматривали возможность изменения политики компании в качестве доказательства того, что у них были скрытые мотивы. Например, на следующий день после запрета Трампа появился скриншот сообщения Slack от неназванного сотрудника, в котором обсуждалось желание разобраться с медицинской дезинформацией и “добиться большей зрелости в том, как наша политика реализуется”. Но изучение возникающих проблем и рассмотрение вопроса о том, могут ли они потребовать новых или обновленных политик, похоже, является именно работой групп доверия и безопасности в социальных сетях.
Темы “Файлов Twitter”, похоже, были написаны “с очень четкой повесткой дня”, - сказал бывший исполнительный директор. “Похоже, они упустили ... то, сколько власти и влияния лежало на плечах очень небольшого числа людей”.
Даже Дорси в своем посте во вторник вечером призвал к радикальному пересмотру того, как работают социальные сети, что повлекло бы за собой лишение власти крупных платформ социальных сетей, включая ту, которую он соучредил. “Я вообще думаю, что компании стали слишком могущественными”, - сказал Дорси. Он добавил, что он настаивает на росте децентрализованных социальных сетей, которые не контролируются какой-либо корпорацией или отдельным лицом, и где пользователи могут выбирать свои собственные формы модерации контента.
Тем не менее, отчеты Twitter Files показывают, сколько сотрудников и команд компании были вовлечены в обсуждение сложных решений о контенте. По словам бывшего руководителя Twitter, это было сделано специально. "Процесс Twitter был разработан для того, чтобы убедиться, что решение не зависит только от одного человека", - сказали они. “Альтернатива заключается в том, что вы ждете, пока Джек Дорси не решит, что ему кто-то не нравится, и вы снимаете это”.
И, несмотря на часто обвиняемую риторику о людях, принимающих решения о контенте в компаниях социальных сетей, “люди, которые делают эту работу, вдумчивы, квалифицированы”, - сказал Перо. “Они глубоко связаны с технологией, продуктами, социальными последствиями своих продуктов”.
Процесс под руководством Маска теперь, похоже, сильно отличается - новый владелец Twitter уволил многих сотрудников, которые отвечали за безопасность на платформе, он использовал легко манипулируемые опросы Twitter для обоснования основных решений по содержанию, он покончил с советом внешних экспертов по доверию и безопасности Twitter ион основывает по крайней мере одно решение о том, кого допускать на платформу, на своих личных чувствах.
Трудно утверждать, что этот процесс тоже не беспорядочный.