Расследование.
Часть 2.
Тепличные условия для ботов и троллей
Еще перед покупкой Twitter Маск называл «армии ботов» одной из самых больших проблем социальной сети. Он был готов «истребить ботов или умереть» и обещал «заверить всех настоящих пользователей».
Несмотря на все эти заявления, за год ботов на платформе стало только больше, утверждают ученые. Профессор Квинслендского университета Тимоти Грэхэм проанализировал почти миллион твитов в августе 2023 года и пришел к выводу, что фейковые аккаунты объединяются для распространения конспирологических теорий.
В частности, они рассуждали на тему, что Дональд Трамп на самом деле победил на выборах президента США в 2020 году, а также рассылали спам, продвигали контент СМИ, распространяющих фейковые новости и поддерживающих Трампа.
Модерация Twitter при этом никак не останавливала эти потоки дезинформации и манипуляций, отмечает исследователь. Более того, в феврале 2024 года во время Супербоула — финальной игры за звание чемпиона Национальной футбольной лиги (самого «лакомого» для рекламодателей времени) — соцсеть буквально наполнилась ботами.
К такому выводу пришли исследователи компании CHEQ, занимающейся кибербезопасностью. По их данным, три четверти рекламного трафика во время футбольного матча, были фейковыми.
Перед прочтением статьи, пожалуйста, подпишитесь на канал "Жизнь Дурова: ЗОЖ, деньги, ИТ"
«Я никогда не видел даже такого, чтобы половина трафика [была поддельной], не то что 76%. Я в шоке, я никогда в жизни не видел ничего даже близко подобного», — отметил в разговоре с Mashable основатель CHEQ Гай Тытунович.
Несмотря на все заверения, за год владения Маском сетью Twitter ботов стало только больше
Такой же точки зрения придерживаются другие опрошенные эксперты.
Американская компания Recorded Future, занимающаяся кибербезопасностью и исследованием сетевых угроз, мониторит ботов и выявляет связанные фейковые аккаунты в разных соцсетях. По словам аналитика компании Александера Лесли, в основном аккаунты ботов, или, как их называют специалисты, «аккаунты с неаутентичным поведением», публикуют политические сообщения.
Такие же сообщения в Twitter наряду с другими социальными сетями мониторит проект «Блокировщик Ботов / antibot4navalny». Подобные публикации быстро исчезают, но аналитики проекта архивируют их. Так, в ноябре 2023 года они зафиксировали массовые рассылки картинок с фейковыми требованиями прекратить помощь Укpaине, приписываемыми знаменитостям.
Примеры фейковых цитат знаменитостей, обнаруженных проектом antibot4navalny.
Рассылали сообщения те же аккаунты, которые ранее распространяли посты прокремлевской сети ботов Doppelgänger/RRN. За спам-атакой стоят находящиеся под европейскими санкциями IT-компании «Национальные технологии» и «Агентство социального проектирования» (АСП), однако Twitter позволяет таким аккаунтам существовать и продолжать спонсированную Кремлем кампанию по дезинформации.
По данным Der Spiegel, свое расследование о пророссийских ботах ведет МИД Германии. По предварительным результатам, в кампании только за месяц, с 20 декабря 2023 года, участвовали 50 тысяч неаутентичных аккаунтов, которые в некоторые дни публиковали по 200 тысяч сообщений. Они призывали прекратить программы поддержки Укpaины.
Аналитик International Crisis Group Алессандро Аккорси отмечает, что за несколько месяцев увольнения ответственных за модерацию и безопасность сотрудников изменения в политике конфиденциальности привели к стремительному ухудшению платформы.
С этим согласен и журналист издания ProPublica Крейг Сильверман, который более десяти лет исследует распространение дезинформации и манипулятивного контента в интернете. Исследователь теорий заговора Майк Ротшильд отмечает, что проблемы с ботами и модерацией были и раньше, но стали заметно острее за последний год.
«Очевидно, что нет защитных механизмов, которые бы оберегали от создания фейковых аккаунтов и использования их для стимулирования внимания пользователей.
До того, как Twitter стал владеть Маск, платформа хотя бы пыталась что-то с этим делать».
Евросоюз решил впервые применить к Twitter Закон о цифровых услугах, регулирующий распространение незаконного контента, навязчивой рекламы и дезинформации. Это связано с огромным количеством фейков на платформе.
«Началось расследование, комиссия теперь будет изучать системы и политики X в отношении предполагаемых нарушений. Но итог этого расследования далеко не предрешен», — пояснил представитель Еврокомиссии Йоханнес Барке.
Незадолго до этого Еврокомиссия исследовала посты в крупнейших соцсетях на предмет доли сообщений, содержащих дезинформацию, и обнаружила, что в Twitter эта доля была самой большой. Если по результату расследования платформа не изменит политики, чтобы соответствовать европейскому закону, теоретически ей грозит штраф до 6% годового дохода или даже блокировка на территории всего ЕС. Однако какие на практике будут предприняты меры, непонятно.
«Сроков расследования нет, могут собирать информацию долго и в зависимости от исхода расследования могут ввести санкции в форме штрафа или ограничений. Видимо, на примере этого кейса будут вырабатывать практику».
Неудобная правда
Один из введенных в последние месяцы способов борьбы с фейками в Twitter — так называемые примечания сообщества (Community Notes). Под постами, содержащими недостоверную или манипулятивную информацию вступившие в программу примечаний пользователи могут добавлять информацию, которая помогает понять их корректно.
Другие пользователи могут голосовать за примечания, таким образом коллективно утверждать или отвергать их. Твиты, к которым были добавлены заметки сообщества, также лишаются монетизации — по задумке, это должно отвадить от публикации фейков те аккаунты, которые надеются на получение прибыли с платформы.
Твит: «Палестинский мальчик делится хлебом с собакой». Примечание сообщества: «Это котик».
Исходный код системы опубликован на Github, что дает возможность всем желающим удостовериться в ее надежности, но исследователи не считают принятые меры достаточными. «Компания перешла к модели модерации с использованием искусственного интеллекта и примечаний сообщества, одновременно уменьшая прозрачность и лишая внешних исследователей доступа к данным», — рассуждает Алессандро Аккорси.
Сейчас исследователи вынуждены платить Twitter за доступ к данным 5000 долларов и больше.
До Маска добыть такие данные любой исследователь мог бесплатно
Впрочем, возможно Маск уже начал сожалеть о своем нововведении. Например, в декабре владелец Twitter пытался привлечь внимание общественности к аресту Гонсало Лиры. В своем аккаунте Маск написал, что стало с «американским журналистом» Гонсало Лирой, намекая на ограничения свободы слова. К его сообщению добавили примечание о том, что Лира не журналист, а YouTube-блогер, который нарушал законы. В действительности Лира распространял пропаганду.
Маск отреагировал на примечание, обвинив его авторов в том, что за ними «стоит государство». Примечание под твитом Маска вскоре было удалено. Никаких подтверждений того, что системой могут манипулировать некие «связанные с государством силы», бизнесмен так и не предоставил.
Итак, независимым экспертам становится всё сложнее оценить объем дезинформации в соцсети, а системы модерации становятся менее прозрачными и эффективными. Это приводит к тому, что на платформе еще чаще публикуются фейки. Более того, за публикацию такого контента платформа еще и начисляет пользователям выплаты.
Пополнение счета: вам перевели 15 долларов
Хотя исследователи единогласно утверждают, что социальная сеть заполнена ботами, многие из которых имеют своей целью продвижение теорий заговора и ненавистнических политических взглядов, руководство Twitter так не считает.
Способом бороться с засильем ботов в соцсети должно было стать введение платной «галочки верификации». Раньше статус верифицированного пользователя получали либо знаменитости, либо люди на важных постах, а перед выдачей галочки необходимо было предоставить компании подтверждение того, что вы являетесь тем, за кого себя выдаете. С 2023 года единственный барьер верификации — ежемесячная плата за галочку. Этим активно пользуются боты и мошенники.
С июля 2023 года популярные пользователи, купившие галочку верификации, получают выплаты непосредственно от платформы. Размер выплат зависит от числа просмотров постов в аккаунте.
Таким образом, в погоне за выплатами некоторые пользователи стали публиковать всё более и более провокационный контент, в том числе и фейковую информацию. Способствовала распространению такой информации и начавшаяся после террористической атаки в Израиле война в секторе Газа.
Например, огромное количество фейков о ней опубликовал малайзийский блогер Иан Майлз Чонг, популярный у крайне правых американцев. Его аккаунт активно продвигает Twitter и сам Илон Маск. Это неудивительно, ведь, помимо фейков, Чонг постоянно публикует также высказывания против современного мироустройства, что вызывает восхищение у его консервативной публики.
Пакистанская TikTok-звезда Харим Шах, выдающая себя за журналистку из Лондона, врач из Дании Анастасия Мария Лупис, шоумен-предприниматель Марио Науфаль и многие другие аккаунты, поддерживающие в конфликте как Израиль, так и Палестину, опубликовали сотни фейков о военных действиях и высказываниях политиков.
Три четверти всех фейков о войне в cекторе Газа опубликовали верифицированные аккаунты с синей галочкой
Все эти аккаунты верифицированы, а значит, миллионы просмотров, которые они собирают, превращаются в сотни и тысячи долларов выплат. Кроме того, алгоритм соцсети продвигает твиты верифицированных аккаунтов, показывая их чаще и выше, чем посты тех, кто не купил галочку.
Всё это подрывает всякие усилия по борьбе с фейками на платформе, которые до сих пор являются главной проблемой платформы, утверждает исследователь Майк Ротшильд:
«Огромная проблем Twitter — монетизация ”голубых галочек”, учитывая, что теперь мошенники и конспирологи имеют дополнительный стимул в виде денег.
Теперь они прилагают еще больше усилий для распространения лжи и создания самых тяжело отличимых от истины фейков.
Многие аккаунты с ”голубой галочкой”, распространяющие конспирологические теории, очевидно связаны [c властью] напрямую».
Одним из первых крупную выплату получил — и сообщил об этом — американский блогер Брайан Крассенштейн. Известность он получил благодаря постоянному троллингу в адрес Дональда Трампа. Самого Крассенштейна Twitter забанил в 2019 году за организацию сети фейковых аккаунтов и накрутку лайков. Вернуться в соцсеть блогер смог только после «амнистии» Илона Маска.
Аккорси отмечает, что сложившаяся в последние месяцы система также подстрекает премиум-пользователей публиковать больше токсичного контента, так как с ним другие пользователи будут взаимодействовать чаще, что принесет им еще больше просмотров, а значит, и выплат.
«[Новая политика монетизации X] приводит к тому, что премиум-пользователи в погоне за взаимодействиями разжигают ненависть и распространяют дезинформацию», — указывает он.
Откуда берутся верифицированные боты
Хотя теперь и сложно разом зарегистрировать множество аккаунтов, это не мешает мошенникам и ботофермам пользоваться взломанными и давно заброшенными аккаунтами, купить которые можно на биржах в даркнете.
«Эти аккаунты с голубыми галочками просто взломанные. Как если бы они передали свой пароль, это не боты», — цитирует владельца одной из таких коммерческих ботоферм репортерша Fortune Кайли Робисон
Примерно с июня 2023 года ситуация с мошенниками в Twitter значительно ухудшилась, причина этого — изменение направленных на безопасность пользователей регулировок социальной сети
Тенденцию продажи взломанных аккаунтов наблюдает и Александер Лесли.
«Теперь рассылки фишинговых ссылок и дезинформации с помощью верифицированных аккаунтов сфокусированы на аккаунтах, которые уже купили ”голубую галочку”», — рассказал он . Мошенники, чтобы завладеть такими аккаунтами — и потом распространять через них вредоносный или манипулятивный контент — выманивают у верифицированных пользователей логины и пароли с помощью того же фишинга. Компания Recorded Future, которая исследует дарквеб, отмечает рост продажи подобных перехваченных аккаунтов на хакерских форумах.
«Накрутить» подписчиков, то есть создать видимость популярности аккаунта, тоже не является проблемой.
Сто тысяч фейковых подписчиков стоит меньше тысячи долларов на любой бирже по продаже подписок. Сама социальная сеть накрутки никак не ограничивает.
«На хакерских форумах вы видим предложение документов для процедуры верификации в Twitter — селфи, паспортов, водительских удостоверений. Обычно такие документы продаются для верификации в онлайн-банках или на криптобиржах, но теперь покупатели уточняют, что могут использовать их именно для регистрации в социальных сетях», — отмечает Лесли.
Использование украденных фотографий, банковских карт и документов для мошенничества в социальных сетях, по мнению аналитика, — новая тенденция последнего года.
Не только пропагандисты, но и мошенники
В декабре 2023 года — как раз после того, как крупнейшие рекламодатели покинули соцсеть — Twitter наполнился рекламными постами со ссылками на фишинговые сайты. Конечно, такие посты были в соцсети и раньше, однако в конце 2023 года их стали массово продвигать, отмечает Александер Лесли. Для пользователей из России, например, рекламные посты чаще всего показывали фотографии ведущей Ксении Бородиной с кликбейтными заголовками и ссылками, ведущими на сайты, крадущие данные. Даже спустя два месяца постоянных жалоб не все эти посты были удалены.
Примеры рекламных постов, которые показывал Twitter жителям России. Ссылки ведут на мошеннические сайты. Часть подобных постов была удалена после жалоб.
Рекламные посты с мошенническими ссылками почти всегда имеют галочку верификации. Это необходимо не только для иллюзии доверия у пользователей — такие аккаунты Twitter автоматически продвигает для большего числа пользователей. Чем больше аудитория у мошеннического поста, тем больше шанс, что на него кто-то кликнет и лишится аккаунта или денег.
Пример рекламы мошеннического сайта с верифицированного аккаунта
Мошенники не только напрямую рекламируют свои сервисы, но и сами выискивают уязвимых пользователей, которых можно развести. Чтобы показать это, в ноябре 2023 года Лесли опубликовал пост, в котором дважды указал, что это тестовая запись. В нём он перечислил подряд популярные в США и Европе сервисы для перевода денег и названия социальных сетей, добавив, что его «аккаунт был взломан».
Скриншот поста Александера Лесли, 16 ноября 2023 года
За 10 минут запись получила 14 ответов и 5 «скрытых» репостов — все они были с фейковых аккаунтов. Половина фейковых аккаунтов была верифицирована.
«Это впечатляющий результат», отмечает Лесли, команда которого проводила такие тесты и раньше. Однако если до этого такая «ловля на живца» хотя бы напоминала настоящие публикации — то есть выглядела так, как пост о взломе своего аккаунта написал бы живой человек — то в этом случае пост-наживка был заведомо абсурдным, чтобы показать, что взаимодействуют с ним только боты и никто другой.
Еще одно изменение политики Twitter, раскритикованное специалистами по информационной безопасности, — отказ от публикации заголовков в постах со ссылками. Это произошло в октябре 2023 года и, по мнению аналитиков, привело к росту числа мошеннических ссылок. Ссылки оказались спрятаны в пост так, что пользователи не всегда могли увидеть, есть ли ссылка. Из-за этого, кликнув по посту, чтобы рассмотреть картинку, люди сразу оказывались на мошеннических сайтах.
Один и тот же пост в аккаунте до и после отказа соцсети от заголовков. Приложенная к посту ссылка стала незаметна
«Как только убрали заголовки в постах со сторонними ссылками, мы немедленно увидели целые сети из ботов, распространяющих ссылки с вводящими в заблуждение подписями и ведущими на сайты стилерами», — отмечает Лесли. Стилеры — это вредоносные программы, которые собирают на компьютере жертвы логины, пароли и cookies. Затем эту информацию продают на черном рынке. Жертвы стилеров могут лишиться как своих аккаунтов, так и связанных с ними банковских счетов. Александер Лесли отмечает, что распространяли такие ссылки в основном верифицированные аккаунты.
«Фишинг [в Twitter/X] стал для хакеров намного проще.
Мы видели хакеров, которые притворялись аккаунтом Sky News. И сделать это им было очень легко, так как прикрепленную к посту ссылку попросту не видно. Человек случайно кликает по ссылке и попадает на фейковый сайт».
Фактически хакеры используют ту же методику атак, что и прокремлевские боты, которых находил проект «Блокировщик Ботов / antibot4navalny».
Какое будущее ждет Twitter
Соцсеть была и остается для многих людей источником новостей.
«Люди заходят в Twitter, чтобы узнать, #ЧтоПроисходит» — такой тезис когда-то был в самом верху портала для рекламодателей социальной сети. В 2023 году он поменялся, и теперь компаниям обещают доступ к «Глобальной городской площади», где люди обмениваются мнениями.
Такой площадью Twitter, впрочем, был почти всю свою историю. В Twitter происходила координация многих крупных протестов:
движения «За честные выборы» в России в 2011–2012 годах,
протестов против результатов выборов в Молдове в 2009 году,
революций в Тунисе и в Египте в 2011 году.
Одновременно Twitter, как и другие соцсети, был местом, где распространялось много дезинформации и процветали организованные с помощью ботов кампании.
Самая известная из них — кампания «пригожинских троллей», нацеленная на вмешательство в выборы 2016 года в США. Впрочем, как показало исследование 2023 года, эта кампания была довольно бессмысленной, так как нацелена она была на небольшую группу людей, которые и так проголосовали бы за Дональда Трампа.
С конца 2023 года Маск тестирует платные подписки для всех пользователей: оплата якобы должна подтвердить, что за ней стоит не бот. Но глава исследований интернет-компании F5 Networks Дэн Вудс считает, что это не решит проблему: и у мошенников, и у связанных с правительствами организаций достаточно ресурсов, чтобы закупить фейковые аккаунты
Сейчас распространение дезинформации в соцсети изучают уже чиновники Евросоюза. При этом для рядовых исследователей данные, на основании которых можно было бы делать выводы о массовой активности ботов в Twitter, стали почти недоступны: если раньше автоматический сбор данных был практически или полностью бесплатным, то теперь даже минимальный тариф обойдется ученым в 5000 долларов.
Это было одним из первых нововведений Илона Маска, который обосновал введение платы за автоматический сбор данных борьбой с ботами.
Как показывают исследования, пока ботов становилось только больше. Поэтому в конце 2023 года платформа начала тестировать платную подписку для всех пользователей — она будет стоить всего 1 доллар в год, что якобы должно подтвердить, что заплативший пользователь не является ботом. Однако глава исследований интернет-компании F5 Networks Дэн Вудс считает, что это не решит проблему: и у мошенников, и у связанных с правительствами организаций достаточно ресурсов, чтобы купить фейковые аккаунты, которые соцсеть будет считать аутентичными.
С конца 2023 года соцсеть наводнили неаутентичные аккаунты, которые генерируют посты с помощью лингвистических моделей типа ChatGPT. Их используют для продвижения аккаунтов за счет повышения вовлеченности аудитории. Обычные пользователи легко распознают такие аккаунты — они часто легко себя выдают.
Например, в феврале 2024 года миллионы просмотров стали набирать аккаунты, обсуждающие несуществующие фотографии или публикующие вместо ответов на посты автоматический ответ: «Я не могу сгенерировать ответ на этот запрос».
Кроме того, боты, подключенные к ChatGPT, генерируют и политические посты.
Это показали исследователи The Institute for Strategic Dialogue, который много лет исследует кампании по дезинформации в интернете. В декабре 2023 года ученые обнаружили сеть аккаунтов с критикой российской оппозиции. По мнению экспертов, их публикации были сгенерированы с помощью нейросетей.
Илон Маск, впрочем, обвиняет в распространении воук-вируса и сам ChatGPT. Но пока соцсети никак не препятствует ни регистрации, ни активности таких аккаунтов.
«Нынешний курс развития губителен для компании, — уверен Крейг Сильверман. — Политические взгляды Маска и разблокированных им пользователей отпугивают рекламодателей, а доход с пользователей, покупающих премиум, и близко не подходит к рекламным контрактам. <...>
Премиум-пользователи получают больше видимости, а протекционизм юзеров с правыми взглядами со стороны Маска, видимо, имеет некий политический аспект.
Это означает, что праворадикальный политический контент будет больше представлен на платформе. Это не очень хорошо для рекламных доходов. Компании не удалось привлечь значительное число обычных премиум-пользователей, и в то же время она потеряла огромное количество рекламных контрактов из-за своей хаотичной и политизированной специфики, а также из-за того, что нынешние премиум-пользователи публикуют очень много сомнительного контента, который получает внимание аудитории», — считает эксперт.
Избавившись от крупных рекламодателей, Маск также обвинил их в убийстве своей корпорации. Хотя миллиардер готов публично огрызаться на рекламодателей, одновременно он утверждает, что бойкот крупных бизнесов «убьет компанию». Вместо них X хочет привлечь множество мелких рекламодателей, повторив успех Facebook. Однако пока, по данным The Wall Street Journal, у платформы нет стабильного технического решения для такого вида сотрудничества. Впрочем, небольшие предприниматели активно продвигают свои сервисы на X — от уже описанных мошеннических и фишинговых сайтов, до магазинов, продающих фейковые сумки Louis Vuitton.
«Я, наверное, слишком много времени сижу в Twitter. Хорошее место, чтобы вырыть себе могилу. Как начнешь, так и продолжаешь копать и копать», — сказал Маск во время ужина с друзьями в апреле 2022 года. За пару дней до того миллиардер объявил, что присоединяется к совету директоров компании. Через несколько месяцев он купит платформу, разгонит совет директоров, амнистирует крайне правых инфлюенсеров и начнет свою борьбу с воук-вирусом — возможно, единственное из данных им перед покупкой соцсети обещаний, которое Илон Маск смог выполнить.
В тексте использованы цитаты из биографической книги Уолтера Айзексона «Илон Маск», опубликованной в сентябре 2023 года. Электронная копия книги размещена на портале Internet Archive. Илон Маск переименовал Twitter в X в июле 2023 года, однако для удобства в данном тексте социальная сеть почти везде упомянута как Twitter.
Подпишитесь на канал "Жизнь Дурова: ЗОЖ, деньги, ИТ"