В журнале Management Information Systems Quarterly (MISQ) вышла научная статья под названием «Эффект дезинформации: как боты привлекают внимание пользователей к фейковым новостям» (перевод) (авторы: Ли, С.; Шин, Д.; Квон, К. Х.; Хан, С. П.; и Ли, С. К., 2024). В ней подробно рассматривается влияние фейковых аккаунтов (ботов) на поведение пользователей в социальных сетях, их поисковые запросы и восприятие политических новостей.
Основные выводы статьи
Статья подтверждает очевидное для многих: операции, связанные с использованием ботов, не только увеличивают интерес аудитории к определённым темам (например, политическим новостям), но и влияют на популярность отдельных ключевых слов.
Как боты управляют вниманием
Использование фейковых аккаунтов для создания видимости общественного интереса не ново. Ещё в пьесе Шекспира «Юлий Цезарь» упоминаются письма, якобы отправленные народом, чтобы убедить Брута убить Цезаря. В политике это давно известно как астротёрфинг — создание фальшивых кампаний, имитирующих поддержку от имени «простых людей». Сегодня такие технологии вышли на новый уровень благодаря развитию интернета и социальных сетей.
Сейчас с помощью фейковых аккаунтов можно не только «накручивать» лайки или просмотры, но и участвовать в реальных обсуждениях, создавая темы для разговоров. Ситуация усугубляется появлением генеративного ИИ, который делает ботов более реалистичными и труднее обнаруживаемыми.
Влияние ботов на распространение дезинформации
В 2018 году в журнале Nature была опубликована статья «Распространение недостоверного контента через социальных ботов» (перевод). Она проанализировала 14 миллионов сообщений в Twitter и показала, что боты играют ключевую роль в распространении недостоверной информации. В первые минуты после публикации боты активно распространяли такие материалы, нацеливаясь на пользователей с большим числом подписчиков, что помогало информации быстро стать вирусной.
Почему бороться с ботами сложно?
Борьба с такими действиями крайне сложна. В мире существуют целые «фермы» ботов, особенно в странах с низкими затратами на рабочую силу. Эти фермы ежедневно генерируют фальшивую активность для заказчиков и постоянно совершенствуют свои методы, чтобы оставаться незамеченными. Раньше боты массово следовали за пользователями, чтобы увеличить их популярность, а теперь создаются аккаунты с фотографиями, сгенерированными искусственным интеллектом. Они даже могут вступать в дискуссии, практически проходя тест Тьюринга.
Как остановить рост дезинформации?
Для социальных сетей важно контролировать фальшивую активность. Это не означает, что нужно жертвовать анонимностью или конфиденциальностью. Боты оставляют за собой идентифицируемые шаблоны, которые можно выявить. Всё зависит от желания администраций социальных сетей бороться с такой активностью, а не просто наращивать количество пользователей.
Очевидно, что боты всё чаще используются в политике и других сферах. Необходимо остановить их до того, как они нанесут ещё больший вред. Дезинформация становится всё более опасной и охватывает все слои общества. Мы можем и должны с этим бороться.
Как вы считаете, какие меры могут принять социальные сети для борьбы с ботами и дезинформацией? Поделитесь своим мнением в комментариях и не забудьте подписаться, чтобы не пропустить новые материалы!