В статье рассказывается о росте числа фейковых фанатских аккаунтов в Facebook, использующих изображения, сгенерированные ИИ, для распространения дезинформации о звёздах НФЛ. Один из таких фейков ложно сообщал о смерти репортёра.
Если вы давно не заходили в свой аккаунт на «Фейсбуке», не волнуйтесь: аккаунты со спамом по-прежнему процветают. Теперь в их арсенале — зловещий и всё более изощрённый ИИ-мусор, а в последнее время мишенью для них стали футбольные болельщики.
В «Фейсбуке» существует группа аккаунтов, которые утверждают, что являются фан-страницами различных команд Национальной футбольной лиги. Однако беглый просмотр этих страниц, каждая из которых имеет пару тысяч подписчиков, выявляет дезинформацию, сопровождаемую серией, по всей видимости, сгенерированных искусственным интеллектом фотографий. Судя по комментариям под этими снимками и количеству лайков, люди полностью верят тому, что публикуется.
«После того как его желание вернуться в „Стилерз“ не осуществилось, вместо того чтобы отреагировать гневом или негодованием, бывший игрок решил уйти в отставку и присоединиться к полицейскому департаменту Питтсбурга, чтобы „снова носить цвета Питтсбурга“», — утверждал на этой неделе в посте фан-аккаунт «Питтсбург Стилерз» с 11 тысячами подписчиков. В посте не упоминается имя так называемого игрока, но он сопровождается, по всей видимости, сгенерированным ИИ изображением бывшего ресивера Адама Тилена в полицейской форме. Тилен недавно объявил о завершении карьеры и в конце прошлого года недолго играл за «Стилерз». Он не делился планами пополнить ряды правоохранительных органов Питтсбурга.
Другой подобный аккаунт — фан-страница «Денвер Бронкос» под названием «Дикие конные воины» (Wild Horse Warriors) с более чем 6 тысячами подписчиков — нашёл жертву не среди игроков, а среди репортёра «Бронкос» Коди Роарка. В посте с ИИ-изображением Роарка, держащего ребёнка, утверждалось, что он скончался в результате инцидента, связанного с домашним насилием, оставив после себя 5-летнего ребёнка. Мало того что Роарк был жив и здоров, у него вообще нет детей.
«Обычно такое случается с очень известными знаменитостями», — рассказал Роарк изданию The Denver Post. «Для меня это было просто очень странно».
Аккаунт был создан лишь в ноябре и уже удалён компанией «Мета» после того, как The Denver Post обратилась за комментарием. За время своего двухмесячного существования аккаунт, по сообщениям, распространял множество ложных сведений об игроках «Бронкос», включая ложное утверждение о том, что ресивер Кортланд Саттон отказался надеть повязку в знак солидарности с ЛГБТК+ во время игры. Но хотя «Дикие конные воины» теперь в прошлом, аналогичные аккаунты продолжают множиться в «Фейсбуке». Один из таких аккаунтов, называющийся «Бронкос Штампед Крю» (Broncos Stampede Crew), выдвинул такое же обвинение относительно повязки ЛГБТК+ в адрес квотербека «Бронкос» Бо Никса. Телефонный номер, привязанный к этому аккаунту, по-видимому, зарегистрирован во Вьетнаме.
Что могут извлечь эти аккаунты из фейковых новостей о футболистах, сгенерированных ИИ? Хотя точный механизм работы этих конкретных аккаунтов неизвестен, схема, по-видимому, соответствует тому, что давно используется спам-аккаунтами в «Фейсбуке». Каждый пост этих фейковых фан-страниц содержит ссылку на статью с веб-сайта, который маскируется под авторитетную новостную организацию вроде «ESPNS» или «NCC News».
«Спам-страницы в значительной степени использовали внимание зрителей, чтобы перенаправить их на домены за пределами „Фейсбука“, вероятно, с целью получения дохода от рекламы», — писали исследователи Гарварда в исследовании 2024 года. Эти веб-сайты обычно представляют собой «домены с контентом, перегруженным рекламой, — некоторые из которых, по-видимому, состоят преимущественно из текста, составленного ИИ».
Другие страницы могут пытаться накопить аудиторию и завоевать благосклонность алгоритма, используя сначала эти фейковые кликбейтные новости, вызывающие шок, а затем полностью меняя назначение страницы.
«Возможно, это были вредоносные страницы, которые пытались набрать аудиторию, а затем переключились бы на продажу товаров, размещение ссылок на сайты с рекламой или даже смену тематики на нечто политическое», — рассказал исследователь из Джорджтауна Джош Голдстайн NPR в интервью 2024 года об ИИ-спам-аккаунтах в «Фейсбуке».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ece Yildirim