Обнаружена социальная бот-сеть на базе искусственного интеллекта
Обсерватория социальных медиа (OSoMe) выпустила отчет «Анатомия вредоносной социальной бот-сети на базе ИИ», в котором обнаружила наличие обширной сети ботов на базе ИИ в Twitter.
Основные выводы, сделанные в отчете, обобщают следующие данные:
1. Идентификация ИИ-ботов. Используя эвристические методы, исследователи OSoMe выявили кластер, состоящий из нескольких тысяч поддельных аккаунтов. В этих аккаунтах используется технология ChatGPT, позволяющая генерировать контент, практически неотличимый от созданного человеком.
2. Поведение и активность. Так называемые «социальные боты» демонстрируют устойчивые модели поведения и следуют единой вероятностной модели активности. Их координация позволяет им обрабатывать конкретные сайты и распространять комментарии, эффективно обходя существующие механизмы защиты от мошенничества.
С развитием больших языковых моделей (LLMs), таких как ChatGPT, появляется возможность появления на социальных платформах более сложных ИИ-коллабораций. Манипулятивность контента соцсетей таким образом поднимается на новый уровень.
Что такое боты: