Как же бесят фейк-ньюс. Находишь интересный инфоповод, рассылаешь его друзьям, а потом оказывается, что это фальшивка. Желтая пресса никуда не делась, они лишь перекочевала со страниц дешевых газет в соцсети.
Чтобы как-то воспрепятствовать этому, исследователи из лаборатории Линкольна Массачусетского технологического института создали программу Reconnaissance of Influence Operations (RIO). Это система на основе искусственного интеллекта, распознающую фейковые новости в соцсетях.
Впервые использованная на выборах во Франции, нейросеть обнаружила распространяющие дезинформацию аккаунты с точностью 96%.
Ранее в этом году команда опубликовала статью о своей работе в Proceedings of the National Academy of Sciences, и прошлой осенью они получили награду R&D 100 .
Разработка RIO и первые испытания
Проект зародился в 2014 году, когда исследователи изучали, как злоумышленники могут использовать социальные сети. Они заметили повышенную и необычную активность в аккаунтах социальных сетей, продвигающих пророссийские идеи.
Первые испытания алгоритма прошли на выборах во Франции 2017 года. За 30 дней до выборов команда RIO собирала данные социальных сетей в режиме реального времени для поиска и анализа распространения дезинформации.
В общей сложности они собрали 28 миллионов постов в Twitter из 1 миллиона аккаунтов. Затем, используя систему RIO, они смогли обнаружить дезинформационные аккаунты с точностью 96%.
Чем так хорош RIO
Уникальность RIO заключается в том, что она сочетает в себе несколько методов аналитики для анализа механизмов распространения дезинформации.
Например, нейронка классифицирует фейковые аккаунты и изучает их поведение, определяя, взаимодействует ли учетная запись с иностранными СМИ и информацию на каких языках она распространяет.
Этот подход позволяет системе обнаруживать вредоносные аккаунты, которые активно участвуют в различных кампаниях, начиная от президентских выборов во Франции в 2017 году и заканчивая распространением дезинформации о Covid-19.
«Если вы пытаетесь ответить на вопрос, кто имеет влияние в социальной сети, обычно люди смотрят на счетчики активности. Например, в Twitter аналитики учитывают количество твитов и ретвитов мы обнаружили, что во многих случаях этого недостаточно. На самом деле это не говорит вам о влиянии учетных записей на социальную сеть» -
говорит Эдвард Као, член исследовательской группы лаборатории Линкольна Массачусетского технологического института.
Еще одной особенностью RIO является то, что она может обнаруживать и количественно оценивать влияние учетных записей, управляемых как ботами, так и людьми, в то время как большинство автоматизированных систем, используемых соцсетями, обнаруживает только ботов.
RIO также позволяет тем, кто использует систему, спрогнозировать, как различные контрмеры могут остановить распространение конкретной дезинформационной кампании.
Исследователи предполагают, что RIO будет использоваться как правительством, так и промышленностью, а также за пределами социальных сетей в сфере традиционных средств массовой информации, таких как газеты и телевидение.
В настоящее время они также разрабатывают новую нейросеть, направленную на изучение влияния дезинформации влияет на индивидуальные установки и поведение людей.
