108 подписчиков
В ответ на пост
Дегенеративный ИИ «наиболее эффективен для скрытого влияния в сочетании с людьми-операторами, курирующими/редактирующими их результаты»
В мае 2024 года OpenAI заявила, что пресекла пять тайных операций по влиянию злоумышленников
Эти субъекты использовали инструменты генеративного ИИ для манипулирования общественным мнением по чувствительным темам
Совсем недавно, 9 июля, западные спецслужбы сообщили об обнаружении почти тысячи тайных аккаунтов на X, использующих генеративный искусственный интеллект для сложной пропаганды, влияющей на геополитические нарративы
Генеративный ИИ может радикально изменить ландшафт операций влияния
Злоумышленники могут обойти модерацию контента и проверки безопасности, встроенные в коммерческие модели генеративного искусственного интеллекта, такие как те, которые публикуются Anthropic, Google и OpenAI
Представьте себе объем контента — изображений, видео, текста, аудио, GIF-файлов, подкастов, инфографики, электронных книг и т. д. — который каждую минуту каждого дня передается на несколько платформ
Некоторые из них, когда ими манипулируют, искусственно создают, усиливают и масштабно нацеливают на группу для психологической войны, сосредоточенной на расовой, гендерной, религиозной и политической идентичности, становятся операциями влияния
Эти операции носят многосторонний характер и могут быть обнаружены только постфактум
Контент, используемый для оказания влияния, может быть, а может и не быть, непосредственно вредным и, следовательно, часто может ускользнуть от проверки модерации контента
Приносит ли вред контент, созданный искусственным интеллектом на деликатные темы?
Действительно, проблема усугубляется тем, что большая часть этого контента является законной
Когда эти действия проводятся в больших масштабах, они становятся операциями влияния, направленными на изменение мнений и поведения целевой аудитории
1 минута
13 июля 2024