OpenAI обнаружила и пресекла информационные операции России и других стран, проводимые с целью воздействия на общественное мнение и политические процессы с помощью ее ИИ–технологий.
Мы закрыли аккаунты, связанные с тайными операциями влияния; никакого значительного увеличения аудитории за счет наших услуг.
OpenAI стремится обеспечивать соблюдение политик, предотвращающих злоупотребления, и повышать прозрачность контента, создаваемого ИИ. Это особенно верно в отношении обнаружения и пресечения тайных операций влияния (ОП), которые пытаются манипулировать общественным мнением или влиять на политические результаты без раскрытия истинной личности или намерений стоящих за ними субъектов.
За последние три месяца мы пресекли деятельность пяти тайных IO, которые пытались использовать наши модели для поддержки мошеннической деятельности в Интернете. По состоянию на май 2024 года эти кампании, похоже, не привели к существенному увеличению вовлеченности или охвата аудитории в результате наших услуг.
В этом блоге описаны субъекты угроз, которых мы пресекли, выявленные нами тенденции злоумышленников и важные оборонительные тенденции, в том числе то, как разработка моделей ИИ с учетом безопасности во многих случаях не позволяла субъектам угроз создавать желаемый контент, и как инструменты ИИ создали наши собственные расследования более эффективны. Наряду с этим блогом мы публикуем анализ тенденций, подробно описывающий поведение этих злоумышленников.
Злоумышленники действуют через Интернет. И мы тоже. Сотрудничая с промышленностью, гражданским обществом и правительством, мы занимаемся созданием, распространением и влиянием IO-контента. Наши расследования и сбои стали возможными отчасти потому, что на протяжении многих лет платформы распространения и сообщество разработчиков ПО с открытым исходным кодом представляли очень подробные отчеты об угрозах. OpenAI публикует эти результаты, как и другие технологические компании, чтобы способствовать обмену информацией и передовым опытом среди более широкого сообщества заинтересованных сторон.
Читать полный отчет.