Найти в Дзене
Герман Геншин
19,7 тыс подписчиков

OpenAI использует собственные модели для борьбы с вмешательством в выборы

2
1 мин
Компания OpenAI, стоящая за популярным генеративным ИИ-решением ChatGPT, опубликовала отчет, в котором говорится, что в 2024 году она заблокировала более 20 операций и нечестных сетей по всему миру. Операции различались по цели, масштабу и направленности и использовались для создания вредоносного ПО и написания фальшивых аккаунтов в СМИ, поддельных биографий и статей на сайтах. OpenAI подтверждает, что проанализировала пресеченную деятельность и представила основные выводы из проведенного анализа. «Угрожающие субъекты продолжают развиваться и экспериментировать с нашими моделями, но мы не видели доказательств того, что это привело к значительным прорывам в их способности создавать существенно новое вредоносное ПО или формировать вирусную аудиторию», - говорится в отчете. Это особенно важно, учитывая, что сейчас в разных странах, включая США, Руанду, Индию и Европейский союз, идет год выборов. Например, в начале июля OpenAI заблокировала несколько учетных записей, создавших комментарии

-2

Компания OpenAI, стоящая за популярным генеративным ИИ-решением ChatGPT, опубликовала отчет, в котором говорится, что в 2024 году она заблокировала более 20 операций и нечестных сетей по всему миру. Операции различались по цели, масштабу и направленности и использовались для создания вредоносного ПО и написания фальшивых аккаунтов в СМИ, поддельных биографий и статей на сайтах.

OpenAI подтверждает, что проанализировала пресеченную деятельность и представила основные выводы из проведенного анализа. «Угрожающие субъекты продолжают развиваться и экспериментировать с нашими моделями, но мы не видели доказательств того, что это привело к значительным прорывам в их способности создавать существенно новое вредоносное ПО или формировать вирусную аудиторию», - говорится в отчете.

Это особенно важно, учитывая, что сейчас в разных странах, включая США, Руанду, Индию и Европейский союз, идет год выборов. Например, в начале июля OpenAI заблокировала несколько учетных записей, создавших комментарии о выборах в Руанде, которые были опубликованы разными аккаунтами на сайте X (бывший Twitter). Поэтому приятно слышать, что OpenAI утверждает, что угрозы не смогли добиться больших успехов в этих кампаниях.

Получите Microsoft Office для Windows/Mac за 25 долларов

Еще одной победой OpenAI стало уничтожение китайского агента, известного под ником «SweetSpecter», который пытался совершить колючий фишинг корпоративных и личных адресов сотрудников OpenAI. Далее в отчете говорится, что в августе Microsoft раскрыла набор доменов, которые приписывают иранской тайной операции влияния, известной как «STORM-2035». «На основании их отчета мы провели расследование, пресекли и сообщили о связанных с этим действиях на ChatGPT».

OpenAI также утверждает, что посты в социальных сетях, созданные их моделями, не привлекли особого внимания, поскольку они получили мало или вообще не получили комментариев, лайков или акций. OpenAI гарантирует, что будет и дальше отслеживать, как субъекты угроз используют продвинутые модели во вредных целях, и планирует предпринять необходимые действия, чтобы остановить это.

Если вам понравилась эта статья, подпишитесь, чтобы не пропустить еще много полезных статей!

Вы также можете читать меня в: