Компания OpenAI, стоящая за популярным генеративным ИИ-решением ChatGPT, опубликовала отчет, в котором говорится, что в 2024 году она заблокировала более 20 операций и нечестных сетей по всему миру. Операции различались по цели, масштабу и направленности и использовались для создания вредоносного ПО и написания фальшивых аккаунтов в СМИ, поддельных биографий и статей на сайтах.
OpenAI подтверждает, что проанализировала пресеченную деятельность и представила основные выводы из проведенного анализа. «Угрожающие субъекты продолжают развиваться и экспериментировать с нашими моделями, но мы не видели доказательств того, что это привело к значительным прорывам в их способности создавать существенно новое вредоносное ПО или формировать вирусную аудиторию», - говорится в отчете.
Это особенно важно, учитывая, что сейчас в разных странах, включая США, Руанду, Индию и Европейский союз, идет год выборов. Например, в начале июля OpenAI заблокировала несколько учетных записей, создавших комментарии о выборах в Руанде, которые были опубликованы разными аккаунтами на сайте X (бывший Twitter). Поэтому приятно слышать, что OpenAI утверждает, что угрозы не смогли добиться больших успехов в этих кампаниях.
Получите Microsoft Office для Windows/Mac за 25 долларов
Еще одной победой OpenAI стало уничтожение китайского агента, известного под ником «SweetSpecter», который пытался совершить колючий фишинг корпоративных и личных адресов сотрудников OpenAI. Далее в отчете говорится, что в августе Microsoft раскрыла набор доменов, которые приписывают иранской тайной операции влияния, известной как «STORM-2035». «На основании их отчета мы провели расследование, пресекли и сообщили о связанных с этим действиях на ChatGPT».
OpenAI также утверждает, что посты в социальных сетях, созданные их моделями, не привлекли особого внимания, поскольку они получили мало или вообще не получили комментариев, лайков или акций. OpenAI гарантирует, что будет и дальше отслеживать, как субъекты угроз используют продвинутые модели во вредных целях, и планирует предпринять необходимые действия, чтобы остановить это.
Если вам понравилась эта статья, подпишитесь, чтобы не пропустить еще много полезных статей!
Вы также можете читать меня в:
- Telegram: https://t.me/gergenshin
- Яндекс Дзен: https://dzen.ru/gergen
- Официальный сайт: https://www-genshin.ru
