OpenAI противодействует злоупотреблениям ИИ в информационных кампаниях
Компания OpenAI, известная своими разработками в области искусственного интеллекта, объявила в четверг о блокировке пяти тайных операций, направленных на манипулирование общественным мнением через Интернет. Эти кампании, исходившие из различных стран, включая Китай, Иран, Израиль и Россию, пытались использовать инструменты ИИ OpenAI для распространения дезинформации, скрывая при этом свою настоящую идентичность. | больше информации
Основные моменты:
- Две из заблокированных сетей были связаны с Россией, при этом одна из них, получившая название Bad Grammar, активно использовала аккаунты в Telegram для воздействия на аудиторию в Украине, Молдове, странах Балтии и США.
- Сеть Bad Grammar использовала модели OpenAI для автоматизации публикаций в Telegram и генерировала комментарии на русском и английском языках, создавая иллюзию мнений различных демографических групп.
- Вторая российская сеть, известная как Doppelganger или Recent Reliable News, ранее была под санкциями OFAC за кибервлияние. Она использовала модели OpenAI для создания комментариев и контента на нескольких языках, включая английский, французский, немецкий, итальянский и польский.
- Сеть Doppelganger также занималась переводом и редактированием статей, созданием заголовков и адаптацией контента для публикаций в социальных сетях.
OpenAI отмечает, что эти операции были частью широкомасштабных попыток влияния на события, связанные с конфликтами на Украине и в Газе, выборами в Индии и США, а также с европейской политикой. Исследователи компании в течение последних трех месяцев активно выявляли и пресекали попытки использования ИИ для создания коротких комментариев, длинных статей и фиктивных аккаунтов в социальных сетях.
Это открытие подчеркивает важность ответственного использования технологий искусственного интеллекта и необходимость постоянного мониторинга для предотвращения их злоупотреблений. OpenAI продолжает работу по обеспечению безопасности и надежности своих продуктов, стремясь предотвратить их использование в целях дезинформации и манипулирования общественным сознанием.
Источник: Официальный сайт OpenAI
→ Следите за последними событиями на sok.fm