11,2 тыс подписчиков
Группа исследователей из OpenAI, Стэнфордского и Джорджтаунского университетов предупреждает, что большие языковые модели, подобные той, что используется в ChatGPT, могут использоваться в рамках кампаний по дезинформации, чтобы облегчить распространение пропаганды. Свободный доступ к искусственному интеллекту может привести к автоматизации массовых кампаний по дезинформации и пропаганде.
Учёные привели в пример исследователя, который натренировал языковую модель на наборе из 3,3 млн. тредов 4chan и использовал ее для генерации 30 000 постов на 4chan, большая часть которых была наполнена оскорбительными высказываниями и выражением ненависти. Способность одного человека создать такую масштабную онлайн-кампанию с использованием генеративного ИИ раскрывает потенциал для людей, которые могут легко проводить операции влияния без надежных ресурсов.
Вывод традиционен и нелеп: надо контролировать использование ИИ на уровне правительств. Как будто это не правительства вместе с корпорациями — самые главные заказчики дезинформации, пропаганды и лжи.
О дивный новый мир! Каждый день ты подтверждаешь правоту Карла Маркса. При капитализме, отмечал он, каждое новое изобретение используется не для освобождения человека, а для его порабощения.
1 минута
20 февраля 2023
114 читали