По мере совершенствования технологий люди начинают использовать алгоритмы искусственного интеллекта для создания все более реалистичных фейков, распространяя дезинформацию в рамках военных и разведывательных операций.
Например, дипфейки способны реалистично накладывать чье-то лицо на тело другого человека. Они могут быть в виде изображений или видео и предназначены для того, чтобы заставить людей поверить, что кто-то сказал или сделал то, чего не было на самом деле.
Эта технология часто используется для создания фальшивых порнографических видеороликов со знаменитостями.
Дипфейки также используются для распространения дезинформации с целью разжигания политических конфликтов.
Команда компьютерных ученых из Северо-Западного университета ранее разработала алгоритм TREAD(Terrorism Reduction with Artificial Intelligence Deepfakes), демонстрирующий поддельное видео с участием мертвого террориста ИГИЛ Мохаммеда аль-Аднани.
В настоящее время дипфейки используются в моделях преобразования текста в изображение, которые генерируют поддельные изображения, описанные в тексте пользователем.
Они адаптируются и для подделки видео, создаваят все более реалистичный и убедительно выглядящий контент.
Многие используют эту технологию для проведения кампаний по дезинформации, распространяя фальшивых новостей, чтобы посеять смуту, распространить пропаганду и подорвать доверие в интернете.
Различные исследователи призывают к созданию глобального соглашения, регулирующего использование дипфейков.
Однако, добиться такого соглашения будет непросто, особенно со стороны государств, обладающих правом вето. Даже если такое соглашение будет достигнуто, некоторые страны, скорее всего, нарушат его. Для борьбы с дезинформацией недостаточно разработать технологии, способные выявлять фальшивки.
Результатом может стать игра в кошки-мышки, похожая на ту, что наблюдается с вредоносным ПО: когда фирмы по кибербезопасности обнаруживают новый вид вредоносного ПО и разрабатывают сигнатуры для его обнаружения, разработчики вредоносного ПО делают "твики", чтобы обойти детектор.