Благодаря искусственному интеллекту дипфейки в сети стали очень распространенными. И выгоду получают те, кто, пользуясь атмосферой лжи, оспаривают реальные факты. Программы защиты от дипфейков позволяют проверить видео- или аудиоматериалы, но ставят под сомнения и реальные доказательства.
По некоторым оценкам, количество дипфейков в сети удваивается каждые полгода. Создавать свидетельства о событиях, которые никогда не происходили, сегодня даже проще, чем реальные видео или аудио. Людям больше не нужны дорогостоящие и сложные технологии для создания синтетических медиа .
Дивиденды лжеца: как фальсификации меняют наше представление о доказательствах
Возможности ИИ привели к появлению феномена, получившего название «дивиденды лжеца», который описывает выгоду, получаемую теми, кто утверждает, что все является фальшивкой, даже объективные доказательства. Дивиденды лжеца выгодны тем, кто старается посеять скептическое отношение к доказательствам.
Этот термин впервые использовали профессора права Бобби Чесни и Даниэль Цитрон в 2018 году. Они описывали стратегию, направленную на то, чтобы поставить под сомнение объективные доказательства как поддельные или подвергшиеся обработке. В недавних исследованиях ученые обнаружили, что политики, использующие эту стратегию для оспаривания достоверных, но скандальных доказательств, имеют больше возможностей заручиться поддержкой, если речь идет о документах, а в случае с видео-свидетельствами эта стратегия работает не так эффективно.
Но ситуация может измениться по мере того, как общественность будет все больше узнавать о возможности манипулирования видеоматериалами, а сгенерированные видео станут более распространенными. А еще исследователи обнаружили, что извинения или игнорирование со стороны политика не столь эффективны, если он хочет получить общественную поддержку. Гораздо выгоднее заявить о том, что объективные доказательства просто являются подделкой.
Поскольку доказать подлинность видеоматериалов становится все труднее, дивиденды лжеца, скорее всего, будут продолжать приносить прибыль.
В судах адвокаты уже пытаются ставить под сомнение видео- или аудиодоказательства, которые могли бы быть сгенерированными. Так было, например, в деле, связанном с заявлениями Илона Маска, прозвучавшими в интервью 2016 года. Адвокаты компании Tesla пытались оспорить их, доказывая, что это дипфейк.
Позже судья назвал эту стратегию «вызывающей глубокую обеспокоенность», не одобрив попыток «спрятать правду за утверждениями о подделке и избежать ответственности за свои слова и действия». Вероятно, такой способ защиты будет применяться чаще, и, как следствие, суды и присяжные будут запрашивать больше доказательств подлинности или проверки экспертами тех или иных видео-, аудио- или цифровых материалов.
Технология новая, но борьба между теми, кто создает дезинформацию, и теми, кто пытается обнаружить ее с помощью проверки на подлинность, ведется давно. Сегодня сама технология искусственного интеллекта, создающая дипфейки, содержит решение для их обнаружения. Это создает напряженную ситуацию, которую уже называют «гонкой вооружений ИИ».
Разрушение доверия: как бороться с дивидендами лжеца
Одной из стратегий борьбы с дивидендами лжеца является дальнейшее инвестирование, стимулирование и разработка более надежных и недорогих технологий обнаружения дипфейков. Предыдущие исследования показали, что и люди, и сами модели ИИ не всегда могут точно определить дипфейк.
Однако люди и модели ИИ допускают разные типы ошибок. Это позволяет предположить, что совместная работа может стать полезным решением для проверки на подлинность. Но надо понимать, что это не остановит людей от попыток создать скептическое отношение к объективным доказательствам или самой технологии проверки.
Вторая стратегия — это сделать так, чтобы о дивидендах лжеца узнало как можно больше людей. Это принесет двойную пользу: поможет людям научиться определять достоверность утверждений, а также защитит потребителей от мошенников.
По мере того как грань между реальностью и обманом будет становиться все более размытой, будут меняться и требования к доказательствам правды. Остается надеяться, что мы сможем изменить свое восприятие и адаптируемся к этой новой неопределенности.