Но похоже, что эта битва уже проиграна
Через несколько недель по проекту, финансируемому военными DARPA, ведущие мировые эксперты в области цифровой экспертизы соберутся на конкурс в области ИИ. Они будут конкурировать за создание с помощью ИИ наиболее убедительных поддельных видеороликов, изображений и аудио, а также попытаются разработать инструментарий, способный автоматически отлавливать и разоблачать такие подделки.
Подобные подделки, называемые «глубокие фейки» (deepfakes), стали «ядерным оружием» фейковых новостей. На этих видео-роликах с помощью глубокого обучения нейросетей, внешность и голоса знаменитостей наложены на тела актеров, которые творят и говорят всякое непотребство (не поленитесь пройтись по всем ссылкам этого поста, дабы прочувствовать глубину фейков).
Началось это, как положено, с порнографии. И если кто пропустил скандал с нейросетью, наученной «пририсовывать» лица знаменитостей порноактрисам, вот и вот резюме, а это видеообъяснение.
Со времен этого порноскандала ситуация сильно усугубилась. Теперь, с помощью генеративных состязательных сетей (GAN), научились
- не только изготавливать внешне не отличимые для зрителя «глубокие фейки»,
- но и изготавливать их таким образом, что подделку невозможно инструментально распознать.
Простота изготовления и невозможность распознавания подделок (только посмотрите, как они издеваются над Президентом Путиным) ставят шах и мат службам национальной безопасности даже таких стран, как США.
Битва «снарядов и брони» вышла на последний этап. Броня научиласьвыявлять подделки с вероятностью 75%, однако новое поколение снарядов пробивает эту броню с вероятностью 80%.
Большинство экспертов уверены, что без 100%ной мобилизации на решение этой задачи компаний Google и Facebook (а по-хорошему, и всех остальных грандов ИИ) эту задачу не решить.
Но это конец независимому от государства ИИ. А если по-честному, то и конец свободы слова.
И потому американские вояки хватаются за соломинку, делая одну из последних попыток решить проблему в ходе открытого мирового конкурса под эгидой DARPAвской программы Media Forensics (MediFor).
Шутки шутками, но вопрос, быть или не быть тотальной цензуре, может решиться в ближайшие несколько месяцев.
_________________________
Хотите читать подобные публикации? Подписывайтесь на мой канал вТелеграме, Medium, Яндекс-Дзене
Считаете, что это стоит прочесть и другим? Дайте им об этом знать, кликнув на иконку “понравилось”