В Китае за небольшую плату можно синтезировать поддельное видео, на котором вы что-то делаете или говорите
Автор: Шон Лин
Вы когда-нибудь беспокоились о краже личных данных? Теперь существует «подмена лиц» — новейшая технология искусственного интеллекта, которая может доставить нам ещё больше неприятностей. В Китае за небольшую плату можно синтезировать поддельное видео, на котором вы что-то делаете или говорите.
Согласно сообщению шанхайского СМИ The Paper от 14 апреля, теперь на компьютере очень легко делать динамические видеоролики с человеческими лицами. В прошлом году в городе Хэфэй, провинция Аньхой, полиция обнаружила, что несколько человек смогли создать динамическое видео из статичных фотографий. Персонажи, созданные с помощью такого моделирования, не только кивают и двигают головой, но и делают такие движения, как подмигивание, открытие рта, нахмуривание и т. д. Эффект чрезвычайно реалистичен.
Китайская полиция обнаружила на компьютерах одной группы более десятка гигабайт данных о лицах, причем фотографии лиц и ID хранились в разных папках по разным категориям. Фотографии лицевой и обратной стороны удостоверения личности, фотографии людей, держащих удостоверения личности, автопортреты и т. д. называются «набор». Полный набор фотографий называется «материалы». Из-за легкости и простоты производства стоимость видеоролика составляет всего от 2 до 10 юаней (около $0,30-1,55).
Восемь человек, участвовавших в этом деле, не были высокообразованными, некоторые даже не закончили среднюю школу. Они загрузили программное обеспечение по учебникам в интернете и потратили месяцы на обучение.
Помимо получения чужих фотографий, есть люди, которые покупают чужие голоса и другие «материалы». Для синтеза поддельных аудио- и видеоматериалов требуется лишь небольшой образец, который можно сравнить с реальными изображениями и звуками.
Поэтому при наличии таких данных, как фотография человека и запись его голоса, видео и аудио этого человека можно сгенерировать на компьютере.
Чжу Цзюнь, директор Центра исследований фундаментальной теории Института искусственного интеллекта Университета Цинхуа, сказал, что быстрое развитие технологии глубокого синтеза привело к тому, что «видеть, больше не значит — верить».
На YouTube даже есть «учебник по изменению лица». Ведущий использует фотографию президента Джо Байдена и вставляет видео с китайской певицей. Всего за несколько минут можно создать видео, на котором президент Байден поет песни на китайском языке. Трудно определить подлинность даже по движению губ.
Научно-популярная статья в китайском Шанхайском музее науки и техники знакомит с особым методом изменения лица ИИ. В статье говорится, что помимо черт лица на нём будут отражаться такие факторы, как возраст, пол, характер и эмоции. Все эти факторы считаются параметрами в модели нейронной сети искусственного интеллекта. Компьютер получает эти параметры путём изучения и обобщения большого количества фотографий — этот процесс называется «обучением».
В статье говорится, что для того, чтобы фотографии или видео выглядели более реалистично, искусственное изменение лица обычно реализуется с помощью «генеративных адверсариальных сетей» (GAN) и обычно состоит из двух частей. Первая — генеративная модель (сокращенно G); вторая — дискриминативная модель (сокращенно D), которая различает лица, синтезированные генеративной моделью. Обе модели обучаются на большом количестве фотографий и пытаются соотноситься друг с другом. Когда дискриминантная модель уже не может определить подлинность, это означает, что обучение завершено. Когда генеративная модель обучена, можно вводить человеческое лицо, генерировать различные выражения лица и добавлять другие фотографии или видео, чтобы добиться абсолютной интеграции.
Изначально эта технология использовалась для постпродакшна кино- и телефильмов. Позже некоторые люди использовали эту технологию для розыгрышей, используя фотографии знаменитостей и политиков для «подмены лица» в видео, а также для синтеза речей, которых не было. Кроме того, некоторые порнографические сайты также подменяют лица знаменитостей на фото или видео, доставляя им массу неприятностей.
В Китае было обнаружено, что некоторые люди используют эту технологию для регистрации карт мобильных телефонов или обмана платежных систем с помощью поддельных удостоверений личности. Они делают это, чтобы обойти или противостоять широкомасштабной системе наблюдения китайских властей. В Китае регистрация реального имени требуется для покупки карты мобильного телефона, а аутентификация реального имени — для общения в Интернете или даже для покупки кухонного ножа. Таким образом, меняя лица, можно уклониться от надзора КПК.
Шон Лин — китайский эмигрант, живущий в Новой Зеландии. Он работает в The Epoch Times с 2009 года, уделяя особое внимание темам, связанным с Китаем.
Рубрика: Права человека
#права человека #нарушение прав человека #китай #слежка за пользователями #слежка в сети #нарушения прав человека в китае #искусственный интеллект
