В конце августа в Китае появилось приложение Zao, наделавшее много шуму и сразу же ставшее самой скачиваемой бесплатной программой в китайском сегменте AppStore. С помощью Zao пользователи могут вставлять свое лицо в сцены из известных фильмов, видеоновостей, хроник и телешоу. Уже к началу сентября было сгенерировано больше дипфейк-видео, чем за всю историю интернета. Несмотря на то, что закачиваемым источником являются статические фотографии, видео от Zao получаются довольно реалистичными. Для создания множество дипфейков приложению достаточно единственной фотографии.
Однако на популярное приложение тут же обрушился шквал критики. И даже главный китайский мессенджер WeChat тут же заблокировал Zao. Сомнение вызвало пользовательское соглашение, которое позволяло Zao «бесплатно, безотзывно, бессрочно передавать и повторно лицензировать права» на весь пользовательский контент. В результате руководство Momo — корпорации онлайн-знакомств, которым принадлежало Zao, даже были вызваны в компетентные органы Китая. В тот же день хозяева Zao исправили свою ошибку.
Но это еще не все. Быстрый рост популярности Zao вызвал вопросы с другой стороны: а не смогут ли некоторые незаконопослушные граждане с помощью дипфейк-видео обходить платежные системы, работающие с технологией распознавания лиц? Alipay даже выпустила публичное заявление, в котором рассказала, что дипфейк-приложения не могут быть использованы для мошенничества.
По словам члена исполнительного комитета IEEE Asia Pacific Дун Цзина, проблема с мошенничеством на основе дипфейк-видео является надуманной. Использовать подобный контент для взлома платежных систем не удастся. Дун Цзин работает на совершенствованием программ, которые не позволят это сделать. Перед сканированием лица программа проводит тест, позволяющий определить, не сгенерирована ли информация искусственно. В Китае, где технологии распознавания лиц используются для оплаты повсеместно, особенно важно внедрить защитные фильтры, отсекающие мошенников.