Deepfake (термин получился в результате слияния понятий deep learning – «глубокое обучение» и fake – «подделка») – короткие ролики, в которых пользователи могут заменять лица актеров, редактировать их речь и проводить другие манипуляции с контентом.
Общественный резонанс вокруг технологии впервые возник после выхода на массовый рынок бесплатных Deepfake-приложений.
Летом 2019 была опубликована целая серия Deepfake с участием основателя Facebook Марка Цукерберга, американской звезды Ким Кардашьян, актера Моргана Фримана и президента США Дональда Трампа.
Оказалось, как сообщает в своем материале ipquorum.ru , что опубликованные Deepfake-видео – часть художественного проекта Spectre, призванного привлечь внимание публики к опасностям цифровой пропаганды.
«Тот, кто контролирует данные, контролирует будущее», - заключает Марк Цукербер и признается хищении персональных данных миллиардов людей. Этот вирусный ролик создан с помощью технологии DeepFake.
Как объяснили создатели, текст озвучки подставлен в реальное выступление Цукерберга 2017г., при помощи технологии замещения диалога, разработанной стартапом из Тель-Авива Canny AI.
«При помощи Deepfake вы можете поменять свое лицо на лицо, скажем, Обамы, но все остальное останется вашим.
Video Dialogue Replacement (VDR) позволяет изменить только то, что вы говорите, при этом оригинальные голос и мимика не сохранятся.
Мы не считаем, что эта технология по своему существу опасна, скорее, наоборот. С ее помощью можно создать цифрового двойника – это пригодится как актерам для общения с поклонниками из разных стран, так и обычным людям, которые захотят оставить о себе «интерактивную» память», делится мнением сооснователь Canny AI Омера Бен-Ами.
Однако у экспертов технологии такого «замещения» вызывают опасения как с этической, так и с правовой точки зрения. Не решены вопросы распознавания «подделок», а масштабы использования бесплатных приложений могут привести к практически бесконтрольному созданию фейковых видеоматериалов, в том числе распространению поддельных новостей.
«Deepfake уже сейчас позволяет генерировать изображения практически фотореалистичного качества.
Примерно технология генеративно-состязательных сетей, лежащих в основе Deepfake, работает так:
есть генератор, создающий поддельные изображения, и дискриминатор, который пытается распознать настоящие и поддельные изображения.
Принципиально невозможно создать такую сеть, которая сможет стопроцентно распознавать подделки – вторая часть программы сразу же научится ее обманывать» , - пояснил ipquorum.ru член Российской и Европейской ассоциаций искусственного интеллекта, координатор академических программ департамента стратегических технологий Microsoft Дмитрий Сошников.
Есть вопросы и к регулированию контента, созданного при помощи искусственного интеллекта, хотя, как отмечают эксперты, согласно классическому подходу к интеллектуальной собственности, Deepfake – это переработка оригинального произведения с целью создания нового, производного произведения, а эти вопросы уже регулируется законами.
«На данном этапе развития технологии «фейковость» полученных видео очевидна. Но со временем такой контент будет становиться все более реалистичным, фрагменты будут удлиняться, а движения – усложняться.
Такие фейки можно будет использовать для нанесения репутационного ущерба, для вмешательства в выборы, управления поведением потребителей и даже для подделки улик в суде. И это только самые очевидные примеры из обычной жизни», – объяснил ipquorum.ru специалист в области искусственного интеллекта, адвокат крупной калифорнийской юридической фирмы Ervin Cohen & Jessup Джейсон Хаас.
Источник:
Пресс-служба Международного стратегического форума по интеллектуальной собственности IPQuorum 2019
публикация - Deepfake: как искусственный интеллект размывает границы между фейком и реальностью