Дипфейк относительно новая технология. Она представляет собой метод создания поддельного цифрового медиаконтента (видео, изображение или аудио) с помощью нейронных сетей и алгоритмов глубокого обучения.
Нейронная сеть - это математическая модель, построенная по принципам живого нейрона. Для создания дипфейка используются методы генеративно-состязательной сети (сокращенно GAN) - состоит из двух частей - генератора и дискриминатора. Обе из них представляют собой отдельные глубокие нейронные сети, конкурирующие друг с другом (отсюда состязательная в GAN).
Чтобы понять, что делает каждая сеть, давайте начнем с простой аналогии.
Допустим вы желаете купить оригинал картины Тайная вечеря Леонародо Дай Винчи. А мастер по подделке пытается воспроизвести её чтобы продать вам. Но чтобы этого не случилось, вы нанимаете эксперта, который должен провести проверку подлинности.
Фальсификатор пытается продать вам подделку, но ваш эксперт быстро обнаруживает подвох. Теперь фальсификатор должен улучшить качество копии. И каждый раз мастер по подделке становится все лучше и лучше, и ваш эксперт каждый раз всё лучше и лучше распознает подделку.
Теоретически это может продолжаться бесконечно. Фальсификатор станет в конце концов настолько хорош что эксперт однаждый может предположить что подделка и есть оригинал.
Генеративная состязательная сеть работает примерно по такому же принципу. этом случае фальсификатор будет генератором, а эксперт - дискриминатором.
В чем опасность?
Эта технология позволяет легко манипулировать медиаконтентом. Например, есть прогремевшее на весь интернет видео, где Барак Обама критикует Трампа, называя его полным провалом.
Также есть видео где Илон Маск представлен в образе советского исполнителя и поёт песню трава у дома. В США дипфейки считают угрозой национальной безопасности.
ИТ-компании разрабатывают "анти-дипфейки". Конечно в руках злоумышленника дипфейки представляют серьезную угрозу.
А ещё дипфейки могут легко раздевать людей, знаменитостей. Внизу пример
К примеру, дипфейк-порнография появилась в Интернете в 2017 году, в частности на , и была запрещена многими сайтами, включая сам Reddit, Twitter и Pornhub. Технология дипфейк также может быть использована для создания поддельных новостей и вредоносных обманов.
Полезное применение
Технологию, которая лежит в основе дипфейков можно использовать в рекламе и кино или при реконструкции исторических событий.
Музей Сальвадора Дали во Флориде "оживил" великого художника с помощью той же технологии. В результате зрители смогли даже пообщаться с Дали, послушать его рассказы и сделать селфи. Для этого потребовалось 6000 фотографий Дали и 1000 часов обучения и 145 видео с актерами похожими на Дали, а также целая куча интервью и писем художника.
Алгроритм GAN используется при съёмке космических объектов для устранениях помех и шумов.
Дипфейк - технология одновременно опасная и полезная, как думаете, как она будет развиваться дальше и нужна ли она вообще?