Слово «дипфейк» произошло в результате соединения двух понятий – deep learning (глубинное обучение) и fake (подделка).
Так называют технологию создания видео с помощью ИИ. Речь идёт о контенте, смоделированном нейронными сетями в результате анализа множества фотографий, на которых, допустим, изображён человек в разных позах. Данная технология позволяет создавать движущиеся пейзажи, добавлять и убирать предметы, менять лица на видео и многое другое.
Дипфейки ведут свою историю с 2014 года: тогда Ян Гудфеллоу, студент Стэнфордского университета (США), создал генеративно-состязательные нейросети (GAN), позволяющие изготавливать реалистичные видео. Со временем появились ролики, посвящённые политикам, например, на одном из них человек, похожий на Барака Обаму, оскорблял человека, напоминавшего Дональда Трампа. Сейчас существуют приложения, позволяющие создавать видео, на которых люди со свойственными им мимикой и артикуляцией говорят на разных языках.
Дипфейк – одна из самых неоднозначных цифровых технологий последних лет. С одной стороны, технические инновации открывают перспективы для развития киноискусства и рекламы. К примеру, дипфейки позволяют уменьшить количество дублей, необходимых для создания фильмов. С помощью дипфейка можно будет завершить картины, съёмки которых были прерваны в связи с гибелью актёров, исполнявших главные роли. Кстати, уже есть примеры, когда компьютерные технологии позволяли вернуть на экран артистов, которые физически не могли сниматься: в фильме «Небесный капитан и мир будущего» (2004 год) появился Лоуренс Оливье, который умер в 1989 году.
Компания Bytedance предложила пользователям дипфейк-гифки. Здесь дипфейк-технологии используются в развлекательных целях и позволяют привлечь дополнительную аудиторию, повысив тем самым капитализацию компаний.
С другой стороны, известны случаи, когда технологию использовали для осуществления финансовых махинаций. Например, в 2019 году руководителю английской энергетической компании позвонил мошенник, успешно подделавший голос главы партнёрской компании, и попросил сделать срочный денежный перевод. Просьбу киберпреступника выполнили.
Очевидно, что для предотвращения подобных преступлений необходимы технологии, позволяющие отличить истинный аудио- и видеоконтент от подделки. Поэтому сейчас параллельно развиваются индустрии дипфейков и анализаторов, способных идентифицировать сгенерированную искусственно продукцию. Так, Facebook совместно с Microsoft, MIT и Калифорнийским университетом в Беркли объявил конкурс Deepfake Detection Challenge, предполагающий состязание в способах выявления фейкового контента. Основанная Марком Цукербергом компания заявила об инвестициях в борьбу с дипфейками суммой в 10 миллионов долларов.
Автор - вице-президент QBF Владимир Масленников