Пресс-секретарь президента России Дмитрий Песков публично ужаснулся возможностям дипфейков: “Вот я стою, и вместо меня на компьютере можно вставить другую голову, другой голос. Если всё это оказывается в руках и головах других ребят, вы представляете, сколько они могут наделать вреда?”
Давайте разбираться, что это такое? Дипфейк - реалистичная подмена фото-, аудио- и видеоматериалов, созданная с помощью нейросетей.
Если вы уже вдоволь повеселились со специальными приложениями, в которых вместо лиц известных голливудских актеров и известных певцов можно вставлять на видео свои лица, то вы понимаете о чем речь. Согласитесь, это выглядит довольно реалистично.
А началось все в 2014 году с разработки студента Стэнфордского университета. Компьютерные алгоритмы научили «оживлять» фотографии, синтезировать голос человека, заменять лица на видео. В итоге появляется контент, внешне (почти) неотличимый от настоящего.
В 2017 году эта технология стала широко известной благодаря пользователю Reddit с ником deepfake, который начал с её помощью заменять лица порноактрис лицами знаменитостей.
Для создания дипфейков используют нейросети. Это алгоритмы на базе машинного обучения, которые генерируют новый контент на основе заданного набора. Например, сети изучают тысячу фотографий Анджелины Джоли и создают новую с чертами и мимикой актрисы. Или накладывают её лицо на видео с другой женщиной.
При этом один алгоритм создаёт видео, а второй пытается определить, настоящее оно или нет. Если второй алгоритм смог обнаружить фальшивку, первый начинает сначала, узнав от алгоритма-напарника о причинах отбраковки. Пара нейросетей действует снова и снова, пока не выдаст результат, который сочтёт достаточно реалистичным.
Технологию критикуют, из-за того что её можно использовать для мошенничества и манипуляций общественным мнением. Под удар уже попадали американские политики, например.
В начале 2020 года Facebook объявил об ужесточении борьбы с дипфейками, созданными для введения пользователей в заблуждение. А МВД России в мае 2021 года опубликовало тендер на разработку новой системы распознавания лиц. Программа «Зеркало» должна будет также выявлять дипфейки.