Как создают дипфейки и чем опасна технология подделки лица и голоса

Нейросети научились копировать голос и лицо человека, а мошенники используют эту технологию для обмана и кражи денег. Как распознать подделку и защитить себя — в материале «РБК Инвестиций»

Что такое дипфейк

Дипфейк — поддельное видео, изображение или аудио, в котором с помощью специальных программ меняют лицо, голос или мимику человека, чтобы он выглядел так, как будто делает или говорит то, чего на самом деле не делал и не говорил.

В основе лежит метод генеративно-состязательной сети (GAN) — это комбинация работы двух программ: генератора, который создает подделку, и дискриминатора, который сравнивает контент и определяет, похож ли он на оригинал. Этот цикл повторяется множество раз, пока дискриминатор не перестанет видеть разницу — на выходе получается очень реалистичный фейк, рассказал «РБК Инвестициям» руководитель исследовательской группы Positive Technologies Федор Чунижеков.

Нравится РБК? Главные новости дня, эксклюзивы и аналитика ждут вас:
на радио
в подписке
в Max
в Telegram
в приложениях для Android или iOS

Такие подделки создают с помощью нейросетей, обучая искусственный интеллект на огромных наборах реальных изображений и звуков. Создание дипфейков не требует от пользователей каких-либо технических знаний, продолжил ведущий аналитик департамента защиты от цифровых рисков компании F6 Евгений Егоров.

«Достаточно загрузить исходное аудио, видео или картинку и указать, какие слова нужно озвучить голосом спикера или что нужно изменить на изображении. В результате получается довольно правдоподобный видеоролик, аудиосообщение или картинка, которые могут ввести людей в заблуждение, если не проверить достоверность контента», — пояснил Егоров.

Как применяют дипфейки

Эксперт Чунижеков перечислил основные схемы обмана с использованием дипфейков.

• Звонки или аудиосообщения от родственников, друзей или коллег: злоумышленники крадут образец голоса из соцсетей (например, из голосового сообщения) и генерируют фейковый звонок с просьбой сделать что-то (перевести деньги, оставить ключ и пр.)
• Видеозвонки (скам «кружочком»): преступники создают маску лица в реальном времени или в видеосообщении. Они могут выглядеть как знакомый вам человек и попросить сделать что-то через видеозвонок или видеосообщение.
• Шантаж и вымогательство: злоумышленники берут фото жертвы из открытых источников и монтируют лицо на компрометирующий личность контент. Затем требуют деньги, угрожая разослать «компромат» друзьям и родственникам.

По оценкам F6, одна из самых серьезных угроз 2026 года, связанная с дипфейками, — расширение сфер их применения, а также стремительное развитие известных угроз.

«Дипфейки становятся более совершенными и убедительными за счет развития ИИ-инструментов, библиотек и моделей, повышения их доступности, в том числе через телеграм-боты, а также широкого распространения данных пользователей на цифровых носителях различных организаций. Есть множество инструментов для создания видеодипфейков и аудиодипфейков, которыми можно пользоваться даже без глубоких технических знаний», — пояснил аналитик Егоров.

В компании F6 привели примеры мошеннических уловок с дипфейками.

• Видеодипфейки в интерактивном формате. Для рекламы криптоскама мошенники размещают на своих ресурсах дипфейки знаменитостей (например, президента США Дональда Трампа).
• Телефонные мошенники звонят жертвам через мессенджеры в режиме реального времени от имени сотрудников силовых структур и ведут живой разговор с жертвой в образе, созданном с помощью технологий видеодипфейка. Обычно используется в сложных многокомпонентных атаках.
• В схеме FakeBoss злоумышленники также активно используют дипфейк-технологии для записи «кружочков» в Telegram. Развитие технологий искусственного интеллекта позволяет киберпреступникам еще более качественно воспроизводить не только изображение человека, но и его речевые особенности из-за того, что образцы речи многих руководителей все чаще можно найти в открытых источниках.

Как распознать дипфейк

В компании F6 сообщили, что технологии создания дипфейков постоянно совершенствуются и обнаружить подделку невооруженным глазом (в случае с видеодипфейками) становится все сложнее.

В компании Positive Technologies рассказали, что дипфейк можно распознать по нескольким признакам.

1. Глаза и моргание. Нейросетям трудно дается живой взгляд. Если человек моргает слишком редко (или вообще не моргает) либо зрачки двигаются неестественно и не фокусируются на одном предмете, это повод насторожиться.
2. Кожа, границы лица и зубы. Присмотритесь к местам соединения шеи и головы, к линии роста волос, зубам — часто там бывает «замыленность», разный тон кожи лица и тела, нечеткая прорисовка зубов (зубы на фейках часто выглядят как сплошная белая полоса без промежутков). Идеально гладкая кожа без единой поры или родинки может быть признаком фейка.
3. Артефакты. Смотрите на очки и украшения: блики могут пропадать, а форма оправы — искажаться.
4. Звук и губы. В некачественных дипфейках артикуляция губ не совпадает со звуком, как в плохом дубляже.
5. Эмоции. Если человек говорит об эмоциональном событии, а лицо остается каменным или эмоции сменяются неестественно, то тоже стоит насторожиться.
6. Контекст. Если поведение или сообщение от человека нетипично для него, то стоит связаться с отправителем сообщения альтернативными способами (телефонным или видеозвонком, через третье лицо или лично).

Можно также попробовать использовать следующие методы, например попросить сделать неожиданное действие. ИИ позволяет злоумышленникам использовать маски во время звонка по видеосвязи, поэтому для проверки подлинности изображения собеседника попросите его быстро провести рукой перед лицом вправо-влево. Если при этом картинка начнет «сыпаться», возникнут искажения изображения в области лица собеседника, это признак возможного дипфейка, пояснил Егоров.

Кроме того, можно воспользоваться программами для анализа пикселей, цветов и внесенных изменений в подозрительном контенте или сервисом на базе ИИ для анализа изображений и видео на предмет выявления подделок.

По словам Егорова, инструменты ИИ для создания дипфейков постоянно совершенствуются, эти способы проверки не позволяют гарантировать 100%-ного распознавания: всегда стоит обращать внимание на контекст общения. «Если собеседник вас принуждает к любым действиям, связанным с раскрытием своих данных, финансовыми операциями, это вероятный признак мошенничества», — добавил он.

Если во время видеозвонка возникло хоть малейшее сомнение, прервите звонок — скажите, что связь плохая, и перезвоните сами на старый, проверенный номер человека. Мошенники не смогут подделать видео в звонке, инициатором которого стали вы, посоветовала эксперт проекта НИФИ Минфина России «Моифинансы.рф» Мария Иваткина.

Что делать, если ваше лицо использовали для дипфейка

Егоров рассказал, что нужно делать, если внешность человека использована для создания видеодипфейка. Такой человек может защитить свои права различными способами.

1. Сохранить доказательства: скачать видео, зафиксировать ссылки, сделать скриншоты и любые сообщения, которые помогут подтвердить, что образ человека был подделан без его согласия.
2. Обратиться к администрации платформы, на которой размещен дипфейк (это могут быть социальные сети или видеохостинг) для удаления дипфейка.
3. Обратиться в полицию и в суд с заявлением, если дипфейк был использован для совершения каких-либо преступлений, например распространения клеветы, шантажа или в других случаях.

«Предварительно желательно посетить нотариуса и получить нотариальный протокол осмотра сайта или раздела в приложении, где был опубликован дипфейк (в этом случае у вас будут доказательства, что дипфейк действительно был опубликован на определенную дату)», — посоветовал генеральный директор ООО «Афонин, Божор и партнеры» Михаил Божор.

Если дипфейк попал в результаты поисковой выдачи «Яндекс» и Google, можно обратиться к операторам поисковых систем с запросом об удалении таких результатов в рамках «права на забвение», — предложил Божор.

«Для того чтобы минимизировать использование вашего изображения и голоса для создания дипфейков, рекомендуем при возможности избегать публикации ваших фото, видео с вашим участием или аудио в открытых источниках, включая социальные сети», — посоветовал Егоров.

Как защититься от дипфейков

В компании F6 рассказали, как защититься от дипфейков.

1. Источник информации. Видеодипфейки обычно размещают в социальных сетях и мессенджерах. Источник должен быть доверенным и проверенным, хотя злоумышленники могут использовать для публикации отдельных видеодипфейков взломанные аккаунты или закупать рекламу в каналах и сообществах.
2. Содержание видео. Если в ролике выдается информация, которая вызывает сильные эмоции, такие как страх, гнев, тревога и другие, это признак возможной манипуляции. Если эта информация противоречит здравому смыслу, личному опыту пользователя, законам и общепринятым нормам морали, это повод перепроверить информацию в других источниках, в первую очередь официальных.
3. Видеофрагмент, в котором озвучивается информация. Если видео с изображением спикера проигрывается лишь несколько секунд, а затем оставшаяся часть его речи закрывается картинками, это может быть признаком дипфейка. На это же могут указывать размытое или нечеткое изображение спикера, «рассинхрон» — отставание мимики от речи. Пока что злоумышленники прячут огрехи, возникающие при генерации дипфейков, занижая качество видео, а также используя короткие фрагменты всего в несколько секунд. Но повышение качества дипфейков и их длительности лишь вопрос времени.

По словам Иваткиной, эффективный способ защиты — задать личный вопрос. Желательно, чтобы это было то, о чем не написано в соцсетях, — например, как зовут первую учительницу или любимую бабушку, какой фильм смотрели вчера. Живой человек ответит без заминки, а вот мошенников такой вопрос введет в ступор. «И самое главное — не реагируйте на срочность и давление. Мошенники всегда требуют быстрее-быстрее назвать код из СМС, перевести деньги, собрать и передать курьеру ценности. Первое, что нужно сделать, — это успокоиться и взять ситуацию под контроль», — добавила она.

Какое наказание грозит за использование дипфейков в мошеннических схемах

Дипфейк с юридической точки зрения — это объект авторского права, который содержит в себе изображение гражданина. На данный момент закон не регулирует, кому принадлежат авторские и исключительные (имущественные) права на такие объекты, пояснил генеральный директор
ООО «Афонин, Божор и партнеры» Михаил Божор.

«При этом уже есть российская судебная практика, которая наделяет правами на такой объект пользователя нейросети, то есть автора промпта. Так, в рамках дела № А40-200471/2023 Девятый арбитражный апелляционный суд признал объектом авторского права видеоролик с лицом Киану Ривза, созданный с помощью ИИ-технологий», — отметил Божор и добавил: суд указал, что «технология deepfake — это дополнительный инструмент обработки (технического монтажа) видеоматериалов, а не способ их создания», и удовлетворил иск о взыскании компенсации за нарушение прав на такой видеоролик.

Кроме того, если при создании дипфейка использовали определенную фотографию и это очевидно из содержания контента, то правообладатель фотографии может привлечь автора ИИ-контента к ответственности за незаконное использование произведения. «В этом случае правообладатель может рассчитывать на компенсацию в размере от ₽10 тыс. до ₽10 млн на основании ст. 1301 Гражданского кодекса России, а на практике — в среднем около ₽300–500 тыс.», — уточнил эксперт.

Изображение гражданина не только является объектом авторского права (как фотография), но и охраняется само по себе. Так, согласно ст. 152.1 Гражданского кодекса, использование изображения гражданина допускается только с его согласия, продолжил юрист Божор.

«Согласие не требуется, если гражданин позировал за плату, фотография используется в государственных или общественных интересах либо если изображение было получено на публичных мероприятиях (если при этом фокус не нацелен на конкретного человека). При использовании фотографии для создания дипфейка такие исключения, конечно же, не применяются, и обязательно нужно получить согласие самого гражданина. И в этом случае гражданин вправе требовать, во-первых, удаления таких материалов из общего доступа, а во-вторых, взыскания компенсации морального вреда (на практике, правда, небольшой, в пределах ₽50 тыс.)», — пояснил он.

Если дипфейк был использован для совершения преступления, например мошеннических действий или незаконного доступа к аккаунту в соцсети, то речь уже идет об уголовной ответственности. «Так, нарушители могут быть привлечены к ответственности по ст. 128.1 («Клевета»), 137 («Нарушение неприкосновенности частной жизни»), 159 («Мошенничество»), 272.1 («Незаконное использование компьютерной информации»), 280.3 («Дискредитация ВС России») и другим в зависимости от обстоятельств совершенного преступления», — предупредил Михаил Божор.

Главное о дипфейках

1. Дипфейк — это поддельное видео, аудио или изображение, созданное нейросетями, где лицо, голос или мимика человека изменены так, чтобы он выглядел делающим или говорящим то, чего не было в реальности.
2. В основе технологии лежит метод GAN (генеративно-состязательная сеть): одна программа создает подделку, вторая пытается ее распознать — и так до тех пор, пока фейк становится почти неотличим от оригинала.
3. Злоумышленники используют дипфейки для звонков и аудиосообщений от имени родственников или коллег с просьбой перевести деньги, видеозвонков («кружочков») с подменой лица знакомого человека, шантажа.
4. Распознать дипфейк можно по неестественному морганию, несовпадению движения губ и звука, нетипичному поведению собеседника, эмоциональному давлению, требованию выполнения срочных действий.
5. За использование дипфейков грозит гражданско-правовая и уголовная ответственность вплоть до лишения свободы в зависимости от тяжести преступления.

Читайте «РБК Деньги» в «Максе».

Читайте также:

Сотни клиентов крупнейшей сети «бумажного НДС» вызвали в налоговую
Число погибших при ударе по колледжу в ЛНР возросло до десяти
Президент Чехии призвал страны НАТО «показать оскал» России