Как ИИ подделывает голоса и видео и как распознать фейк

ИИ умеет клонировать голос по короткой записи и собирать фотореалистичное видео из обычного ролика. Это удобно в кино и рекламе, но даёт поле для мошенников. Ниже разберу, как работают такие подделки, какие признаки чаще всего их выдают и что делать, чтобы не попасть на "срочно переведи деньги".

1. Голос клонируют по 10–60 секундам чистой речи. Дальше модель читает любой текст вашим тембром.
2. Видео подделывают тремя способами: подмена лица, синхронизация губ, полная "кукловодная" анимация.
3. Лучшие признаки фейка слышны и видны не с первого раза. Помогают пауза, проверка через второй канал, запрос "несценарных" фраз.
4. Для жизни достаточно пяти правил: стоп-пауза, перезвон по своему номеру, кодовая фраза с близкими, запрет переводов "по звонку", проверка меток и источника.
5. Бизнесу нужны процедуры: "два лица" на выплаты, вызов-безопасность в колл-центрах, метки контента и обучение сотрудников.

Как это делают: простая физика без формул

Фактор. Клон голоса
Как работает. Модель "снимает отпечаток" тембра и артикуляции, потом синтезирует речь по тексту. Чем чище исходник, тем правдоподобнее результат. Запросы мошенников на телефонных фишинговых звонках часто короткие и эмоциональные, чтобы вы не успели слушать детали.
Что это значит. Любая ваша публичная речь может стать сырьём. Подкаст, голосовые в мессенджере, сториз с озвучкой.

Фактор. Фейковое видео
Как работает.

1. Подмена лица: берут ваш набор фото и "натягивают" на актёра.
2. Липсинк: меняют только рот и подбородок под новую речь.
3. Полнокадровая анимация: аватар двигается как вы, но сгенерирован целиком.
   Что это значит. Визуальные швы стало сложнее ловить, но несовпадения всё ещё возникают на сложных движениях, в отражениях и мелочах типа зубов, морганий и бликов.

Где это уже используют честно и полезно

Кино и реклама. Дублируют реплики, омолаживают героев, чистят шум на площадке.
Озвучка и доступность. Переводчики синхронизируют губы под другой язык, делают дубль-версии с сохранением тембра спикера.
Обучение и сервис. Видеогиды, говорящие аватары для инструкций и поддержки клиентов.
Ключевая мысль. Технология сама по себе ни хорошая ни плохая. Вопрос в прозрачности и маркировке.

Где опасно: частые сценарии мошенников

"Мама, я в беде". Звонок с похожим голосом, просьба срочно перевести деньги или продиктовать код. Работает на эмоциях.
"Шеф на связи". Голос "руководителя" просит оплатить срочный счёт. Часто комбинируют с поддельной почтой.
"Банк и безопасность". Голос "службы" просит назвать код из смс или CVV.
"Инвест-стрим". Фейковое видео известного человека, который "дарит доход". Ведёт на поддельный сайт.

Как распознать голосовой фейк на слух

1. Ненатуральные паузы. ИИ часто "дышит" ровно и ставит тишину не там, где живой человек.
2. Ритм и эмоции. Интонации будто склеены. Смеётся голосом, а дыхание не меняется.
3. "Жеваные" согласные и свистящие. На шипящих и скороговорках синтез спотыкается.
4. Реверберация не совпадает с фоном. Голос будто в студии, хотя "звонят с улицы".
5. Отказ говорить вне сценария. Попросите повторить редкое слово, назвать девичью фамилию бабушки, спеть две ноты. Мошенник часто кладёт трубку.

Как распознать видеодипфейк глазами

1. Края лица и уши. На поворотах головы могут "плыть" линии, серёжка не отбрасывает тень.
2. Глаза и моргания. Либо слишком часто, либо слишком редко, без микродвижений зрачков.
3. Зубы и язык. Однородные "пластиковые" зубы, язык почти не двигается в быстрых словах.
4. Блики и тени. От света на лице и фоне разная логика. В очках отражается не то, что вокруг.
5. Синхрон губ и звука. На быстрых "б", "п", "м" рот опаздывает на доли секунды.
6. Фон и мелочи. Волосы на ветру не взаимодействуют с одеждой, украшения не колышутся, текст на плакате "дрожит".

Важно. Современные модели иногда обходят эти признаки. Поэтому полагаемся не только на "глаз", но и на процедуру проверки.

Что делать в жизни: простые правила, которые работают

Стоп-пауза. Любой "срочно оплатить" переводим в "я перезвоню".
Второй канал. Перезваниваем по своему контакту, а не по номеру из сообщения.
Кодовая фраза. Договоритесь с близкими о коротком вопросе и ответе, которые не найдёшь в соцсетях.
Никаких кодов и паролей. Никому не диктуем смс-коды, CVV и пароли по телефону.
Микропроверка. Просите сказать редкое слово, придумайте "сейф-слово" для семьи и команды.
Ссылки только из закладок. На "акции" и "компенсации" заходим вручную, а не по ссылке из чата.
Метки и источник. Ищите маркировку "AI" на платформах, проверяйте первоисточник новости, делайте обратный поиск по кадрам.
Не выкладывайте чистые голосовые. Если это публично, держите короткие фрагменты, без "чистой" минутной дорожки.

Что делать компаниям

Процедуры выплат. Любая экстренная оплата только по правилу "два согласования".
Вызов-ответ в колл-центре. Случайные фразы, повтор чисел, "назовите 3 и 7 цифру из кода". Клон часто ломается на неожиданных заданиях.
Обучение сотрудников. Игровые тренировки с фейковыми звонками, плакаты "не называем код".
Техника. Маркировка контента, логи изменений, хранение исходников, верификация поставщиков контента.
Коммуникации. Внутренний "код тревоги" и понятная инструкция, как действовать при сомнительном звонке от "шефа".

📌 Чек-лист проверки в 60 секунд

1. Пауза и дыхание. Есть ли стрессовая спешка и "студийная" чистота звука.
2. Несценарная фраза. Попросите повторить редкое слово или дату.
3. Второй канал. Закончите разговор и перезвоните по своему номеру контакта.
4. Деньги и коды. Ничего не переводим и не диктуем по звонку или в чате.
5. Источник видео. Откройте оригинальный канал, проверьте дату и описание, сделайте обратный поиск по кадрам.

FAQ

"А если это действительно близкий, и нужно срочно"
Договаривайтесь заранее о кодовой фразе. И всё равно перезванивайте. Настоящая экстренность выдержит 30 секунд проверки.

"Можно ли по голосу определить на 100 процентов"
Нет. Поэтому и нужны процедуры. Признаки помогают, но решает проверка через другой канал и здравый смысл.

"Какие приложения помогут"
Есть детекторы, но они ошибаются. Для пользователя важнее привычки: пауза, перезвон, кодовая фраза, проверка источника.

Что по итогу?

ИИ научился звучать и выглядеть как мы. Это удобно, когда честно помечено, и опасно, когда давят на эмоции. Хорошая новость в том, что для защиты не нужен спецотдел. Достаточно пяти привычек: пауза, перезвон, кодовая фраза, запрет на коды и переводы по звонку, проверка источника и меток.

От автора. Я сам пару раз ловил "срочно переведи" и понял, что лучшая кнопка безопасности это пауза. Как только даёшь себе 30 секунд и звонишь по своему контакту, мошеннический сценарий разваливается.

А теперь ваш опыт. Вам звонили "родственники" или "банк"? Какие фразы сработали, а какие нет. Напишите кратко свой приём проверки. Соберём рабочий набор, который поможет другим не попасть на чужой голос и картинку.