Найти в Дзене
1 Cinema

Коррекция из сериала The Capture / Захват: еще не реальность

В сериале «Захват» есть технология под названием «Коррекция», которая умеет подменять видео прямо во время телевизионного эфира. Политик якобы произносит фразу, которой никогда не говорил.
Новостные каналы транслируют это как настоящую запись.
И зрители не замечают подмены. Звучит как фантастика. Но если посмотреть на современные технологии искусственного интеллекта, становится ясно: большая часть этой системы уже существует. Разберу, простым языком, из каких технологий могла бы состоять такая система. Основа большинства видеодипфейков — технология face swap. Сначала алгоритмы компьютерного зрения выполняют face detection — находят лицо человека в кадре. Затем происходит face alignment: система определяет ключевые точки лица (глаза, нос, рот) и выравнивает изображение. После этого нейросеть извлекает identity embedding — числовой вектор, который описывает уникальные черты лица человека. Дальше генеративная модель создаёт новое изображение лица, сохраняя мимику и движения головы исходно
Оглавление

В сериале «Захват» есть технология под названием «Коррекция», которая умеет подменять видео прямо во время телевизионного эфира.

Политик якобы произносит фразу, которой никогда не говорил.
Новостные каналы транслируют это как настоящую запись.
И зрители не замечают подмены.

Звучит как фантастика. Но если посмотреть на современные технологии искусственного интеллекта, становится ясно: большая часть этой системы уже существует.

Разберу, простым языком, из каких технологий могла бы состоять такая система.

Подмена лица: как работает face swap

Основа большинства видеодипфейков — технология face swap.

Сначала алгоритмы компьютерного зрения выполняют face detection — находят лицо человека в кадре. Затем происходит face alignment: система определяет ключевые точки лица (глаза, нос, рот) и выравнивает изображение.

После этого нейросеть извлекает identity embedding — числовой вектор, который описывает уникальные черты лица человека.

Дальше генеративная модель создаёт новое изображение лица, сохраняя мимику и движения головы исходного человека.

Чаще всего для этого используются:

  • Autoencoders
  • GAN (Generative Adversarial Networks)

Финальный этап — blending: алгоритм подгоняет освещение, цвет кожи и текстуру, чтобы подмена выглядела естественно.

Сегодня некоторые модели могут выполнять такую замену практически мгновенно, особенно при использовании оптимизированных архитектур.

Клонирование голоса — voice cloning.

Современные модели синтеза речи анализируют тембр, ритм и интонацию человека и создают speaker embedding — векторное представление его голоса.

После обучения модель может генерировать новую речь, которая звучит как голос оригинального человека.

Для этого обычно используются комбинации моделей:

  • Tacotron / FastSpeech — генерация речи
  • WaveNet или HiFi-GAN — вокодеры, превращающие спектрограмму в аудиосигнал

Таким образом можно заставить цифровую копию голоса произносить любой текст.

Lip Sync: синхронизация губ

Даже если лицо заменено, а голос сгенерирован, остаётся проблема движения губ.

Для этого используется технология lip sync.

Нейросеть анализирует аудио, преобразует его в последовательность фонем, а затем предсказывает положение губ для каждого звука.

Популярные модели, например Wav2Lip, могут изменять область рта в каждом кадре видео, создавая иллюзию, что человек действительно произносит новые слова.

Почему «Коррекция» пока не существует

Несмотря на быстрый прогресс AI, собрать систему уровня «Коррекции» пока сложно.

Первая проблема — latency.
Генерация кадров нейросетью требует времени. Даже задержка в несколько сотен миллисекунд может привести к рассинхрону между видео и звуком.

Вторая проблема — артефакты.
Дипфейки иногда выдают себя неестественным морганием, нестабильной текстурой кожи или ошибками освещения.

Третья проблема — данные.
Чтобы модель могла реалистично воспроизводить лицо человека, ей нужен большой датасет: разные ракурсы, эмоции и условия освещения.

Для публичных фигур это возможно, но для обычных людей значительно сложнее.

Насколько сериал близок к реальности

Если посмотреть на компоненты «Коррекции», то многие из них уже существуют: подмена лица в видео работает, клонирование голоса активно развивается, а синхронизация губ используется в кино и рекламе.

Но объединить всё это в идеальную систему реального времени без ошибок — пока очень сложная инженерная задача.

Тем не менее развитие нейросетей и вычислительных мощностей постепенно сокращает этот разрыв.

И возможно, главный вопрос будущего будет звучать так: сможем ли мы вообще доверять видео, которое видим своими глазами - через год, два ... ?

Ставьте лайки и читайте также: