При достаточном количестве исходных изображений не так сложно превратить вашего соседа в известного политика. Поначалу выявлять дипфейки было не так уж сложно – даже самые лучшие из них имели визуальные проблемы, такие как размытие, искажения и сверхъестественные черты лица, из-за которых они просто казались нереальными.
Однако, это игра в кошки-мышки, и как только мы изучали один метод обнаружения дипфейков, следующее поколение исправляло ошибку. Есть ли какие-нибудь надежные решения, позволяющие выяснить, какие видео нас пытаются обмануть?
Дипфейк – визуальные подсказки
Артефакты – это не просто вещи, которые Индиана Джонс помещает в музеи, – это ещё и небольшие отклонения, оставленные после обработки изображения или видео. В ранних дипфейках их часто можно было уловить человеческим глазом, а плохие дипфейки всё ещё могут иметь несколько предупреждающих знаков, таких как размытие по краям, чрезмерно сглаженное лицо, двойные брови, глюки или вообще ощущение «неестественного поведения лица».
Однако, эти методы сейчас улучшены до такой степени, что артефакты видны только другим алгоритмам, которые комбинируют видеоданные и исследуют вещи на уровне пикселей. Некоторые из них могут быть довольно креативными. Разница слишком тонка, чтобы люди обратили на неё внимание, но машины, как оказалось, неплохо справляются с этим.
Биометрические подсказки
Некоторое время казалось, что ключом к разоблачению дипфейков было отсутствие у них естественного моргания из-за относительной редкости исходных изображений с «закрытыми глазами». Однако, не потребовалось много времени, чтобы следующее поколение технологии deepfake «научилось моргать», что быстро снизило эффективность этой техники.
Другие биометрические индикаторы ещё не были полностью преодолены, например, индивидуальные особенности, которые алгоритмы не могут легко преобразовывать, потому что они требуют некоторого контекстного понимания. Маленькие привычки, такие как быстрое моргание, когда вы удивлены, или поднятие бровей, когда вы задаете вопрос, могут быть подхвачены и использованы дипфейком, но не обязательно в нужное время, поскольку они (пока) не могут автоматически определить, когда следует применять эти движения.
ИИ, способный считывать сердцебиение с помощью видеоизображений, имеет множество приложений, помимо обнаружения дипфейков, но поиск периодических движений и изменений цвета, которые сигнализируют о частоте сердечных сокращений, может помочь идентифицировать созданных самозванцев.
AI проекты
Многие громкие имена очень заинтересованы в решении проблемы дипфейков. Facebook, Google, Массачусетский технологический институт, Оксфорд, Беркли и множество других стартапов и исследователей решают эту проблему, обучая искусственный интеллект обнаруживать фальшивые видео, в том числе перечисленными выше методами.