❗️ Спойлер: Сегодня правового решения проблемы DeepFake не существует
Моушн-дизайнер и 3D-художник Alexander Court совместил Трампа и Путина в одном человеке с помощью нейросетей. Для этого он использовал DeepFaceLab и провёл пост-обработку с помощью Adobe After Effects.
Это не первый "удачный" эксперимент Александра. Ранее были уже омоложенный ДиКаприо и Цукерберг в "Социальной сети" Финчера.
Идея манипулирования фотографиями и видеоматериалами не нова. Ещё в «Форрест Гамп» Том Хэнкс встречается с президентом Джоном Ф. Кеннеди спустя 31 год после того, как президент был убит.
Несколько лет назад редактирование фотографий требовало высокого уровня мастерства и занимало много времени, но технологии демократизируются, и сегодня любой человек, у которого достаточно времени, терпения и электричества, может сделать это не выходя из дома.
Отличить настоящее видео от DeepFake с каждым днем становится сложнее.
ТЕХНОЛОГИИ
Сегодня одной из самых современных является DeepFaceLab, доступная через GitHub. FaceSwap и FaceIt - тоже доступны для скачивания. Программы работают на большинстве ОС, включая Windows, Linux и MacOS.
ДЕТЕКТОР ПОЗ
DeepFake не ограничиваются подделками существующих видео. Программное обеспечение "Detector-Pose" создает каркас движений тела и переводит его в новое видео, где целевое тело синхронизируется для соответствия этим движениям.
В сочетании с ImageNet, система объединяет четырнадцать миллионов фотографий обычных мест и объектов, размещенных на Flickr, eBay и других веб-сайтах, и создает видео о человеке, который делает или говорит то, что хочет создатель, в месте, где его никогда не было.
РЫНОК
Средний чек за 1 минутное DeepFake видео - $20. Для этого "подрядчику" необходимо около 100 фотографий субъектов "скрещивания". Встречаются случаи демпинга - "$30 без ограничения продолжительности видео", "$10, чтобы поместить лицо человека в видео Shia LaBeouf «Do It»" и т.д.
ЧТО ДАЛЬШЕ?
Создание DeepFake в реальном времени. С помощью обычной веб-камеры и натренированной за 48 часов нейросети программист смог в реальном времени показать свое видео с лицом Джона Оливера.
Качество картинки пока что не огонь, но в сочетании с Adobe Project Voco или Lyrebird можно проводить «живую» видеоконференцию, используя этот софт для замены голоса на любого публичного человека.
ПРАВОВАЯ СТОРОНА: ОБНАРУЖЕНИЕ И БОРЬБА
Загружая ежедневно по 300 000 000 фотографий в Facebook, и ежеминутно по 46 000 фотографий в Instagram - мы сами вносим огромный вклад в формирование датасетов и обучение нейросетей.
Существует два общеизвестных метода обнаружения DeepFake:
🔸 усиление насыщенности цвета на лице человека, чтобы выявить изменения во время сердцебиения и сопоставление с количеством неестественных морганий
🔸 отслеживание изменений цвета («хроматических аберраций») вокруг форм на изображении.
Один из инструментов противодействия DeepFake - DARPA MediFor (Media Forensics), технология для автоматической оценки целостности изображения/видео.
Основная сложность в борьбе с DeepFake - скорость технологического развития по сравнению с торможением правового регулирования.
РАБОТА ДЛЯ DEEPFAKE-ЮРИСТОВ
Много важных вопросов требуют юридических ответов:
🔹 Кто должен реагировать в случаях, когда гражданин подрывает репутацию бывшего партнера или работодателя при помощи DeepFake?
🔹 Как реагировать на DeepFake, создающий панику в обществе или влияющий на выборы?
🔹 Даже если власти могут отследить конкретного создателя DeepFake - какие обвинения могут быть предъявлены этому лицу? Это технически не преступление, если действия явно не классифицируются, как клевета или «порноместь».
🔹 Если создатель не может быть найден, то можно ли подать в суд на онлайн-платформу, на которой размещен DeepFake?
🔹 Когда создатель DeepFake находится в Европейском Союзе есть большая вероятность, что GDPR затруднит доступ к этим данным, особенно если через них будет точно определен владелец этих данных. Какой механизм работы в таких случаях?
Может ли DEEPFAKE влиять на санкционные списки?