10,6 тыс подписчиков
Создан открытый алгоритм, защищающий изображения от дипфейков
Немецкие исследователи создали и опубликовали в открытом доступе алгоритм обработки изображений, который делает их бесполезными в качестве основы для дипфейков: фото-, аудио- и видеоконтента, модифицированного с помощью ИИ (искусственного интеллекта). Об этом в пятницу сообщила пресс-служба немецкого Центра информационной безопасности Гельмгольца (CISPA).
"Мы приступили к разработке этого подхода после того, как осознали, что до настоящего времени не существовало защиты от дипфейков, созданных при помощи GAN-моделей. Если говорить очень просто, то наш алгоритм защищает лица на фотографиях от нейросетей этого типа", - сообщил научный сотрудник CISPA Ли Чжэн, чьи слова приводит пресс-служба центра.
Для создания наиболее продвинутых форм дипфейков используются GAN-модели. Так разработчики нейросетей называют особый класс "творческих" систем искусственного интеллекта, состоящие из двух половин, одна из которых генерирует фейковые изображения, а вторая - оценивает разницу между фейком и оригиналом. Это позволяет создавать изображения, неотличимые от настоящих.
Одной из ключевых фаз в работе этих систем является процедура обращения, при которой изображения преобразуются в математические векторы. Она позволяет извлекать характерные черты лица человека на изображении, добавлять их в многообразие всех известных алгоритму черт и вносить произвольные изменения. Так, в частности, можно добавить улыбку человеку на снимке, искусственно состарить его или изменить цвет его волос.
Математическая защита от дипфейков
Ученые обнаружили, что процедуру обращения можно серьезно затруднить, если создать на уровне математических векторов "шум" - невидимые многочисленные изменения. Это помешает системе генерации дипфейков получить данные и использовать их для манипуляции чертами лица.
Работу этого подхода ученые проверили на пяти системах создания дипфейков, в том числе нейросети StyleGAN2, которую часто применяют для создания фейковых фотографий и видеороликов знаменитостей. Обработка подобных снимков при помощи алгоритма Ли Чжэна и его коллег привела к появлению легко заметных артефактов и искажений при подготовке дипфейков всеми пятью GAN-сетями.
В этом отношении, как отмечают ученые, созданный подход превзошел другие системы защиты от дипфейков, в том числе известное приложение Fawkes. Аналогичным образом можно создать алгоритм, который будет защищать от подделок не только фотографии, но и видеофайлы, добавили авторы.
Фото: © Михаил Терещенко/ТАСС
2 минуты
11 сентября 2023