Современные системы распознавания лиц представляют угрозу личной приватности. Уже сейчас такие системы ежедневно сканируют миллионы лиц в Китае, Великобритании и России без их согласия.
Исследователи из Чикагского университета придумали любопытный алгоритм клоакинга, который позволяет защититься от распознавания лиц.
Системы распознавания лиц берут фотографии для обучения своей нейросети из ваших открытых источников — в основном, из профилей в социальных сетях.
Новый алгоритм Fawkes эффективно подрывает базу обучения «вражеской» нейросети. Перед публикацией каждой фотографии в ней делаются незаметные по пиксельные изменения, после чего она становится непригодной для использования при обучении.
Программа Fawkes работает локально на вашем компьютере и выполняет клоакинг фотографий. После обработки вы можете использовать фотографии как угодно — публиковать в социальных сетях, передавать друзьям или распечатывать на бумаге. В любом случае для распознавания лиц они уже бесполезны, как показала проверка в ходе научного исследования чикагской группы.
Fawkes протестирован и показал эффективность 100% против самых известных моделей распознавания Microsoft Azure Face API, Amazon Rekognition и Face++
Тестирование показало, что эффект клоакинга трудно распознать при обучении нейросети и он не вызывает ошибок. Другими словами, операторы системы распознавания лиц не заподозрят ничего неладного. Если кто-то попытается выполнить распознавание на вашем оригинальном изображении (например, с камер наблюдения), поиск по базе не найдёт совпадений.
Как ни странно, размытие фотографий и применение разных графических фильтров не снимает защиту.
Алгоритмы сжатия изображений также не портят защиту клоакинга.
Исходный код доступен всем желающим:
https://github.com/Shawn-Shan/fawkes