Представленная исследователями из США система обмана алгоритмов видеослежки может оказаться самой эффективной на данный момент
Fawkes – программа, разработанная учеными из Чикагского университета на основе предыдущей работы группы исследователей Google. Последние изучали глубокое обучение нейронных сетей. Их доклад за 2014 года показал, что еле заметные искажения изображений делают лица и другие объекты неузнаваемыми для машин. Открытие породило волну исследований, посвященных обходу систем распознавания лиц с помощью состязательных атак (обман нейросетей путем введения нестандартных данных).
Новая программа получила название в честь печально известного английского революционера Гая Фокса (Guy Fawkes), чье лицо изображено на масках членов протестного движения Anonymous. Программа работает следующим образом: она добавляет к изображению небольшое количество пикселей. Эти изменения незаметны для человеческого глаза, а системы распознавания лиц их замечают, но классифицируют неправильно. Замаскированные Fawkes изображения успешно обманывали системы распознавания Amazon, Microsoft и Megvii в 100% тестов.
Fawkes позволяет пользователям «в любое время сделать себе прививку против неавторизованных моделей распознавания лиц без заметного искажения своих фотографий», – говорят создатели программы.
Fawkes еще не доступна широкой публике, но если это когда-нибудь случится, то, по мнению экспертов, разработчики систем распознавания лиц довольно быстро найдут ответ на нее. Ведь, как и во многих областях кибербезопасности, facial recognition — это всё-таки игра в кошки-мышки.
Роскомсвобода - общественная организация. Мы защищаем цифровые права граждан, пропагандируем идеи свободы информации, недопустимости государственной цензуры и вмешательства в частную жизнь.
Вы всегда можете поддержать нашу деятельность. Пожертвования позволяют нам противостоять неадекватным законодательным
инициативам и защитить пользователей от агрессивного правоприменения.
