Создана программа для обмана распознавания лиц, которая меняет фото так, что система считает, будто это — другой человек. При этом тот, кто смотрит невооружённым глазом, не замечает разницы. Новый защитный механизм мог бы обезоруживать системы, которые обучаются на фотографиях из Интернета. Однако, по мнению экспертов, применять его таким способом уже слишком поздно.
Группа учёных из лаборатории Sand Lab Чикагского университета разработала новый инструмент, позволяющий противодействовать работе алгоритмов распознавания лиц. Он изменяет представленную ему фотографию так, чтобы система распознавания воспринимала её как лицо совсем другого человека. При этом невооружённым взглядом заметить эти изменения нельзя, и преобразованная фотография внешне выглядит так же, как и исходная.
Своё ПО разработчики назвали Fawkes в честь Гая Фокса — исторического персонажа из Англии 17-го века. Его маска, фигурирующая в комиксе о нём и в фильме «V — значит вендетта», стала символом протестного движения на Западе.
Назначение нового ПО его создатели видят в том, чтобы противодействовать тем системам распознавания лиц, которые выполняют самообучение с помощью фотографий, собранных из Интернета. Такая система при работе с фотографией, замаскированной с помощью ПО Fawkes, получает неправильное представление о том, как выглядит изображённый на ней человек. Если подобная порча самообучения состоялась, то человек становится защищённым от распознавания его лица данной системой.
В результате на первый план выходит задача: обработать маскировочным ПО как можно больше фотографий, выкладываемых в Интернет. Для этого разработчики выпустили бесплатные версии своего ПО для ОС Mac и Windows. Их уже загрузили в сумме 100 тысяч раз. Однако этого явно недостаточно.