Система, распознающая лица, обнаружила 100 разных человек, несмотря на то, что копии картин на первый взгляд кажутся одинаковыми.
В сети это вызывало широкое обсуждение. Комментаторы заметили, то, что людям видится одним и тем же изображением, система по распознаванию лиц выдает как изображения 100 знаменитостей. Многие не видят разницу и не понимают, в чем дело.
Выставка была организована стартапом Adversa. Он специализируется на поиске и устранении уязвимых мест в технологиях искусственного интеллекта.
Таким образом, необычный проект показал обществу слабые места в программе по распознаванию лиц. Они могут быть использованы киберпрестпуниками, которые пытаются взломать систему и использовать доступ в своих корыстных целях.
Коллекция копий была основана на изображениях более 8,5 тысячи знаменитостей. Все они были взяты в источниках, находящихся в открытом доступе. Моделью распознавания лиц стала FaceNet от Google. Ни одно изображение на выставке не было идентичной копией «Моны Лизы». Их модифицировали особым образом. Классификатор распознавал лица по добавленному состязательному патчу. Его генерируют с помощью особого алгоритма, который считывает пиксельные значения фото. Классификатор может выдавать желаемое значение.