Эксперты компании McAfee провели исследование, по результатам которого им удалось обнаружить возможную уязвимость в работе современных систем распознавания лиц. С помощью специальных нейросетей специалисты смогли загрузить фотографию человека так, что система приняла его за лицо другого человека.
Во многих странах мира общественные организации и правозащитники принимают все доступные меры, чтобы не допустить повсеместного использования систем распознавания лиц государством, потому что такие технологии зачастую используются скрытно, без огласки, что противоречит законодательству и нарушает права человека.
Важно понимать, что в исследовании компании McAfee разговор идет не о том, как человек может сохранить анонимность, а о том, что современные технологии распознавания лиц имеют серьезные уязвимости, которые могут эксплуатироваться киберпреступниками.
Для проведения исследования эксперты McAfee разработали собственную нейросеть на базе генеративно-состязательных систем Style GAN и Cycle GAN, которые применяются для переноса стиля картинки в фото или компьютерной графике. Решение Cycle GAN проводит анализ изначальной картинки, изменяет фон, текстуру и иные особенности изображения, создавая из него нечто другое, но крайне правдоподобное.
А решение Style GAN способно генерировать правдоподобные изображения лиц несуществующих людей, беря за основу несколько фото реальных личностей.
Примерно такой же подход использовали специалисты McAfee – они сделали фотографии своих лиц с различными выражениями, под всевозможными углами, при разнообразном освещении. В итоге получилось около 1,5 тыс. фотографий. Затем полученные фото они загрузили в open source нейросети Face Net, которая проводит анализ антропометрических данных, а после чего с использованием Style GAN и Cycle GAN изменили изображения лица одного из экспертов на фотографию другого таким образом, что технология распознавания приняла измененную фотографию за оригинальную.
По результатам проведенного исследования специалисты McAfee отметили, что такой подход может использоваться преступникам для обмана технологии распознавания лиц, к примеру, во время паспортного контроля – можно загрузить в чип своего паспорта изображение стороннего человека. Конечно, подобный трюк будет работать только с автоматическими системами, а не с реальными работниками служб безопасности.
С полной версией исследования компании McAfee можно ознакомиться по этой ссылке.
