11,8 тыс подписчиков
Экран смартфона может нарушить работу систем распознавания лиц
#наука_мгу
Исследователи Центра искусственного интеллекта МГУ установили, что экран смартфона может использоваться для нарушения процедуры верификации личности в коммерческих системах распознавания лиц. В ходе эксперимента на реальной камере успешность физической dodging-атаки достигла 56%, что является значимым результатом для black-box сценариев с неизвестными моделями.
Авторы предложили гибридный подход, при котором цифровой атакующий патч отображается на экране мобильного устройства, не требуя печати и доступа к параметрам системы. Использование ансамбля современных моделей обеспечило переносимость атаки, а механизм median-pooling позволил формировать патчи высокого разрешения. Эксперименты показали, что при сохранении корректного детектирования лица система может ошибаться на этапе верификации, что требует дополнительного учета при разработке и тестировании подобных решений.
Около минуты
3 дня назад