Давайте поговорим об алгоритмах распознавания лиц. Как вы знаете, продолжаются дискуссии о его использовании правоохранительными органами в общественных местах.
После пандемии все больше и больше аэропортов внедряют такие системы для автоматического паспортного контроля, например, для поддержания высоких стандартов безопасности с меньшим количеством персонала на территории, а так же это экономит бюджет и время компаний.
Хорошо это или плохо. Я бы сказал, что мне нравится использовать новые технологии, но это все еще немного проблематично, потому что их все еще можно обмануть (как и человек тоже может).
1) Любая система распознавания лиц, построенная на глубоком обучении, будет иметь предубеждения и уязвимости, что снижает ее точность.
2) Вы можете обманом заставить камеру думать, что вы кто-то другой которого нет в черном списке.
Исследователи из фирмы McAfee, занимающейся кибербезопасностью, показали в новом исследовании, что хакеры могут воспользоваться недостатками, присущими глубокому обучению, чтобы обмануть современный алгоритм распознавания лиц и увидеть кого-то, кого там нет.
Обучив сеть GAN создавать изображение лица, которое для человеческого глаза выглядело как один человек, но также имело чьи-то параметры, которые алгоритм классифицировал как другого человека. Это все равно, что обманом заставить машину позволить кому-нибудь сесть на рейс, несмотря на то, что он находится в списке запрещенных для полетов.