Когда распознавание лиц повсюду, все, что вы делаете, становится справедливой игрой для публичного осуждения и наказания.
Сторонники распознавания лиц в США часто утверждают, что технология наблюдения зарезервирована для самых больших рисков — для помощи в борьбе с насильственными преступлениями, террористическими угрозами и торговлей людьми. И хотя распознавание лиц по-прежнему часто используется для мелких преступлений, таких как кражи в магазинах, кража товаров на мелкую сумму или продажа наркотиков, использование распознавания лиц в США все еще выглядит ручным по сравнению с тем, насколько широко используется распознавание лиц в Китае.
Китайская система распознавания лиц регистрирует почти каждого гражданина страны с обширной сетью камер по всей стране. Утечка базы данных в 2019 году дала представление о том, насколько распространены китайские инструменты наблюдения — более 6,8 миллионов записей за один день, снятых с камер, расположенных вокруг отелей, парков, туристических мест и мечетей, регистрирующих данные о людях.
Китайское правительство обвиняется США в использовании распознавания лиц для совершения злодеяний против уйгурских мусульман, полагаясь на эту технологию для осуществления «крупнейшего массового лишения свободы представителей меньшинств в мире на сегодняшний день».
США утверждают «Китай использует распознавание лиц, чтобы профилировать уйгуров, классифицировать их на основе их этнической принадлежности и выделять их для отслеживания, жестокого обращения и задержания», — говорится в письме двухпартийной группы из 17 сенаторов госсекретарю Майку Помпео в марте. «И эти технологии развернуты на службе антиутопического видения управления технологиями, которое использует экономические преимущества Интернета при отсутствии политической свободы и рассматривает технологические компании как инструменты государственной власти».
Агрессивное развитие и использование в Китае технологии распознавания лиц открывает окно в то, как технология, которая может быть одновременно и безобидной, и полезной — например, Face ID вашего iPhone — может также быть искажена, чтобы позволить пресекать действия, которые средний человек может даже не рассматривать как преступление. Китайские чиновники использовали инструменты наблюдения, чтобы публично пристыдить людей, носящих одежду для сна, назвав это «нецивилизованным поведением».
По словам экспертов по наблюдению, наказание за эти мелкие правонарушения является преднамеренным. Угроза публичного унижения посредством распознавания лиц помогает китайским чиновникам направлять более миллиарда человек к тому, что они считают приемлемым поведением, от того, что вы носите, до того, как вы переходите улицу.
«Идея состоит в том, что власти пытаются внедрить всестороннее наблюдение и поведенческую инженерию в массовом масштабе», — сказала Майя Ван, старший научный сотрудник Хьюман Райтс Вотч по Китаю. «Власти хотят создать такое общество, которым им было бы очень легко управлять».
По словам Вана, идея о том, что система распознавания лиц в Китае автоматически поместит ваше имя и фотографию на рекламный щит за переход неположенного пути и отправит вам личное сообщение о штрафе, вселяет в людей страх вести себя определенным образом.
Поведенческая инженерия — это концепция объединения технологий и психологии, чтобы подтолкнуть людей к определенным действиям, и это то, что мы видим каждый день. Это очевидно в «темных паттернах», дизайне интерфейса, например, скрытых кнопках отказа, которые обманом заставляют людей отказаться от своих личных данных.
Но есть ключевое отличие в том, как поведенческая инженерия осуществляется в США, по сравнению с Китаем и его распознаванием лиц.
«В США это выражается коммерческим образом, тогда как в Китае это усилия государства», — сказал Ван. «Динамика другая, и количество энергии другое, но у них есть поразительное сходство».
В США поведенческая инженерия может осуществляться путем сбора данных о людях и предоставления им или исключения контента на основе предсказанных личностных качеств.
Скандал Facebook в 2018 году с Cambridge Analytica возник из-за того, что ныне не существующая британская аналитическая компания использовала данные миллионов людей для таргетированной рекламы, которая побуждала людей голосовать определенным образом.
В то время как этот тип поведенческой инженерии в основном ориентирован на продажу продуктов и PR, очевидно, усилия Китая больше направлены на внушение страха и контроля над своим населением, и распознавание лиц играет в этом ключевую роль.
«Это обусловливает идею о том, что «общество так устроено», что за вами всегда наблюдают», — сказал Джейк Лаперрук, старший советник проекта «Конституция». «Это похоже на попытку убедить людей, что «мы все время наблюдаем, если вы когда-нибудь сделаете что-то, что нас разозлит, мы увидим и найдем способ поставить вас в неловкое положение».
В Китае никто не застрахован от распознавания лиц или связанного с ним общественного порицания.
Камеры, установленные на пешеходных переходах для идентификации и публикации фотографий пешеходов, являются обычным явлением, а в отчете Abacus в мае 2019 года были показаны фотографии детей, переходящих дорогу в неположенном месте, на цифровом рекламном щите. Местная дорожная полиция заявила, что «с детьми следует обращаться так же, как со взрослыми», сообщает издание.
Китайский парк также полагался на распознавание лиц, чтобы люди не брали слишком много туалетной бумаги, сканируя лица людей перед раздачей рулонов.
И в то время как в США распознавание лиц переживает расплату из-за своей расовой предвзятости, в Китае поставщики технологий наблюдения хвастаются своими способностями выделять людей разных национальностей.
«Нет места для обсуждения расовых предубеждений и преследований меньшинств в Китае как онлайн, так и офлайн».
Майя Ван, старший научный сотрудник Хьюман Райтс Вотч по Китаю
В ноябре прошлого года IPVM обнаружила, что китайская компания по наблюдению Hikvision рекламировала свои камеры, которые могут автоматически идентифицировать уйгурских мусульман с помощью распознавания лиц.
В сентябре прошлого года Фонд Карнеги обнаружил, что Китай является основным поставщиком технологий наблюдения с использованием ИИ, предоставляя эту технологию 63 странам. Следующим ближайшим поставщиком технологий наблюдения с использованием ИИ была японская корпорация NEC, которая продает средства распознавания лиц в 14 странах.
В апреле агентство Reuters сообщило, что Amazon купила камеры у Dahua, китайской компании по наблюдению, внесенной США в черный список из-за обвинений в том, что она помогает Китаю задерживать и контролировать уйгурских мусульман.
Согласно отчету, сделка на 10 миллионов долларов заключалась в покупке 1500 камер для наблюдения за распространением COVID-19.
Ван отметил, что, хотя компании по распознаванию лиц часто являются дочерними компаниями американских технологических гигантов, таких как Amazon или Microsoft, в Китае уже есть несколько компаний, которые доминируют в этой отрасли. Принятие страной режима наблюдения позволяет провайдерам распознавания лиц продвигать технологию даже для самых тривиальных целей.
При таком уровне влияния есть опасения, что китайская модель использования распознавания лиц — широко распространенная сеть, предназначенная для публичного порицания и контроля — может распространиться на остальной мир.