"Американский союз гражданских свобод" решил проверить новую систему распознавания лиц Rekognition, созданную Amazon. И система проверку не выдержала.
"Американский союз гражданских свобод" — это некоммерческая правозащитная организация, и на этой неделе она, потратив всего $12,33, испытала систему, от которой вполне может зависеть жизнь и свобода многих людей.
Используя настройки Rekognition, выставленные по умолчанию, с порогом уверенности в 80% (это значит, что система на 80% уверена в том, что права, когда дает сигнал о совпадении), Союз просканировал 25000 фотографий преступников, лежащих в открытом доступе, и сравнил их с фотографиями всех членов Конгресса США. В результате система идентифицировала 28 конгрессменов как преступников.
На первый взгляд это может показаться лишь забавным фактом, но Amazon активно рекламирует свою систему для полицейских и охранных организаций и некоторые уже ей пользуются, так что цена такой ошибки может оказаться довольно дорогой для того, кого