На фоне протестов, вспыхнувших в США, после гибели афроамериканца Джорджа Флойда, и обострения дискуссий на фоне расовой принадлежности компания IBM объявила о прекращении любых разработок в сфере распознавания лиц, а компания Amazon сообщила о введении моратория сроком на один год на использование полицией технологии распознавания лиц Amazon Rekognition. Теперь к ним присоединился и Microsoft.
Как пишет CNBC, президент компании Бред Смит заявил, что Microsoft не будет продавать американским правоохранителям свой софт для распознавания лиц до тех пор, пока в США не будет принят национальный закон, регулирующий использование таких технологий.
В настоящее время законопроект о реформе полиции, который среди прочего предусматривает запрет на использование федеральными правоохранительными органами технологий распознавания лиц в режиме реального времени, внесен в конгресс США.
Ранее качество работы системы распознавания лиц от Amazon вызвало вопросы у активистов. Так, в 2018 году Американский союз гражданских свобод протестировал систему Amazon, которой на тот момент пользовались полицейские нескольких штатов.
В рамках тестирования в систему были загружены фотографии всех 535 конгрессменов, которые алгоритм сравнивал с публичной забой из 25 000 фотографий подозреваемых в преступлениях.
Хотя снимков членов конгресса не было в этой базе, система выдала 28 ошибочных совпадений.
В Amazon тогда связали ложные совпадения с недостаточной калибровкой. В компании заявили, что в Американском союзе использовали систему с выставленной по умолчанию вероятностью совпадения в 80%, тогда как компания рекомендует правоохранителям повышать этот параметр до 95%. При этом сама программа не выдавала такой рекомендации по в процессе настройки.
Проверка Американского союза также показала, что система Amazon склонна к распознаванию дискриминации, подобно некоторым аналогичным алгоритмам: 11 из 28 ложных совпадений (около 39%) пришлись на чернокожих конгрессменов. При этом доля темнокожих членов в конгрессе тогда составляла 20%