Америка. Их нравы!
Технологический гигант анонсировал блокировку системы распознавания лиц для полиции, чтобы предотвратить её использование против людей которые участвуют в протестах против полицейского беспредела.
Амазон сделал краткое заявление в своём корпоративном блоге, хотя до этого не комментировало протесты после смерти Джорджа Флойда от удушения его коленом сотрудниками полиции Миннеанаполиса. Но Амазон подразумевает что недавние события повлияли на это решение.
"Мы выступали за то, чтобы правительство ввели более строгие правила, регулирующие этическое использование технологии распознавания лиц, и похоже Конгресс готов принять этот вызов" написала компания. "Мы надеемся однолетний мораторий даст достаточно времени Конгрессу для создания соответствующих правил, и мы готовы помочь, если нас попросят."
Технология распознавания лиц стала полем битвы технологических гигантов, соперничающих за право работать с клиентами, стремящимися использовать новейшие разработки в сфере искусственного интеллекта. Эта технология помогает идентифицировать людей и применяется для сервисов разблокировки смартфонов и маркировки друзей на фотографиях в социальных сетях. Но данная технология находит применение в работе правоохранительных органов, что приводит к возникновению проблем конфиденциальности и предвзятости.
Защитники конфиденциальности критиковали Amazon за продажу технологии правоохранительным органам, опасаясь, за то что это может привести к арестам невинных людей, которые похожи на видеоизображение. А исследования показали, что системы распознавания лиц неверно идентифицируют цветных людей чаще, чем белых.
Rekognition (система распознавания лиц) -это инструмент, предлагаемый Amazon Web Services, прибыльным облачным вычислительным подразделением компании, и он относительно дешев и прост в использовании. Он может взять фотографии с камеры видеонаблюдения и сопоставить их с тысячами фотографий, например, с базой данных полиции по фотографиям, чтобы найти совпадение.
Например, прошлом году офис шерифа округа Вашингтон штата Орегон потратил около 700 долларов на загрузку первой партии фотографий и платил около 7 долларов в месяц абоненткой платы.
Amazon не назвал имена организаций, которые используют Rekognition, и даже не раскрыл, сколько из них используют эту технологию.
Amazon не убирает технологию полностью с рынка. Организации, помогающие спасать жертв торговли людьми и воссоединять пропавших детей с их семьями, продолжат использовать его технологию распознавания лиц.
Угроза технологии видеонаблюдения.
"Угроза технологии наблюдения за нашими гражданскими правами и гражданскими свободами не исчезнет и через год”, - заявила Николь озер, директор по технологиям и гражданским свободам Американского союза гражданских свобод Северной Калифорнии. "Amazon должна полностью взять на себя обязательство ввести полный мораторий на использование правоохранительными органами технологии распознавания лиц до тех пор, пока опасность не будет полностью устранена, и она должна заставить Конгресс и законодательные органы по всей стране сделать то же самое.”
Союз также призвал Amazon, чтобы они перестали продавать свои дверные звонки с камерой. Это подразделение сотрудничает с сотнями полицейских сил по всей стране, чтобы обеспечить потенциальный доступ к записям камер домовладельцев, которые, по словам озера, “подпитывают злоупотребления полиции.”
"Единственная причина, по которой Amazon изменила курс на повторное признание, говорит Джейк Лаперрук, старший юрисконсульт проекта Конституции в проекте по правительственному надзору , - это общественный протест против полицейского беспредела после смерти Флойда. Протестующие ставят под сомнение широкий спектр полномочий полиции, которые могут привести к расовым злоупотреблениям. “Это высветило риск того, как эта технология может быть использована самым худшим образом”, - сказал Лаперрук.
Microsoft и другие
Microsoft призывает к регулированию распознавания лиц, говоря, что это слишком рискованно, чтобы оставить технологическую индустрию в покое. Во вторник IBM заявила, что она полностью выйдет из бизнеса распознавания лиц из-за беспокойства о том, как эта технология может быть использована для массового наблюдения и расового профилирования.
Одним из технологических гигантов, который не объявил о каких-либо изменениях в том, как он продает технологию распознавания лиц, является Microsoft. Два года назад Microsoft обратилась к правительству США с призывом регулировать технологию распознавания лиц, отметив, что компании вряд ли будут регулировать себя сами. Microsoft не сразу ответила на запрос прокомментировать, планирует ли она изменить использование своей технологии распознавания лиц теперь, когда Amazon приостановила использование своей системы полицией. Один из авторов исследования MIT Media Lab, который обнаружил, что система Rekognition работает более точно при оценке светлокожих лиц, призвал Microsoft действовать.
"Microsoft также должна занять свою позицию. Что еще более важно, наши законодатели должны сделать шаг вперед", - сказала исследователь Джой Буоламвини по электронной почте. “Мы не можем полагаться на саморегулирование или надеяться, что компании решат обуздать вредное внедрение технологий, которые они разрабатывают.”
Сотрудники Amazon в последние годы давили на компанию аналогичными вопросами. Два года назад рабочие призвали Безоса прекратить продажу технологии распознавания лиц правоохранительным органам и прекратить партнерские отношения с компаниями, работающими с иммиграционными и таможенными органами США.
