Более двух десятков экспертов по ИИ призывают Amazon прекратить продажу программного обеспечения для распознавания лиц правоохранительным органам до тех пор, пока не будет введено законодательство и надзор.
В письме, опубликованном (3 апреля) и переданном Quartz, утверждается, что генеральный менеджер Amazon по AI Мэттью Вуд и вице-президент по глобальной общественной политике Майкл панк неправильно представили технические аспекты исследования , которое предполагает, что распознавание лица Amazon менее точно на женщинах и людях цвета в блоге компании.
” В целом, мы находим ответ доктора Вуда и г -на панка на результаты рецензируемых исследований разочаровывающим", - говорится в письме. "Мы надеемся, что компания вместо этого тщательно изучит все свои продукты и поставит вопрос о том, должны ли они в настоящее время использоваться полицией.
Упомянутое исследование, названное гендерными оттенками и опубликованное Джой Буоламвини из MIT Media Lab и Деборой Раджи, показало, что программное обеспечение для распознавания лиц Amazon Rekognition в 31% случаев ошибочно принимало женщин цвета за мужчин, не делая ошибок при классификации пола белых мужчин.
"Существует барьер между критикой технологий анализа лица и компаниями, которые их делают. Для нас важно думать, например, о том, как гендер концептуализируется и кодируется в коммерческих технологиях анализа лица, которые доступны сегодня”,-сказал Quartz по электронной почте Морган Клаус Шойерман, докторант по информатике в UC Boulder and letter signee.
"Технологии Facial analysis, когда они упакованы в облачные сервисы, могут быть присвоены для злого умысла. Даже таким образом, что компании, поставляющие их, даже не знают об этом”, - написал он. "Amazon имеет большое влияние в области технологии анализа лица. Это один из основных поставщиков этих видов услуг компьютерного зрения и может помочь сформировать нормы вокруг его разработки и использования.
Те, кто подписывает петицию также включают в себя 2019 года лауреат высшей чести информатики, премия Тьюринга, Йошуа Бенгио и бывший главный ученый Amazon Web Services, Anima Anandkumar, наряду с исследователями из Google, Facebook, Microsoft, Alphabet's DeepMind, Гарвард и Калифорнийский университет, Беркли.
” Мы надеемся на широкий диалог", - сказала Анандкумар кварц, которая сейчас является директором по исследованиям производителя чипов Nvidia, и отметила, что она не говорила от имени своей компании. “Как мы измеряем эти системы, и какие различные показатели оценки нам нужно обдумать, и какое влияние это окажет на общество, передав его в руки правоохранительных органов?
Она добавила, что ее убедил подписать технический характер письма, и что научная дискуссия о том, как сделать работу по распознаванию лиц, необходима, прежде чем ее можно будет эффективно законодательно закрепить и внедрить в реальные ситуации.
” Мы должны иметь правильную версию правил, которая не мешает нам продвигать исследования, но в то же время была бы эффективной", - сказал Анандкумар. "Это сложная проблема, но я оптимистичен, что при более открытом диалоге это может произойти.
