Генеральный директор IBM Арвинд Кришна объявил сегодня, что компания больше не будет продавать услуги распознавания лиц, призывая к “национальному диалогу” о том, следует ли его вообще использовать. Он также высказался в поддержку нового законопроекта, направленного на сокращение масштабов насилия в полиции и повышение ответственности.
В письме , опубликованном CNBC, написанном в поддержку закона О правосудии в полиции, введенного сегодня, Кришна объясняет выход компании из спорного бизнеса идентификации лица как услуги.
IBM решительно выступает против и не будет потворствовать использованию любой технологии, включая технологию распознавания лиц, предлагаемую другими поставщиками, для массового наблюдения, расового профилирования, нарушения основных прав и свобод человека или любой цели, которая не соответствует нашим ценностям и принципам доверия и прозрачности. Мы считаем, что сейчас настало время начать национальный диалог о том, следует ли и каким образом применять технологию распознавания лиц в национальных правоохранительных органах.
Этот тщательный подход к разработке и развертыванию технологии не является новым: IBM в прошлом году подчеркнула его с новой базой данных face data, которая была более разнообразной, чем что-либо доступное в то время. В конце концов, как и любая программа, эти системы хороши только в том случае, если вы вводите в них информацию.
Тем не менее, распознавание лиц, похоже, не приносило компании много денег, если таковые имелись. Чтобы быть справедливым, технология действительно находится в зачаточном состоянии, и есть несколько приложений, где корпоративный поставщик, такой как IBM, имеет смысл. Спорный сервис Rekognition Amazon, хотя он был протестирован довольно многими правоохранительными органами, не очень хорошо продуман в этой области. IBM было бы не очень выгодно пытаться конкурировать с продуктом, который точно так же едва ли достаточно хорош для использования.
В письме Кришны также говорится “что " поставщики и пользователи систем Al несут общую ответственность за обеспечение того, чтобы Al проверялся на предвзятость, особенно когда он используется в правоохранительных органах, и что такое тестирование на предвзятость проверяется и сообщается."Это что-то вроде прощального выстрела для тех, кто работает в этой области, в частности Amazon, которые были вызваны для низкого качества систем распознавания лиц, но не перестали продавать их.
Неясно, будет ли компания продолжать проводить исследования ИИ в этом направлении.
Законопроект, который Кришна пишет в поддержку имеет десятки соавторов в Палате представителей и Сенате, и обращается к широкому спектру вопросов, с которыми сталкиваются полицейские департаменты и те, кто они полиция. Помимо прочего, он расширяет требования к камерам тела, но ограничивает использование распознавания лиц в связи с ними. Он будет предоставлять субсидии на аппаратное обеспечение, но только в том случае, если они используются в соответствии с протоколами, публично разработанными и перечисленными.
В заявлении ACLU, опубликованном в связи с законопроектом, как представляется, согласны с его подходом: “мы должны инвестировать в технологии, которые могут помочь устранить цифровой разрыв, а не технологии, которые создают инфраструктуру наблюдения, которая усугубляет злоупотребления полиции и структурный расизм.”