Генеральный директор IBM Арвинд Кришна заявил в понедельник, 8 июня, что компания больше не будет разрабатывать или предлагать программное обеспечение общего назначения для распознавания лиц или анализа. В письме, адресованном Конгрессу, которое было написано в поддержку Закона о справедливости в полицейской деятельности 2020 года, Кришна выступил за новые реформы для ответственного использования технологий и борьбы с систематической расовой несправедливостью и неправомерными действиями полиции.
«IBM решительно выступает против и не будет потворствовать использованию каких-либо технологий, включая технологию распознавания лиц, предлагаемую другими поставщиками, для массового наблюдения, расового профилирования, нарушений основных прав и свобод человека или любых целей, которые не соответствуют нашим ценностям и принципам Доверия и прозрачности », - написал Кришна в письме.
Кришна, который вступил в должность исполнительного директора в начале этого года в апреле, добавил, что пора Конгрессу начать национальный диалог о последствиях технологии распознавания лиц и о том, как «следует использовать местные правоохранительные органы».
Генеральный директор также выразил обеспокоенность по поводу расовых предрассудков, которые сегодня часто встречаются в системах искусственного интеллекта. Кришна также призвал к усилению надзора за аудитом инструментов искусственного интеллекта, особенно когда они используются в правоохранительной и национальной политике, которая «обеспечивает большую прозрачность и подотчетность полицейской деятельности, такой как камеры наблюдения и современные методы анализа данных».
Люди, знакомые с этим вопросом, сообщили, что смерть Джорджа Флойда и сопутствующая ему смена внимания на темы полицейской реформы и расового неравенства заставили IBM закрыть свои продукты для распознавания лиц.
За последние несколько лет системы распознавания лиц значительно продвинулись благодаря разработкам в таких областях, как машинное обучение. Однако без какого-либо официального надзора им было разрешено работать нерегулируемо и нарушать конфиденциальность пользователей. В частности, технология распознавания лиц была выдвинута на передний план общенациональной дискуссии стартапом под названием Clearview AI, который смог создать базу данных из более чем 3 миллиардов изображений, в основном зачищая сайты социальных сетей. С тех пор Clearview столкнулась с негативной реакцией со стороны таких компаний, как Twitter, и в настоящее время занимается множеством судебных исков о конфиденциальности.
Сообщается, что Clearview AI также используется правоохранительными органами во время продолжающихся акций протеста BLM в Соединенных Штатах Америки. Эксперты утверждают, что эти системы могут неверно идентифицировать людей, поскольку они в основном обучены на белых мужских лицах.