Власти Вашингтона внедрили десятки алгоритмов на основе искусственного интеллекта, помогающих управлять городом.
Власти Вашингтона внедрили десятки алгоритмов на основе искусственного интеллекта, помогающих управлять городом.
Правозащитники насчитали 29 малоизвестных программ, которые используются для проверки заявителей на получение жилья, прогнозирования рецидивов преступлений, выявления мошенничества с продовольственной помощью, принятия решений о вынесении приговора молодым правонарушителям и многих других решений. Почти 700 тысяч людей живет отчасти по законам алгоритмов, при этом, многие об этом даже не знают.
Некоммерческая организация Electronic Privacy Information Center (EPIC) потратила 14 месяцев на расследование использования алгоритмов в городе и обнаружила, что они использовались в 20 государственных агентствах – более трети из них были задействованы в полиции или уголовном правосудии.
Городские власти не предоставляют полную информацию об используемых технологиях. Команда проекта пришла к выводу, что город, вероятно, задействует больше алгоритмов на основе ИИ, которые активисты не смогли обнаружить.
Отмечается, что многие города незаметно внедрили алгоритмы, которые помогают принимать решения, влияющие на жизнь граждан.
Правительственные учреждения часто обращаются к автоматизации в надежде повысить эффективность или объективность бюрократических процессов. Однако, было обнаружено, что некоторые системы дискриминируют людей, в том числе на основании цвета кожи, а также приводят к решениям, которые разрушают человеческие жизни. Так, например, в Мичигане алгоритм обнаружения мошенничества при безработице «наштамповал» 40 тысяч ложных обвинений в правонарушениях.
Активисты считают, что все алгоритмы государственных властей должны быть открыты и подотчетны обществу.