Окружная прокуратура Сан-Франциско (США) анонсировала "первое в стране" использование искусственного интеллекта для снижения предвзятости в подготовке обвинительных заключений, пишет издание "The Verge". Теперь государственные обвинители будут знакомиться с "обезличенными" уголовными делами, в которых не будет ни имени обвиняемого, ни любой другой информации, которая позволит ассоциировать его по расовой принадлежности. Об этом позаботятся алгоритмы машинного обучения (ИИ).
"Если вы посмотрите на заключенных, то доля цветных мужчин и женщин будет непропорционально велика", - заявил на пресс-конференции окружной прокурор Сан-Франциско Джордж Гаскон. Он отметил, что, увидев в деле имя, схожее с "Эрнандесом", прокурор сразу сделает вывод о латиноамериканском происхождении обвиняемого, что может повлиять на результат, в том числе меру пресечения, срок наказания и т.д.
Прежде в Сан-Франциско использовалась "ручная" процедура для "обезличивания" материалов дел: город просто удалял первые две страницы документа с личной информацией об обвиняемом. Однако прокуроры видели весь остальной отчет, из которого они могли, по различным фактам, весьма точно понять кому предъявляется обвинение.
Однако уже к 1 июля текущего года прокуратура начнет внедрять новый инструмент, созданный на основе алгоритмов искусственного интеллекта, который будет эффективно удалять из материалов дел любую информацию, которая бы позволила установить или предположить расовую принадлежность обвиняемого. Новый инструмент предназначен ля того, чтобы не допустить влияния расовых предрассудков и прокуроров на принятии решения о привлечении кого-либо к ответственности за совершение преступления.
Перед передачей материалов дела прокурорам, алгоритм обнаружит и удалит из не только описание расы обвиняемого, но и другие сведения, такие как цвет глаз и цвет волос, а также имена людей, мест и районов, которые могли бы сознательно или неосознанно дать прокурору понимание того, что подозреваемый имеет определенную расовую принадлежность. Инструмент также удалит подробности о сотрудниках полиции, включая номера значков, поскольку, если прокурор окажется лично с ними знаком, он может быть предвзятым к их заявлениям.
Офис окружного прокурора называет это "первым в США" использованием ИИ-технологии, заявляя, что не знает ни одного агентства, которое сделало бы это ранее. "Мы должны были создать машинное обучение вокруг этого процесса [эффективного обезличивания всех материалов в деле], - сказал Джордж Гаскон.
"ИИ-судьи" уже решают отправить в тюрьму или освободить под залог, но технологические гиганты возражают". Читать
"Как Китай "революционизирует" систему судопроизводства". Читать
Новое решение было разработано Алексом Чолас-Вудом и его командой из Стэнфордской лаборатории вычислительной политики, которые также помогли управлению полиции Нью-Йорка разработать решение "Patternizr" для автоматического выявления серийных моделей преступлений. Чолас-Вуд говорит, что новый инструмент для прокуроров - это просто "легкое веб-приложение", которое использует несколько алгоритмов для автоматического редактирования полицейских отчетов, распознавая слова с использованием компьютерного зрения и заменяя их общими фразами, такими как "местоположение", "офицер №1" и т.д.
Чолас-Вуд говорит, что инструмент находится на заключительных этапах создания, был разработан бесплатно для офиса окружного прокурора и будет доступен для других пользователей через несколько недель. Чолас-Вуд говорит, что, наряду с другими алгоритмами, он использует специальную технологию, названную им "распознаванием именованных объектов", чтобы определить, области, нуждающиеся в редактировании (замене).
В России. Осенью 2018 года сообщалось, что Генеральная прокуратура России планирует к 2025 году внедрить систему "высокотехнологичного надзора", основанную на инструментах "мягкого искусственного интеллекта" ("Soft AI") и обработки больших массивов данных ("Big Data"). Начало этому проекту было положено государственной закупкой научно-исследовательского института "Восход", подведомственного Министерству цифрового развития. Исполнителем по контракту стала компания ООО "Центр хранения данных" Ростелекома. Помимо ИИ и больших данных, проект предполагал внедрение других перспективных технологий: автоматическое выявление нарушений, удаленный доступ к информационным системам для работников прокуратуры, а также появление "объективной, полной и достоверной информации о состоянии преступности и результатах борьбы с ней".
В Китае. Технологии обработки больших данных и искусственный интеллект уже использует прокуратура Китая. По сообщениями официальных СМИ, новые решения помогают прокурорам находить прецеденты в базе из более чем 20 млн юридических документов и готовить дела к суду.
Понравился пост? Поставьте 👍 или поделитесь им в социальной сети, чтобы мы могли рассказать ещё больше о новых технологиях.
Полная лента новостей - на телеграм-канале "Умная безопасность" (@smartsafecity).