Представьте себя на месте китайского коррумпированного чиновника, представьте, что против вас выступает система «Zero Trust», с могучим и безжалостным ИИ во главе. Искусственный интеллект отслеживает каждый шаг госслужащих и каждая подозрительная транзакция, в которой фигурирует ваше имя, или имя родственника — сигнал к началу расследования. Как избежать проблем с законом? Ответ на этот вопрос будет дан в сегодняшем материале Season Passed.
Те читатели, кто следит за технологическими новостями, знают, что Китай лидирует в «гонке вооружений» с США, в области прикладного применения ИИ. Государственный аппарат «поднебесной» насчитывает свыше 50 млн. человек, по состоянию на 2016 год. И всей этой неповоротливой бюрократической машине как воздух необходима четкая организация, не допускающая провалов и ошибок. На помощь стране пришел ИИ, чему содействовал и президент КНР, Си Цзиньпин.
Остановимся на конкретном показательном случае применения ИИ в Китае, на результатах работы антикоррупционного решения под названием Zero Trust, в переводе на русский — «Нулевое доверие».
Zero Trust — это продукт совместной разработки Компартии КНР и Академии наук Китая, созданный для мониторинга, оценки или вмешательства в работу и личную жизнь государственных служащих. Антикоррупционный ИИ способен оперировать информацией из более чем 150 защищенных баз данных центральных и местных органав власти одновременно, для создания сложных многоуровневых карт социальных взаимоотношений государственных служащих, а так же для выявления фактов подозрительной передачи собственности, незаконного приобретение земли и т.д.
Zero Trust так же с легкостью находит и необычный прирост сбережений на банковском счёте, и внезапную покупку нового автомобиля, и торги по государственному контракту на имя чиновника, членов его семьи или друзей. Как только результаты проверки начинают превышать допустимый порог «коррумпированности действия» — власти получают соответствующее уведомление. На этом этапе, по словам источника, пожелавшего остаться неизвестным — шанс на положительный исход для чиновника все еще присутствует. Руководитель надзорного органа может связаться с человеком, чьи действия привлекли внимание ИИ, чтобы помочь уйти с точки невозврата, встать на путь исправления, если ситуацию возможно исправить с минимальными потерями. Если же этого не происходит — в дело вступают правоохранительные органы. Словом, совсем бесчеловечным «Нулевое доверие» назвать нельзя.
«Главное, в ходе следственных действий не выйти на самих себя.» © Генеральный прокурор СССР Андрей Вышинский.
Благодаря ИИ, удалось обнаружить около 9 тысяч правонарушений, и это учитывая то, что система работала в двух десятках городов и регионов Китая. Посыпались многочисленные жалобы чиновников на то, что исполнять обязанности под бдительным взглядом Zero Trust стало затруднительно. Указывали и на проблемные моменты в работе ИИ. Так, антикоррупционная разработка выявляла нарушителя, но не могла раскрыть причины коррупционных или попадающих под это определение действий госслужащих. Расследование каждого отдельного случая требовало привлечения множества людей и ресурсов, что в свою очередь, не всегда приносило плоды, а рассмотрение дела зачастую растягивалось на многие месяцы, в то время как правоохранительным органам и без того хватало проблем.
Итогом спорной ситуации вокруг «Нулевого доверия» стало отключение системы в большей части регионов, участвовавших в программе. И судя по всему, сопротивление чиновников не позволит развернуть Zero Trust по всему Китаю в обозримом будущем.
Источник на английском: Is China’s corruption-busting AI system ‘Zero Trust’ being turned off for being too efficient?
Фото: Stefan Dr. Schulz с сайта Pixabay