Интернет все сильнее опутывает человечество: люди постоянно выкладывают в сеть информацию о себе, и ее объемы растут с каждым годом. Компании стремятся обрабатывать эти данные, чтобы повышать прибыли, а государства — чтобы эффективнее управлять населением. Китай с его авторитарным подходом опережает в этом другие страны. Там все последние годы развивается система «социального кредита», оценивающая благонадежность каждого отдельного человека. «Московские новости» разобрались, как работает китайский рейтинг граждан и для чего он нужен КНР.
Искусственный Большой брат
Проникновение технологий искусственного интеллекта (ИИ) в человеческую повседневность — уже не новость. Почти любое наше действие имеет цифровой отпечаток, а значит — оказывается в базах данных и подвергается анализу. Нечеловеческий разум следит за каждым шагом человека, и порой кажется, что мрачное будущее, в котором людьми управляют машины, уже не за горами.
Однако от прогресса не спрятаться — ведь алгоритмы эффективнее, чем люди, справляются с анализом самых разных данных. Такие программы приносят пользу в самых разных направлениях: они нужны при моделировании экосистем, модернизации обучения и медицины. Используют их в том числе и в России: в Москве в начале 2021 года внедрилисистемы, которые анализируют результаты лучевых исследований — рентгена, компьютерной томографии, маммографии — и ставят диагнозы быстрее, чем это делают медики.
Но, пожалуй, крепче всего искусственные помощники пустили корни в финансовой среде, а именно — в кредитовании. Любой банк, выдающий кредиты, оценивает потенциального заемщика сразу по целому ряду признаков: узнает, нет ли у него проблем с законом, достоверны ли данные, которые он предоставил о себе, каков его семейный статус, рабочий стаж и доход. У каждого банка — своя система, оценивающая кандидата по его данным, а за этими данными банки обращаются в государственные источники.
Такое взаимовыгодное сотрудничество существует в большинстве стран: более надежного источника данных, чем государство, банкам не найти. Китайское же государство, и без того располагающее мощными рычагами влияния на бизнес, в конце 2020 года решило собрать все данные, до которых может дотянуться.
11 января агентство Reuters сообщило, что КНР обяжет своих ИТ-гигантов делиться с государством информацией о клиентах, которую затем используют для балансировки кредитного рынка. Кредитные агентства страны передадут эту информацию мелким банкам, позволив им эффективнее бороться против крупнейших фирм в этой сфере. При этом китайское государство уже сейчас обладает глубочайшими базами данных: в них есть даже образцы ДНК, отпечатки пальцев и запись голоса отдельных граждан.
Что ты делал прошлым летом
Сфера еще не до конца зарегулирована Коммунистической партией Китая, хотя все в ней работает с государственной санкции. Ключевую роль в ней играют сверхкрупные игроки: в частности, Sesame Credit, кредитная организация с 400 млн клиентов, принадлежащая к группе компаний Alibaba — владельцу всемирно популярного сайта онлайн-покупок AliExpress. У каждого пользователя Sesame есть баллы рейтинга: от 350 до 950.
Обладатели высокого балла обласканы корпорацией: они получают льготные условия по кредитам, арендуют автомобили без залога, меняют валюту по более выгодному курсу и даже получают без очереди медицинские услуги.
Для таких привилегий нужно грамотно планировать свои расходы и вовремя выплачивать кредиты, а еще желательно купить акции компании — но этого мало. Система учитывает не только финансовую ответственность, но и «добрые дела» клиента: фиксирует, сколько он жертвует на благотворительность, сдает ли кровь, соблюдает ли правила дорожного движения.
Работает это и в обратную сторону: действия, которые считаются антисоциальными, могут понизить рейтинг. Он упадет, если слишком часто переходить дорогу в неположенном месте, устраивать некрасивые ссоры в общественном транспорте, слишком много играть в видеоигры или громко включать музыку, мешая соседям. Те не преминут доложить о неприятном поведении куда следует: такое действие считается признаком благонадежности. Жизнь тех, кто опускается на дно рейтинга, становится несладкой.
Находящихся в черном списке постоянно стыдят. В некоторых городах система распознавания на уличных камерах может выводить их лица на огромные мониторы с соответствующей надписью, если заметит их на перекрестке. Их телефонным собеседникам приходится перед разговором прослушивать сообщение о неблагонадежности человека на другом конце провода.
Их ограничивают и материально: они не могут заранее заказать билеты на поезд или попасть на самолет, купить предметы роскоши, избежать бумажной волокиты, с которой не соприкасаются обладатели высокого рейтинга. Им с большей вероятностью не достанется хорошая вакансия, а их детей не возьмут в лучшие школы.
Китайцам с низким социальным рейтингом отказали в покупке авиабилетов более 2,5 млн раз.
Здесь встречаются совсем жестокие перегибы: так, пекинский юрист Ли Шаолинь не смог выйти из черного списка и застрял в чужом городе без возможности улететь обратно, потому что суд счел его извинения за проступки «недостаточно искренними», а в декабре прошлого года на 9-летнюю девочку возложили ответственность за долги ее отца, осужденного за убийство, — правда, суд затем отменил это решение.
Не всех сразу
Представители китайского государства подчеркивают, что любые недочеты системы — не более чем следствия ее незавершенности. Дело в том, что объявленная в 2021 году централизация сбора данных — невиданный ранее шаг: со времени своего основания в 2014 году система полагалась на частные фирмы и местные органы власти.
Поэтому реализация социального кредита может выглядеть очень по-разному в различных регионах страны: где-то она строже, а где-то мягче, в отдельных районах отличается распределение баллов. В каких-то частях Китая она существует уже давно, а в крупных городах появилась только в 2018-м.
Китайский социальный кредит на сегодняшний момент — не единая структура, а скорее философия, определяющая видение нового, социалистического общества. Индивид в нем формально свободен, но фактически лишен выбора: он сдает государственным структурам информацию о себе и обещает вести себя достойно в ответ на справедливое распределение благ.
9 из 10 городов с самым плотным в мире видеонаблюдением находятся в Китае.
До последних лет это существовало в устоявшейся со времени Мао традиции «данган»: государственных досье, настолько подробных, что в другой культуре это сочли бы за вторжение в личную жизнь. В таких досье, как правило, вложены отзывы, жалобы и доносы соседей и знакомых. Людям, выросшим в такой культуре, уличные камеры с распознаванием лиц не кажутся чем-то недопустимым.
Хотя предполагается, что к данным граждан не получат доступ частные лица, до конца не ясно, как будет вести себя государство. Системы, взвешивающие благополучие гражданина, непрозрачны: пусть в них и задействован ИИ, защищающий от человеческого фактора, но и он не застрахован от ошибок — а ценой ошибки здесь может стать человеческая жизнь.
Из-за того, насколько закрыты для населения точные правила и алгоритмы, распределяющие людей по рейтингу благонадежности, эксперты опасаются, что все это может на самом деле усиливать неравенство, а не сокращать его, а также служить чисто идеологическим инструментом.
Мао слушает нас
Коммунистическая партия Китая действительно не стесняется использовать систему, как бы нацеленную на улучшение морального облика населения для того, чтобы усиливать государственную идеологию. В списке действий, понижающих рейтинг, — в том числе публикация «фейковых новостей», а под такое определение подпадают любые высказывания против государства. Особенно жестко следят за теми, кто пользуется иностранными соцсетями.
Пожалуй, нужнее всего для целей, которые поставило себе китайское государство, система оказывается в Синцзян-Уйгурском автономном округе. Уйгуров — его преимущественно мусульманское население — подозревают в радикализации и склонности к терроризму.
Компьютер и телефон каждого уйгура имеют номер, привязанный к его паспорту, контролируется все, что он напишет в интернете, а живет он, как правило, в городе с одной из самых высоких в мире концентраций видеокамер. Но в такой ситуации находится вся страна, а для магометанского меньшинства правила еще жестче.
Силовики заинтересуются уйгурским гражданином, если он несколько раз проедет необычным путем на работу или выберет подозрительный, по их мнению, путь прогулки. Такой уровень контроля гарантирует, что уйгуры не взбунтуются и не сорвут массовые программы по «перевоспитанию», развернутые в стране.
В китайском городе-миллионнике Тайюань имеетсяприблизительно 120 камер видеонаблюдения на каждую тысячу человек населения.
Беспрецедентно развитая система наблюдения вместе с ИИ и ограничениями в интернете позволяют китайскому режиму менять неугодные ему народы в нужную сторону и добиваться действительно искреннего подчинения от своих граждан. Развернутая структура социального кредита покрывает уже более миллиарда граждан и десятки миллионов компаний.
Многие китайцы заявляют, что они довольны происходящим и быстро привыкли получать баллы за хорошие дела и терять из-за плохих. Как проверить, насколько они честны с репортерами — неясно, но открыто несогласных, скорее всего, с годами будет становиться только меньше.
Компартия Китая в XXI веке открыла для себя инструмент, позволяющий укреплять государственную власть как никогда прежде. Китайская ситуация наглядно показывает: новые информационные технологии далеко не всегда гарантируют большую свободу и независимость от властных структур. Китайцы видят будущее в усилении контроля — и, кто знает, может быть, на их примере мы видим будущее всего остального мира?