Я часто представляю себе этот момент: сидит некий китайский гражданин в кафе, спокойно пьет чай, и вдруг его телефон издает тихий, но зловещий звук. Приложение социального рейтинга мигнуло. Минус 5 баллов. За что? Оказывается, он минуту назад слишком долго смотрел видеоигры в своем мессенджере WeChat, или, может быть, его сосед пожаловался, что он неправильно отсортировал мусор.
Это не сценарий из фантастического триллера, это реальность. И мы, люди Запада, смотрим на китайский «Социальный рейтинг» (Social Credit System, SCS) как на оруэлловский кошмар, как на идеальную диктатуру, где все превращается в черное и белое, нолик и единичку. Китайское правительство, напротив, заявляет, что это инструмент для построения «гармоничного социалистического общества», основанного на доверии и ответственности.
Так что же это на самом деле? Технологии тотального контроля или инструмент эволюции общества? По-моему, это одно из самых грандиозных социальных экспериментов в истории, где ставки — это наша приватность против обещания абсолютного порядка.
Цифровая ДНК гражданина: 160 тысяч параметров для оценки
Если вы думаете, что ваш банковский скоринг — это сложно, то вы просто не видели SCS. Китайская система, разрабатываемая с 2014 года и внедряемая повсеместно, оценивает каждого гражданина по более чем 160 тысячам критериев. Это, по сути, новый вид денег или валюты, основанной не на золоте или долларах, а на вашей репутации и благонадежности.
Система работает как «бесшовный» агрегатор данных, собирая информацию буквально о каждом вашем шаге и действии:
- Поведенческие данные: Купили ли вы слишком много алкоголя или видеоигр (что может намекать на безответственность), курите ли в неположенных местах, как часто навещаете престарелых родителей, или как сортируете мусор.
- Цифровой след: Все транзакции, личная переписка, перемещения, активность в крупнейших китайских сервисах, таких как WeChat и AliPay, которые интегрированы в систему.
- Видеонаблюдение и биометрия: Огромная сеть видеокамер (к 2020 году их число прогнозировалось до 400–600 миллионов), подключенных к системам распознавания лиц и ИИ, которые фиксируют нарушения правил дорожного движения или другие "антиобщественные" поступки.
- Социальные связи: Даже ваши друзья и контакты влияют на ваш рейтинг. Лучше не иметь «неблагонадежных» друзей, иначе ваш рейтинг поползет вниз.
Исходная оценка, как правило, составляет 1000 баллов, и дальнейшая жизнь человека — это постоянная борьба за сохранение или повышение этого статуса. Благодаря такой тотальной фиксации всего, что мы делаем, государство получает возможность полностью просчитать и предсказать поведение человека, то есть во многом контролировать его судьбу.
Кнут: как из-за низкого рейтинга можно лишиться права на полет
Для тех, кто не вписывается в рамки «законопослушных и добросовестных граждан», система превращается в мощный инструмент наказания, который мгновенно ограничивает права человека:
- Транспортный бан: Граждане с низким рейтингом лишаются возможности купить билеты на самолет или скоростной поезд. К началу 2019 года 17,5 млн человек были лишены возможности купить авиабилеты, а 5,5 млн — билеты на поезд.
- Социальная изоляция: Низкий рейтинг может закрыть доступ к высокооплачиваемой работе и даже стать причиной отказа в приеме детей в престижные школы.
- Публичное порицание: В некоторых провинциях имена и фотографии нарушителей могут демонстрироваться на больших светодиодных экранах, а звонящие должникам могут услышать специальный гудок, сообщающий, что человек находится в «черном списке».
- Финансовые ограничения: Отказ в выдаче кредитов или займа.
Даже для руководителей и владельцев бизнеса предусмотрены жесткие санкции: при снижении рейтинга они могут лишиться права занимать руководящие должности, получать госсубсидии или даже покупать недвижимость. SCS – это не просто штраф, это система, которая, как и кастовая система, с пугающей эффективностью навешивает на людей ярлыки и создает новый низший класс «людей с низкой кредитоспособностью».
Пряник: конфуцианская мечта о гармонии
Почему же, несмотря на такие драконовские меры, многие китайцы поддерживают SCS? Исследование в Берлинском техническом университете показало, что до 80% опрошенных интернет-пользователей в Китае положительно относятся к этой системе. И здесь мы должны вспомнить о «прянике» и исторической подоплеке.
- Идеология порядка и доверия. SCS глубоко укоренена в китайской традиции. Конфуцианство ставит чувство долга, солидарность и гармонию выше прав личности. SCS призвана восстановить утраченное в период ускоренной урбанизации доверие и прозрачность на низовом уровне. Цель — «поощрить благонадежных и наказать неблагонадежных», чтобы «достоинство стало распространенной общественной ценностью».
- Эффективность и удобство. Граждане ценят, что система повышает безопасность и борется с мошенничеством и коррупцией. Высокий рейтинг дает реальные бонусы: льготные кредиты, возможность арендовать машину или гостиницу без залога. В итоге многие воспринимают слежку как допустимую цену за первоклассные бесплатные услуги и повышенную безопасность.
- Социальные лифты. SCS призвана не только наказывать, но и поощрять развитие и самосовершенствование граждан, которые демонстрируют лояльность и активную общественную деятельность (например, благотворительность или заботу о пожилых). По сути, общество «социального кредита» — это эволюционный социализм с принципом «вы можете купить это, если вы этого достойны», а не классический капитализм с логикой «любой каприз за ваши деньги».
От «удобного человека» к тотальному контролю
Самая пугающая часть этой системы — ее потенциал. Критики справедливо указывают, что это не просто мониторинг, а создание «полиции особого мнения».
ИСИ-системы, используемые в SCS, позволяют чиновникам и алгоритмам знать о гражданах все, устраняя информационную асимметрию, но при этом сами чиновники остаются закрытыми от контроля общества. Это создает огромный дисбаланс власти.
Проблема в том, что алгоритмы непрозрачны и, будучи написаны людьми, могут нести в себе бессознательные стереотипы и предвзятость. Например, алгоритм может снять баллы за то, что вы «слишком много играете в видеоигры» или общаетесь с людьми с низким рейтингом. При этом, если алгоритм ошибается (как в случае с моделью, которую камеры распознали как многократную нарушительницу ПДД из-за ее фото на автобусе), человеку с критически низким рейтингом могут закрыть даже доступ в интернет, лишив его возможности обжаловать решение.
ИТ-гиганты, по сути, предлагают «управление через удобства» — мы меняем свою самостоятельность и приватность на возможность дешево или бесплатно пользоваться привлекательными и удобными сервисами.
Этот механизм, хотя и начинался как средство для оценки финансовой кредитоспособности, неуклонно превращается в инструмент тоталитарного контроля, где все, что вы делаете, в любое время и в любом месте, может повлиять на ваши шансы получить работу, банковский кредит, или даже спутника жизни.
Китайский социальный рейтинг — это не просто региональная экзотика. Это прецедент, который демонстрирует, что технологический прогресс может быть использован не для расширения, а для ограничения выбора граждан. Мы находимся на той самой развилке, когда необходимо решать, в какую сторону двигаться: к тотальному информационному контролю со стороны государства (китайский путь) или к господству информационных корпораций (капиталистический путь).
Сможем ли мы найти ту «золотую середину», где технологии служат обществу, а не наоборот? Или мы обречены жить в мире, где наш статус, наша ценность и наша судьба будут зависемы от милости алгоритма?