Социальный рейтинг - цифровой лагерь (цифролаг)? Ты кто: неблагонадежный или образцовый? Может ли вердикт человеку выносить искусственный интеллект? А если он ошибется? В каких странах и как внедряется социальный рейтинг? Что делается у нас?
Вы думаете это фантазия или утопия? Ничуть. Это то самое цифровое будущее, которое почти настоящее. Нравится кому-то это или не нравится, готов он смириться с тем, что его тоже посчитали или не готов, но от персональных хотелок мало что зависит, особенно не зависит активно внедряемая цифровизация. И в этом плане нынешняя эпидемия – повод для ускоренной разработки и внедрения новых механизмов контроля за человеком, и влияния на его поведение.
Написать эту статью меня подтолкнуло насаждение в Москве QR кодов для посещения заведений общепита в период сложной эпидемиологической ситуации в столице. Попытки цифрового контроля это не новый аккорд в нашей с вами действительности. Наглядный пример - программа «Социальный мониторинг», которую устанавливали во время второй волны эпидемии в телефоны инфицированных москвичей с тем, чтобы отслеживать соблюдение карантина. Подобная программа и подобные ограничения внедрялись и в других странах, поэтому здесь мы не уникальны. Вопрос лишь в том, куда все это идет? Является ли это тренировкой по внедрению системы социального рейтинга граждан? Плохо это или хорошо? Попробуем разобраться.
Ты кто: неблагонадежный или образцовый?
Впервые с подобной системой я столкнулась в Китае, когда несколько лет назад по рабочим делам проехала страну с севера на юг, посетив восемь китайских провинций. Общаясь с местным населением, я обратила внимание на то, что они постоянно сидят в Вичате (WeChat), называемом там еще Weixin – мессенджере, но с очень широким функционалом. Что тогда поразило, так это то, что мессенджер этот очень плотно интегрирован в обычную жизнь человека и формирует рейтинг каждого пользователя, на основании которого, например, человеку могут отказать в кредите, не продать билет на самолет и ограничить в разных правах. Не просто социальная сеть или место для переписки, это целый банк данных о поведении человека, в том числе, система платежей и глубоко проработанная идентификация каждого пользователя. Здесь уже не только учет и контроль, когда всех посчитали, это полноценное отслеживание поведения человека и ретрансляция этого поведения в социальный рейтинг - от неблагонадежного до образцового, в зависимости от того, насколько человек отвечает общественным целям и общественным ценностям. Самое главное, это действенный инструмент влияния на поведение человека.
Социальный рейтинг. Как это работает?
Социальный рейтинг – это оценка деятельности человека в режиме реального времени в рамках оценочной шкалы или заданных критериев. Производится такая оценка искусственным интеллектом (ИИ) на основании анализа огромного массива данных о человеке, его фактических и прогнозируемых поступках, поступающих из разных источников в единый центр обработки ИИ. Источниками информации о человеке являются мобильные телефоны, банковские карты, социальные сети, интернет-запросы человека, внешние камеры видеонаблюдения (уличные, в торговых центрах, на транспорте, в подъездах и др.) и даже собственный дом. Купил человек сто граммов колбаски, взял напрокат автомобиль, улетел отдыхать на море, вовремя не погасил кредит, не заплатил налоги, нарушил правила дорожного движения, участвовал в драке или вышел на митинг – ИИ тут же все знает, обрабатывает, подсчитывает и выводит индивидуальный социальный рейтинг каждого человека. Плохой рейтинг – человек тут же лишается приятных коврижек: бонусов, скидок, возможности взять товары в кредит, и даже помидорчики в супермаркете для него стоят дороже, чем для благонадежного, а за пределы страны он вовсе выехать не может. Одним словом: иметь плохой социальный рейтинг дорого и очень невыгодно, и если что, то сразу отключат свет, воду и … интернет.
Первые пробы и перспективы
Социальные индикаторы известны еще с 60-х годов прошлого столетия и постарались в этом США. Первые попытки банковского рейтинга появились в девяностых, когда банки начали формировать кредитную историю человека и компании, на основании которой принималось решение о выдаче кредитов, предоставлении банковских гарантий и оформлении страховок. Идеологом внедрения кредитного рейтинга выступил тогда Всемирный банк, мотивируя это, как всегда, благими намерениями: не допустить закредитованности населения.
В начале 2000 годов на базе банковского рейтинга начала формироваться система социального рейтинга и как раз Китай первым начал эту систему активно внедрять. Что в ней учитывается? Критериев много, но основные блоки это:
- · отношение человека с государством: уплата налогов, штрафов, законопослушность и пр.;
- · поведение человека в обществе: кредитная история, волонтерство, этическое ведение бизнеса, отношения с работодателями, соблюдение общественного порядка и норм поведения (например: курил в поезде, буянил в самолете, ругался в магазине);
- · поведение человека в социальной сети: корректность высказываний, качество размещаемой информации и пр.
Откуда берутся данные?
На данном этапе развития системы рейтинг китайского гражданина складывается из 3 источников.
Первое: рейтинг черных списков (попадают неблагонадежные) и красных списков (образцовые граждане). Черные списки находятся в открытом доступе и по персональному ID можно проверить любого человека по разным категориям (судимости, мошенничество и пр.). Есть люди, которым запрещено пользоваться самолетами, поездами и пр. (отдельные списки). Заносят туда без суда сами транспортные компании за нарушения на вокзалах и на транспорте: курил, дрался, буянил – получай черную метку. Также занести могут по решению суда (не уплатил алименты, за кражу, грабеж, убийство и пр.). Красные списки тоже в открытом доступе – это награжденные орденами и медалями, меценаты, почетные граждане и пр.
Второе: рейтинг центрального банка (кредитная история).
Третье: рейтинг частных компаний (Алибаба, Вичат и др.).
Каждому гражданину Китая дается стартовый капитал 1000 очков. Он может уменьшаться или увеличиваться за счет плохих или хороших поступков: максимум 1300 минимум 600. Вот лишь некоторые из критериев оценки: кнут и пряник.
Кнут и пряник
Что бывает за хороший социальный рейтинг?
- · Приоритет при поступлении в учебные заведения и на работу.
- · Облегченный доступ к кредитам
- · Каршеринг без депозита
- · Бесплатный фитнес
- · Скидки на проезд в общественном транспорте
- · Ускоренное предоставление медицинских услуг и социального жилья
- · Ускоренное продвижение по службе, снижение налогов
Что приводит к повышению рейтинга?
- · Участи в благотворительности
- · Забота о пожилых родственниках
- · Положительные примеры для окружающих
- · Сдача крови
- · Помощь бедным
- · Хорошая кредитная история
- · Героические поступки
Что бывает за плохой рейтинг?
- · Отказ в предоставлении социальных услуг
- · Отказ в бронировании билетов на самолеты и скоростные поезда
- · Усложнение получения кредитов
- · Невозможность работать в государственных структурах
- · Невозможность поступления в государственные учебные заведения
- · Публикация в СМИ и общественных местах имен и фотографий людей с низким рейтингом (общественное порицание)
- · Установка на гудках в мобильных телефонах предупреждений: «Вы звоните бесчестному человеку»
Что приводит к ухудшению рейтинга?
- · Нарушение ПДД
- · Участие в акциях протеста
- · Непосещение родственников
- · Антиправительственные посты в соцсетях
- · Распространение слухов в интернете
- · Оправдание преступлений
- · Участие в культах
- · Мошенничество в онлайн играх
Волшебная палочка/дубина государства
Пока даже в Китае единая система, охватывающая все аспекты жизни человека, не создана. Но именно WeChat, которым пользуются 94% населения, на сегодняшний день является самым доработанным инструментом формирования социального рейтинга.
Надо учитывать то, что отдавать частным компаниям полный контроль над рейтингом граждан государство не будет – это исключительно его волшебная палочка/дубина, которой оно ни с кем делиться не будет. Создание единой государственной системы формирования социального рейтинга гражданина – следующий большой шаг государства и это вопрос уже вовсе не из области фантастики, а из ближайшего будущего.
Последствия. А как же Конституция?
Ранжирование людей по рейтингу будет иметь для человека далеко идущие последствия, оказывающие влияние на его природное право распоряжаться собственной жизнью. Например: не выполнил план по рождению детей, сделала женщина аборт, сменил человек место жительства, не пошел работать по специальности – тут же минус в рейтинге, что, соответственно, мгновенно скажется на качестве жизни. Это уже манипуляция поведением человека вопреки его воле.
Какой и когда критерий рейтинга будет добавлен – зависит только от задач тех, кто управляет обществом. В определенный момент социальный рейтинг может стать определяющим во всей судьбе человека: чем ниже в рейтинге окажется человек, тем ему будут менее доступны возможности, чтобы оттуда выбраться. Человек имеет все шансы стать вечным «рабом» своего рейтинга. А что, если кто-то нечестным путем захочет улучшить свой рейтинг, или, наоборот, чей-то понизить? А что, если ИИ допустит ошибку? А как же Конституция, которая имеет высшую юридическую силу? Вопрос открыт.
Следующий шаг
Вполне логично, что за внедрением системы социального рейтинга в одной стране, последуют внедрения и в остальных. Конечно, в каждой стране свои ценности и свои задачи у правительства, поэтому на первом этапе социальные рейтинги будут национальными, как валюта сейчас. А вот дальше начнется самое интересное: внедрение социального рейтинга на общемировом уровне. Думаете это утопия? Ничуть. Доллар же стал общемировой валютой, правда, после войны, но ради «великих» целей такой пустяк, как глобальный конфликт, быстро организуют. Потом скажут, что ценности какого-то государства не соответствуют общемировым, и тут же насадят социальный рейтинг доминирующей по праву сильного страны.
Вы думаете, что и это фантастика? Увы.. и если бы… В реальности все прозрачней и гораздо ближе. Еще в ноябре 2012 года на XVIII Всекитайском съезде КПК генеральным секретарем ЦК КПК Си Цзиньпином была принята концепция «Сообщество единой судьбы человечества». Она предусматривает построение человеческого сообщества в глобальном масштабе, основанного на взаимном уважении в соответствии с китайским этнокультурным представлением о гармоничном и справедливом мире. Именно с целью внедрения этой концепции КНР кроме банковской кредитной системы начал активно внедрять рейтинговую модель на всю систему социально-экономических процессов населения. Внедрение этой модели позволяет не просто мониторить китайское общество, но и активно им дирижировать, управляя поведением каждого человека.
Вам кажется, что дела далекого Китая нас не касаются? Во-первых, не такого уж далекого – у нас общая граница. А во-вторых, вспомните экономика какой страны сейчас наступает на горло и карман США? Кто быстрее всего развивается, крепнет и размножается? В третьих, у кого самая проработанная и действенная модель социального рейтинга?
Что сейчас? Когда в друзьях согласья нет… Может это и не плохо?
На сегодняшний день мнения стран по отношению к социальному рейтингу разнонаправленные, прямо, как среди персонажей басни Крылова «Лебедь, Щука и Рак»: от полного неприятия до активного внедрения. Как знать, быть может это и не плохо. В апреле 2021 Еврокомиссия предложила запретить внедрение технологий ИИ (постановление «О европейском подходе к искусственному интеллекту», HRAIS), которые используются для массового наблюдения. Но это пока лишь предложение – примут его или нет станет известно очень скоро. Китай демонстрирует противоположную позицию. Россия, как всегда, где-то посередине, причем, в активной фазе.
Так, в Санкт-Петербурге готовится перенастройка информационный системы «Единая карта петербуржца» (ЕКП) таким образом, чтобы в ней можно было помечать профили владельцев, вызывающих подозрение. С этой целью на сайте государственных закупок размещен запрос цен на выполнение работ по развитию системы ЕКП, в техзадании к которому в числе прочего возможность установки метки «Подозрительный» для держателя карты ЕКП при просмотре данных профиля. Рядом пункты по интеграции с биржами труда, библиотеками, активности держателя ЕКП в опросах, голосованиях, и конечно, начисление бонусных баллов за активности.
В том или ином виде экосистемы и специальные сервисы уже давно собирают данные. Так в страховых компаниях есть понятие понижающего или повышающего коэффициента, в банках это кредитные истории граждан и юридических лиц - подобных практик уже достаточного много.
Стадионы Российской премьер-лиги в новом сезоне примут участие в проекте по добровольной идентификации зрителей. В ходе эксперимента будет задействован портал "Госуслуги", единая биометрическая система (ЕБС), информационные системы доступа стадионов, информационная система идентификации болельщиков (СИБ).
Конечно, пока это первые экспериментальные шаги, но надо понимать, что в дальнейшем их объединят в единую систему, призванную не просто фиксировать, но и управлять поведением человека, направляя его в нужную сторону. Помните, как в одной из серий фильма "Черное зеркало" граждане поголовно крутили педали велосипедов, вырабатывая "зеленую" электроэнергию и зарабатывая свой социальный рейтинг, а в голову им при этом вливалась информация с телеэкранов, за отключение которой требовалось платить баллами своего рейтинга. Сейчас мы платим за подключение телевизионных каналов, а на следующем этапе будем платить, чтобы от них избавиться. Право думать самому станет дорогим удовольствием.
Поэтому, вопрос не в том, плохо или хорошо, что о нас собирают информацию - это уже данность, а в том, что общество может разделиться на образцовых и неблагонадежных, а рейтинговая метка в карточке человека может стать пожизненным клеймом цифрового лагеря. Но и это еще не все: вердикт человеку будет выносить ИИ. Будущее становится настоящим. Вы готовы к этому?
По традиции после каждого материала я размещаю интересные фотографии или видео. Сегодня уникальное и прекрасное сооружение - Троицкий мост в Санкт-Петербурге, точнее, раскрытый днем ее пролет. Мое видео об этом: «Раскрытый днем разводной пролет Троицкого моста - уникальное событие. Загадай желание. Мой Санкт-Петербург»
#психология #технологии #it #общество #социальный рейтинг #санкт-петербург #власть #управление людьми #история #наука