http://2035.media/2018/02/08/digital-totality/
Технологии big data вскоре могут сделать антиутопии реальностью. Если, конечно, человечество не будет сопротивляться
Электронные платежи, интернет вещей и онлайн-торговля, повсеместные видеокамеры слежения и приложения для контроля. А главное — интеграция множества баз данных, от паспортного стола до медицинской карты…
В погоне за бытовыми удобствами (для человека) и дешевизной обслуживания (для государства и коммерческих сервисов) мы за последние 20 лет создали всеобъемлющую «датасферу», в которой практически каждый наш шаг посчитан, запротоколирован, а протокол найден достаточно легким, чтобы быть сохраненным навечно. Где-то там, в недрах серверов и облачных хранилищ, где всемогущая big data знает про нас решительно всё.
Это знание — если на его основе постоянно делать выводы о всех особенностях поведения человека — может стать базисом именно того технократического тоталитаризма, о котором ровно сто лет как предупреждают общество авторы романов-антиутопий. Почему, собственно, нет, если Система знает о нас всё и может поощрять и наказывать любого в рамках заданных алгоритмов? Евгений Замятин, Олдос Хаксли, Джордж Оруэлл и другие глобально ошиблись лишь в одном: в классических антиутопиях технототалитаризм процветает в странах западного мира. Тогда как в реальности пионером освоения этой технологии уже сейчас становится Китай.
Китай: честность за баллы
«Нужно крепко взяться за создание системы оценки надежности, покрывающей все общество. Нужно совершенствовать как механизмы поощрения законопослушных и добросовестных граждан, так и механизмы наказания тех, кто нарушает закон и утратил доверие, чтобы человек просто не осмеливался, просто не мог потерять доверие».
Это — слова Председателя КНР Си Цзиньпина, сказанные на заседании Политбюро ЦК КПК в декабре 2016 года. Система социального кредита в КНР была анонсирована в 2014 году, а в 2020 в нее должны быть включены уже все жители материкового Китая. Цель программы — построение гармоничного социалистического общества, где каждый будет честен во всем — от правил дорожного движения до уважения к соседям и родственникам. Проще говоря, получив всепроникающую цифровую ойкумену, китайское государство решилось вновь приступить к воспитанию коммунистического человека. Теперь — на базе «электронного ошейника».
Вообще-то и раньше Китай — особенно при коммунистах — тяготел к чему-то в этом духе. Еще во времена Мао Цзэдуна государство собирало на каждого гражданина личное дело — так называемое «дань-ань». Другое дело, что с бумажными технологиями не слишком разгуляешься: за каждым сиюминутным решением в духе «со скидкой или без скидки продать гражданину Ли авиабилет, а может, не продавать вовсе?» в паспортный стол не пойдешь. То ли дело теперь, когда информация — действительно на кончиках пальцев.
Итак, каждому гражданину система изначально присваивает некий нейтральный рейтинг — условных 1000 баллов и литеру А. И каждый день, каждым своим поступком человек может либо увеличить свой рейтинг, либо «просадить» его. Увеличить — за отсутствие нарушений, полезную общественную деятельность, пунктуальность в оплате ЖКХ и кредитов и так далее. Уменьшить — если превышает скорость, просрочивает платежи, перебегает дорогу в неположенном месте. «Вишенка на торте»: граждане при помощи специального приложения на смартфоне могут сообщать о нарушениях других, и доносчику — не первый кнут, как в отечественной поговорке, а лишние 5 баллов в «карму».
На рейтинг могут влиять не только прямые нарушения (скажем, на дороге), но и косвенные данные, которые — как установлено специалистами — обычно говорят об общественной небезопасности человека. Например, список покупок в супемаркете: эти данные ведь тоже аккумулируются оператором платежной системы. Если уже упомянутый гражданин Ли регулярно закупается пивом или чем покрепче — рейтинг ползет вниз: явно же, что пьяница! Покупает лекарства — предположительный диагноз тут же влияет на рейтинг. Записывается в фитнес-центр — молодец, получи пару десятков баллов.
На что влияет социальный рейтинг? Довольно много на что. Кредиты, приоритетность в получении госуслуг, право на пользование теми или иными видами транспорта. Совсем плохо — тем, у кого рейтинг упал до 599 и менее пунктов (литера D). Им, как уже сообщили в правительстве Китая, нельзя будет работать в госучреждениях, занимать руководящие должности в пищевой и фармацевтической промышленности, обучать детей в дорогих частных школах и даже летать самолетами и ездить в спальных вагонах. Пенсия таким неблагонадежным людям будет не положена, и даже в хороших ресторанах и гостиницах их не ждут.
Один из регионов, где эта система уже запущена в пилотном режиме — мегаполис Ханчжоу. Журналисты The Wall Street Journal, изучавшие в городе работу системы, сообщают о конкретных случаях изменения социального рейтинга. Так, по сообщению одного из китайских юристов, местный бизнесмен — владелец турфирмы — проиграл в суде тяжбу с хозяином квартиры, которую снимал. И поплатился тем самым драматическим понижением рейтинга: он не только вынужден был выплатить истцу значительную сумму, но и лишился права летать в самолетах (что поставило под угрозу и его бизнес). Другие случаи понижения рейтинга, которые заметили обозреватели американской газеты, были связаны с нарушениями правил дорожного движения и… превышением официально рекомендуемого количества детей на семью. Напомним, с 2016 года китайцы могут иметь не одного ребенка на семью, как было установлено еще в 1979 году для решения проблемы демографического бума, а двоих.
В учете и сборе данных китайскому правительству помогают национальные интернет-сервисы: прежде всего, онлайн-гипермаркет Alibaba с собственной платежной системой Alipay, китайские мессенджеры и даже сайты знакомств. Alibaba имеет собственную рейтинговую систему Sesame Credit, которая классифицирует клиентов, исходя из их потребительского поведения по шкале с 350 до 950 баллов. Пользователям с рейтингом от 600 баллов предоставляют беззалоговый кредит на $800 для покупок онлайн, с 650 — льготная аренда автомобиля.
В эпоху кризиса доверия коммуникация людей приобретает новые формы
США и Европа: частный бизнес как амортизатор
В странах «золотого миллиарда” проникновение big data в человеческую жизнь, пожалуй, еще сильнее, чем в Китае. По крайней мере, в КНР оплата товаров и услуг наличными все еще куда популярнее, чем, например, в Скандинавии. Так, в Хельсинки и Стокгольме уже сейчас работает множество «безлюдных» отелей-автоматов, в которых расплатиться наличными принципиально невозможно. Уже как минимум десятилетие наличный расчет не принят в аренде автомобилей. И даже скандинавские банки все чаще отказываются от операций с наличными как стандарта: в столице Финляндии бумажные деньги из банков возьмет только валютообменный Forex. И тем не менее, о полномасштабной цифровой диктатуре на китайский манер на Западе пока не слышно.
Хотя управление социумом при помощи big data актуально и для Китая, и для США, есть некоторая разница в подходах, — отмечает Памела Кроссли, профессор Дартмутского колледжа. — Прежде всего, правительство КНР не стремится передавать задачи сетевой цензуры и слежки “на аутсорсинг” частным компаниям (во многом, кстати, из-за того, что отрасль big data в Китае по-прежнему во многом контролируется американскими компаниями). Что касается США, то у нас соответствующие компании – частные, но находятся в тесном сотрудничестве с государством. Это выгодно не только государству, но и бизнесу: в рамках программы государственного контроля они продвигают еще и свои частные бизнес-задачи.
Цифровая индустрия в Китае, кроме того, куда более однородна, чем в Штатах, добавляет исследователь. Здесь почти нет небольших стартапов – коммерческое законодательство КНР затрудняет вхождение на рынок и бережет от конкуренции большие, дружественные государству корпорации. А раз нет небольших стартапов – то практически не развиты прокси-серверы и VPN, которые могли бы ослабить «цифровой ошейник” государства. Правда, эта особенность цифровой отрасли может сослужить Китаю плохую службу, предсказывает Кроссли: гонясь за тотальным контролем сети, власти теряют в производительности сетей, а значит – в перспективе могут отстать от общемирового прогресса.
В США и Европе продвижение «цифрового тоталитаризма» тормозится обычными человеческими инстинктами, замечает Памела Кроссли. «Неаккуратность в использовании персональных данных пугает граждан ровно так же, как и аккуратный сбор всей информации», — говорит профессор. Однако есть нюанс: если к сбору информации государством американцы относятся традиционно подозрительно, то коммерческие компании в общественном мнении – совсем другое дело. Поэтому тот же самый американец, который десять раз поморщится, прежде чем оставить «цифровой след» в государственном ведомстве, добровольно и с радостью заполняет многочисленные анкеты в социальных сетях, программах лояльности торовых сетей и многочисленных «личных кабинетах». Еще бы, ведь это дает право на скидки, а в день рождения вас (если вы указали дату рождения в анкете) поздравят специальной акцией! Китайцы, привыкшие к тотальности государства, таких иллюзий не питают.
Несмотря на замедленный «прогресс», система социального рейтинга в США уже есть – называется она FICO, по имени компании Fair Isaac Corporation. Это ведущее – практически монополист в своей отрасли – американское бюро кредитных историй, предоставляющее сведения о потенциальных клиентах и заемщиках коммерческим компаниям. Бюро работает с 1956 года, а в наши дни хранящиеся в нем «личные дела» применяются далеко не только в области потребительских кредитов. От рейтинга FICO зависит (как в Китае!) приоритетность в покупке авиабилетов (и даже сама возможность такой покупки – людям с очень низким рейтингом их не продадут). При устройстве на работу – тоже запрашивают кредитную историю. Аналогичное бюро – под названием SCHUFA – работает в Германии, и в последнее десятилетие туда также принято обращаться практически в любой ситуации, требующей проверки или оценки нового клиента. Без обращения в SCHUFA не обходится ни сдача квартиры, ни открытие контракта мобильной связи.
Помимо этой мощной системы, есть и другие – например, Facebook: профиль в этой социальной сети рекрутеры будут анализировать «под лупой», и следы «двусмысленной» активности пользователя уже сейчас зачастую бывает поводом не взять человека на работу.
И все-таки, благодаря независимости (формальной?) операторов big data от государства, американцы и европейцы – люди менее привычные к государственному контролю – морально не готовы к внедрению всеобъемлющей системы рейтингов «доверия» по китайскому образцу. Как предсказывает профессор Памела Кроссли, еще пару десятилетий положение дел будет именно таким.
Атмосфера страха и неуверенности в обществе становится идеальной почвой для популизма
Россия: догоняя без фанатизма
В нашей стране теоретически имеются практически все слагаемые «цифрового тоталитаризма» — и китайского, и западного образца. Это активно продвигаемые государством электронные расчеты (с каждым годом российские банки вводят все новые ограничения на операции с наличными), внедряемые с конца нулевых технологии электронного правительства (госуслуг), даже системы «городских помощников» — стимулирующие горожан сообщать о нарушениях ПДД и общественного порядка.
Ключевой элемент, который пока отсутствует в России – это сама система социального рейтинга, который меняется в зависимости от поведения гражданина. Нечто подобное существует только в изолированных сферах – это, например, кредитные рейтинги банков (которыми различные кредитные организации обмениваются далеко не всегда) и коэффициенты «бонус-малус» при расчете автомобильной страховки.
Между тем, некоторые шаги на пути к большей степени цифрового контроля государство все-таки предпринимает. Важнейшая веха здесь – расширенные несколько лет назад полномочия судебных приставов: как известно, должников по налогам, штрафам, алиментам и тому подобным платежам первой очереди государство имеет право не выпустить из страны (здесь работает связка ФССП и пограничной службы – разумеется, в цифровом виде). Точно так же автоматически списываются такие платежи с банковских счетов должника (связка государственных ведомств и банков). Есть достаточно широкий спектр ситуаций, при которых банковские счета гражданина могут быть вовсе заблокированы «до выяснения».
При этом уже сейчас известны случаи использования достаточно чувствительных фрагментов big data в коммерческих целях. Так, несколько бывших сотрудников Сбербанка в 2014 году организовали коммерческую компанию, предлагавшую рекламодателям таргетирование объявлений по истории покупок конкретного человека (с привязкой к мобильному телефону). История покупок, разумеется, импортировалась из базы данных банка.
В последние десять лет российское законодательство о персональных данных непрерывно совершенствуется в сторону защиты интересов граждан. Фактически запрещена какая-либо обработка, хранение и распространение персональных данных человека без его согласия. В этой сфере Россия в одночасье стала одной из самых продвинутых стран мира. Другой вопрос, что без подписания такого согласия на работу с персональными данными – получение каких-либо персонифицированных услуг невозможно. Поэтому в школе, в больнице, в центре госуслуг, в банке и так далее – мы не глядя подписываем соглашение, разрешающее операторам этих услуг пользоваться нашими данными. Что делает весьма продвинутое законодательство практически бессмысленным.
Между тем, цифровизация российской экономики набирает обороты. В декабре минувшего года правительственная комиссия одобрила программу «Цифровая экономика» по четырем ключевым направлениям, одно из которых — развитие цифровой инфраструктуры. До середины февраля этого года в программу могут быть включеныдополнительные инициативы Министерства экономического развития. Эти активные действия были поддержаны Центром стратегических разработок, эксперты которого уже продолжительное время выступаютза преобразование системы государственного управления посредством цифровых технологий. Поэтому, можно уверенно заявлять, что впереди нас ожидают серьезные изменения.
Почему интернет-компании, корпорации и государство спорят из-за больших данных? Рассказывает Иван Бегтин
Перспективы: готовиться ли к «2084»?
Правители всех времен и народов мечтали о тотальном контроле над подданными, но лишь эра облачных вычислений, big data и мобильного интернета дала им надежду воплотить тоталитаризм в реальность. По крайней мере, так полагают сами лидеры, считает Роджер Кримерс, редактор журнала China Copyright and Media. Но возможен ли «цифровой тоталитаризм» чисто технически – еще большой вопрос.
Пока что я не слишком-то верю в перспективы этого проекта, — отмечает аналитик, — по крайней мере, не верю, что можно создать настолько всеобъемлющую систему мониторинга поведения, как декларируется в китайских документах. Прежде всего, государства уже давно работают с массивами данных, и исходя из имеющейся практики обозначенная Китаем задача – просто в силу ее масштаба и сложности – представляет собой почти нерешаемую технологическую проблему.
Так, рейтинг доверия в Китае в его нынешнем виде оценивается по 1200 пунктам – 1000 из них относятся к юридическим лицам, 200 к физическим. Но ввод, хранение и актуализация такого количества параметров по каждому гражданину – задача циклопического масштаба, а каждая ошибка снижает эффективность всей системы. Кроме того, многие параметры должны импортироваться в государственные базы данных из разнокалиберных коммерческих – возникает целый «зоопарк» форматов, протоколов, дата-центров. Добиться бесперебойной работы такой системы – нереально.
И даже если специалистам КНР удастся решить эту задачу, остается вторая: выудить из океана данных нужные, осмысленные для управления и контроля, — продолжает Кримерс. — Это будет стоить столько, отнимет столько ресурсов, что практически теряет смысл.
Кроме того, главное препятствие на пути «цифровой диктатуры» — политическое. Чтобы скрупулезно учитывать «плюсы» и «минусы», нужно четко – на уровне закона – прописать, какое поведение является желательным, какое нет. А это, в свою очередь, породит массу споров о том, какие действия являются положительными, какие отрицательными, и сколько «баллов» будут весить ошибки и достижения по конкретным пунктам.
Таким образом, полагает эксперт, полной победы «цифрового тоталитаризма» ждать пока не приходится – но частично государства в содружестве с операторами big data все же добьются успеха. Например, подобная система рейтингов может найти широкое применение в некоторых профессиях – например, в образовании и медицине. В целом же из амбициозной попытки построения «общества 2084» — очень похожего на классические миры антиутопий – может получиться обычная, прямо по Максу Веберу, экспансия бюрократии на новую (цифровую) территорию. Что, конечно, гораздо более выносимо.
Россияне склонны доверять специальным службам много больше, чем раньше
Подготовил Антон Размахнин
Иллюстрация Inside The Game Fan Art by July556