Итак, свершилось: в России официально началась работа системы социального рейтинга, которая получила крайне недвусмысленное замятинское название "Мы". С её помощью любой желающий сможет выстроить свой социальный портрет в цифровом мире и, как помпезно заявляют авторы инновационной разработки, понять, что с течением времени в нём (или в ней) может быть изменено. Но насколько это этично и безопасно? Не движется ли всё к созданию цифровой утопии?
Где-то мы уже видели
Система социального рейтинга существует с 2014 года в Китае. Там законопослушные и ответственные граждане, получающие высокую отметку, имеют некоторые привилегии перед теми, кто нарушает правила и ведёт нестандартный образ жизни. Например, "хорошие" китайцы имеют больше шансов получить одобрение по кредиту, устроиться учиться в вуз, попасть на высокооплачиваемую должность. То есть, под соусом благополучия общества происходит сегрегация этого самого общества.
Система работает не по всему Китаю, а в ряде регионов. Местные власти видят непонимание людей касаемо сложности оценки, поэтому аккуратно выстраивают её работу.
Сама по себе система принципиально не нова, аналогичными инструментами уже давным-давно пользуются маркетологи и рекламщики по всему миру. Создано большое количество различных инструментов, которые тем или иным образом собирают нужную специалистам информацию о потенциальных клиентах, которую потом этим же людям и предлагают. Конечно, в обработанном виде, чтобы привлечь нужного человека к покупке нужного товара, какой-то услуги или совершению действия.
Вы же замечали, что стоит поискать что-то в интернете, как браузер потом вас буквально забрасывает рекламой на эту же тему? Вот так это и работает. Надо вам это – не надо, алгоритмы продолжат атаковать ваше сознание по тому сценарию, который составлен хитрыми рекламщиками и воротилами бизнеса.
Так вот, социальный рейтинг. Проектом занимались сотрудники РГСУ. В учебном заведении утверждают, что система работает сродни банковской программе по анализу потенциального заёмщика – она проверяет различные параметры из жизни человека. Успевшие протестировать портал рассказывают, что там 30 вопросов.
У возжелавших создать свой цифровой портрет спрашивают: обзавелись ли семьёй, планируют ли, если нет, есть ли дети, хотят ли стать родителями. Другие вопросы касаются уровня дохода, имеющегося имущества, образа жизни, приверженности спорту и подверженности вредным привычкам. Да много чего там.
Взгляд со стороны
Простому обывателю категорически непонятна работа системы. Например, у одного из тестеров результат был таков – его социальный рейтинг составил 64. Но 64 чего? И от чего? От 100 или от 1000? И как адекватно интерпретировать это число, чтобы понять его?
Вполне возможно, что человеку, "нарисовавшему" свой социальный портрет, это вовсе и не нужно понимать. Самое главное, что где-то в глубине серверов алгоритмы уже сделали цифровой отпечаток конкретной личности и сохранили его в общую базу.
И тут же возникает вопрос: как самому респонденту пользоваться результатами? Вдогонку можем спросить – а на основе каких данных искусственный интеллект рассчитывает то, как человек может измениться в обозримом будущем? Понятно, что условно вредная привычка сокращает жизнь, а наличие семьи влечёт многообразие в быту и работе, но КАК ИМЕННО это всё рассчитывается?
Непонятно, ровным счётом, НИ-ЧЕ-ГО.
Другая сторона вопроса
Давайте предположим, что человек не захочет честно отвечать на поставленные вопросы. Или даже намеренно обманет систему, указав принципиально не соответствующие действительности данные. В таком случае получится совершенно иная личность, которой вообще не существует в природе. Эта цифровая личность будет "жить" в сети и влиять на общую картину, которую надеются получить при полноценной работе системы.
Вот только пользы от этого никакой не будет – только вред.
Ещё один момент, который интересен многим. Вообще ни для кого не секрет, что даже суровые государственные системы могут иметь цифровые бреши, через которые настырные айтишные злоумышленники способны умыкнуть базы данных. Примеров, правда, связанных с частными компаниями, не счесть – об утечках в разное время говорили и банки, и медучреждения, и логистические фирмы, и крупные ритейлеры.
Несложно же представить, что будет, если россиянин честно даст 30 ответов на 30 вопросов, а эта информация окажется в руках тех, кто обернёт её против самого респондента?
В общем и целом, сыро, мало что понятно и немного не по себе. Сейчас вся эта история подносится под делом добровольности, никакого принуждения (и ответственности за отказ) нет, но кто знает, может это лишь пока?
