Социальные рейтинги: что думают люди
Чтобы узнать, как пользователи относятся к социальным рейтингам, мы опросили более 10 тысяч человек по всему миру. И вот что мы выяснили.
О социальных рейтингах слышало чуть меньше половины опрошенных (46%). В Азии это явление более известно: в Китае, где рейтинги вводят на государственном уровне, о них знает 71% респондентов, а в Австрии и Германии — только 13%. При этом почти половина (45%) респондентов признались, что им сложно понять, как рассчитываются эти рейтинги. А в жизни с ними сталкивался лишь каждый пятый (21%) — хотя не исключено, что часть людей просто не знает, что отказ в кредите или аренде был как-то связан с социальным рейтингом.
Тем не менее с идеей, лежащей в основе социальных рейтингов, многие в целом согласны. Так, 70% участников опроса считает, что за некоторые поступки справедливо и правильно ограничивать людям доступ к общественным ресурсам — транспорту, образованию, аренде недвижимости и так далее.
К примеру, ради повышения безопасности почти половина опрошенных готова позволить государству мониторить социальные сети, а двое из пяти поделятся своими данными с бизнесом в обмен на скидки и дополнительные привилегии. И только около 20% опрошенных отметили, что интерес частных и государственных организаций к приватной информации их не радует.
Социальные рейтинги: что насчет технологий?
Многие из опрошенных нами людей готовы поддержать идею социальных рейтингов, вероятно, полагая, что она будет в общем и среднем выдавать справедливую и непредвзятую оценку. Увы, при имеющихся технологиях это, скорее всего, окажется не так.
Во-первых, в текущей реализации рейтингов сложно отслеживать ошибки. В ее основе лежат нейронные сети, о принципах работы которых мало знают не только участники нашего опроса, но и разработчики, не говоря уже о тех, кто пользуется такой системой. Понижая или повышая чей-то рейтинг, нейросеть не объясняет, на основании каких именно данных она пришла к этому решению. В результате организации приходится слепо доверять ей: машина сказала, что вам нельзя давать кредит, — значит, нельзя. Даже если на самом деле вы порядочный человек с хорошим и легальным доходом.
В медицине и компьютерной безопасности это называется «ложноположительное срабатывание». Это значит, что медицинский тест ошибочно определил заболевание, которого на самом деле у пациента нет, или защитное решение по ошибке пометило чистый файл как зараженный.
Если говорить о близких нам антивирусах, то уровень ложных срабатываний значительно варьируется от одного продукта к другому. Некоторые решения выдают неверные вердикты существенно чаще среднего, другие — реже. Так что, во-первых, все зависит от конкретной реализации. А во-вторых, полностью исключать вероятность ошибки все равно нельзя. В случае рейтингов, влияющих на человеческие права и даже судьбы, цена такой ошибки может быть очень велика.
Помимо того, что система может ошибаться из-за несовершенства алгоритмов или данных, на основе которых принимается решение, ее также можно намеренно взломать. Если говорить о социальных рейтингах на государственном уровне, то наши эксперты выделили три типа возможных атак на них.