Раскрытие доверия
На более глубоком уровне кредитные оценки и социальные рейтинги являются референдумами о том, кому следует доверять. Как таковые, они являются высокотехнологичными посредниками для вызова суда, который мы развивали на протяжении тысячелетий, чтобы сделать лицом к лицу. Даже при всем нашем опыте судить, стоит ли кому-то доверять, - непростая задача. Тем не менее, мы понимаем, что в большинстве ситуаций мы можем извлечь больше пользы, работая вместе, чем в одиночку, что является сильным стимулом для взаимного доверия.
Хотя нам выгодно иметь возможность определить, сигнализируют ли люди о том, что они заслуживают доверия, эти точные сигналы доверия ускользают от исследователей, как говорит Дэвид Дестено, психолог из Северо-Восточного университета, потому что большинство из них искали четкие физические сигналы, конкретную вспышку улыбки или изгиб брови, когда установление доверия на самом деле включает в себя более сложный набор повторяющихся сигналов.
В экономических играх, изученных в его лаборатории, он обнаружил, что, играя лично, люди лучше предсказывают, будет ли партнер ненадежным, чем когда они играют онлайн и не могут наблюдать такие сигналы. “Большая часть нашего общения в интернете-это скудная информация", - говорит он. “Все сигналы, которые мы использовали на протяжении тысячелетий, чтобы дать нам больше шансов предсказать доверие, исчезли.”
Социальный кредитный рейтинг, основанный в первую очередь на онлайн-активности человека, может не дать ему возможности определить его истинный характер, особенно если данные, собранные в одной сфере, применяются в других. Высокий финансово-кредитный рейтинг может сигнализировать кредитору, что вы, скорее всего, вернете свои долги, но это не обязательно означает, что вам следует доверять присматривать за чьими-то детьми или сохранять верность в браке.
“Когда рейтинги людей связаны с одним и тем же типом взаимодействия, - говорит Дестено, - они, вероятно, будут иметь приличную прогностическую ценность. “Контекст стабилен, и суждения могут быть надежно применены. Однако в такой системе, как Zhima, которая нацелена на применение рейтингов в различных областях, включая сайт знакомств Baihe, ваша финансовая история может подорвать ваши шансы найти супруга или построить другие значимые отношения.
Существует проблема с опорой на репутацию, которая была зафиксирована внешним номером. Если он позитивен, “это дает нам ощущение, что кто-то глубоко внутри всегда заслуживает доверия, в то время как мы знаем, что моральная надежность большинства людей показывает некоторую степень гибкости”, - говорит он. “Если затраты, риски или выгоды от взаимодействия с кем-то не меняются, то репутация-это хороший показатель. Но если вдруг что-то резко изменится, то этого может и не быть.”
Это ты?
Если мы считаем, что алгоритм ошибочен в отношении нас, это кажется несправедливым. С другой стороны, даже если рейтинг точно отражает, кто мы такие, означает ли это, что мы должны быть более восприимчивы ко всем потенциальным социальным, правовым и финансовым последствиям? А что, если мы работаем над тем, чтобы измениться? А что, если мы, как и большинство людей, ведем себя по-разному в разных контекстах?
Люди, безусловно, будут пытаться играть в систему социального кредита, как считает Дестено, из-за важности добродетели, сигнализирующей в сообществах: “мы все пытаемся сигнализировать, что мы хорошие, что мы честные люди. И по мере того, как мы продвигались в интернете, возник вопрос: как мы собираемся это сделать?"Он приводит в пример такие сервисы, как ReputationManager, которые обещают за определенную плату очистить ваш виртуальный рекорд и сделать его образцовым. "Люди будут пытаться найти способы изменить свои оценки.”
Но если нет способа самостоятельно влиять на свой социальный рейтинг, то каким бы тупым инструментом он ни оказался, как говорит Брейн, он может просто стать фактом, который мы не можем изменить. Алгоритмы являются собственностью компании, а их данные-вне нашей досягаемости. Новая реальность: наша оценка-это показатель нашего характера, и мы не можем остановить его распространение.
Продолжение следует...