Эффект Мэтью можно было бы значительно усилить с помощью алгоритмической обратной связи. Некоторые люди, признанные ”ненадежными" в пилотных программах Китая, уже были отправлены в нисходящую спираль, в которой им систематически отказывают во все больших и больших привилегиях, пока они не станут гражданами второго сорта. Это случилось с Лю Ху, 42-летним журналистом, который был фактически занесен в черный список после проигрыша дела о клевете.
Помимо прочего, он не мог войти в приложения для путешествий, чтобы купить билеты на поезд или самолет, его аккаунты в социальных сетях, где он размещал большую часть своих журналистских расследований, были подвергнуты цензуре и закрыты, и он был помещен под домашний арест. Несмотря на публикацию извинений и выплату штрафа, его статус не изменился. С другой стороны, как предполагает эффект Мэтью, высокооплачиваемые люди могут со временем получить право на все больше и больше привилегий и передать свои льготы своим детям, чтобы их потомство начало жизнь с доступом к лучшему образованию, медицинскому обслуживанию, жилью и т. д.
Регресс ограничивает тех, кто хочет восстановить свою репутацию в правительстве или с соседями, которые видят, что их отвергают за льготу из-за их низкого балла. ”Это очень сильно влияет на структуру общения, - говорит Дифонцо, - потому что я отрезан от общения с людьми, которые слышат обо мне такое.”
Люди могут ожидать, что их оценки и рейтинги будут влиять на их взаимодействие с институтами аналогичным образом. Баллы CLV уже определяют, как компании относятся к отдельным людям и какие продукты и предложения рекламируются им, исходя из того, считаются ли они членами высокодоходных или низкорентабельных когорт.
Это не единственный контекст, в котором личные рейтинги вступают в игру: в системе здравоохранения люди обычно сортируются на категории с высоким и низким уровнем пользователей в зависимости от их частоты обращения за медицинской помощью; в контексте уголовного правосудия растущее использование анализа данных может привязать людей к категориям с высоким или низким риском, определяя, как они будут рассматриваться правоохранительными органами в будущем. “Если мы собираем данные о людях, чтобы предложить им лучшие музыкальные рекомендации на Spotify или рекомендации по фильмам на Netflix, прекрасно; это один уровень ставок", - говорит Брейн. “Но если речь идет о том, насколько сильно полиция собирается остановить вас, то это имеет действительно прямые и очевидные последствия для социального неравенства.”
В этот момент в игру может вступить системное избегание, как говорит она. Как только люди вступают в контакт с системой уголовного правосудия и заносят это в свой послужной список, они, как правило, избегают таких учреждений, как больницы и банки, а также формальной занятости и образования “этими действительно шаблонными способами. Этот тип наблюдения определяет, как вы взаимодействуете с другими важными учреждениями.”
Коррекции поведения
Социальные оценки и рейтинги также могут рассматриваться как моральные суждения, которые могут повлиять на самооценку людей.. ”Если вам присвоен более низкий социальный кредитный балл,-говорит Уэйтц,-это может заставить вас включиться в процесс самовосприятия, в котором вы видите себя менее моральным, чем другие, и менее достойным быть человеком."
В этом процессе самооценивания люди могут воспринимать себя менее способными к основным психическим процессам, таким как способность планировать или запоминать вещи или способность чувствовать боль и удовольствие. В резком контрасте с заявленной целью социальной рейтинговой системы принуждения к моральному поведению есть свидетельства того, что чувство дегуманизации вместо этого может привести людей к более неэтичному поведению.
Уэйтц и его коллеги провели эксперимент, в ходе которого они предоставили участникам моральный выбор. Их попросили предсказать исход виртуального подбрасывания монеты. Если их предсказание было верным, они заработали два доллара. В нейтральном состоянии виртуальные перевороты монет были подстроены так, чтобы всегда соответствовать догадкам участников. Но в другом случае программа была подстроена так, что предположения участников были бы последовательно ошибочными.
Затем они сталкивались с ошибкой на экране, сообщающей им, что их предсказание было правильным, хотя на самом деле это было не так. они могли либо сообщить в анкете, что была проблема, либо потребовать деньги, которые они не заработали. Почти половина участников решили взять деньги—и в более позднем задании эти люди были значительно более склонны к обману снова, чем те, кто сообщил о явной проблеме.
Критически важно отметить, что участники с "высоким уровнем нечестности" также сообщили о более низких человеческих возможностях в ходе опроса, чем те, кто не был представлен с возможностью обмануть. ”Когда люди ведут себя неэтично, - говорит Уэйтц, - они с большей вероятностью дегуманизируют себя, и если люди дегуманизируют себя, они также, вероятно, будут вести себя неэтично." Это цикл, который может быть усилен в масштабах общества, когда значительный процент населения обнаружит, что они были названы менее достойными положительного лечения.
Продолжение следует...