В этой статье я хочу наглядно показать, как примитивная алгоритмическая лента и простейшие трюки со статистикой могут творить чудеса влияния на когнитивную систему человека. Для этого даже не нужны боты, тролли или проплаченные посты. Средне-статистический человек в окружении своих знакомых, повседневные темы и небольшая магия ранжирования.
В предыдущей части "Все чувства сразу" я постарался подробно рассказать о механизме конформности, который заставляет нас менять мнение на лету, подстраиваясь под окружающих.
Тот факт, что это быстрый механизм, который оперирует эмоциями и ориентируется на бессознательные сигналы, доставляет нам много проблем, потому что мы часто не можем отследить его влияние на ход своих мыслей. В эпоху гипер-коммуникации масштабы проблемы становятся драматическими.
Представьте себе общедоступный роутер без пароля на WiFi, админ-панель которого защищена логином и паролем admin:admin. А теперь представьте, что этот роутер — ваша психика.
Эмоциональный переключатель
Итак, в прошлый раз мы подробно разобрали принцип эмоционального переключения в контексте взаимодействия с соцсетями. Зависимость от социального поощрения загоняет пользователя в стресс, определяя его дальнейшие реакции. Он старается заранее предугадать правильный вариант — подобно тому, как бывает перед походом в гости к важным людям или на интервью. Но в этом случае, с меньшей степенью рефлексии, т.к. залипание на соцсети — часть повседневной рутины. А мы знаем, что концентрация, необходимая для рефлексии — роскошь в условиях дефицита времени и конфликта приоритетов, которые присущи любой рутине.
Зависимость от социального поощрения загоняет пользователя в стресс, что подталкивает его к более конформному поведению
Наша когнитивная система способна самостоятельно готовить и переключать заготовки, ориентируясь по невербальным сигналам: выражение лица, тембр и громкость голоса, авторитет говорящего. Количество лайков/дизлайков — такой же социально-обусловленный маркер. Раз за разом, сталкиваясь с ситуацией выбора, мы проходим скрытое обучение подобно искусственной нейросети.
А теперь давайте посчитаем: сколько постов в день мы читаем, сколько раз смотрим на количество лайков и спускаемся в комментарии. Относясь к этому как к чему-то незначительному, мы совершаем серьезную ошибку. Ведь под "капотом" нашей психики происходит большая работа, способная привести к фундаментальным изменениям.
Давайте посмотрим на Иллюстрацию 1:
Это вольно составленная схема в общих чертах показывает итеративный процесс изменения эмоционального восприятия темы "Недопустимость отлова животных" под вилянием мнения окружающих. Если одна из эмоций, генерируемых когнитивной системой заранее, может быть значительно усилена социальным резонансом моментально, то регулярная последовательная дрессировка тренировка может привести к пиковым значениям.
Находясь в одинаковых цифровых условиях продолжительное время, человек постепенно приходит к иллюзии мейнстрима: одно мнение воспринимается как норма, остальные маргинализируются, становятся признаками чуждой социальной группы.
Эмоциональный резонанс с воображаемым мейнстримом в условиях мнимого или реального социального давления может внушить пользователю соцсетей чувство безусловной правоты. Вы могли наблюдать это на практике: оно приводит к радикализации, делая человека непримиримым. Причина — невозможность игнорировать многократно усилившийся эмоциональный сигнал. Очень часто это приводит к невротическим расстройствам: ГТР, регулярные панические атаки, ОКР, потеря сна. Их причина в продолжительной перегруженности нервной системы, не способной тормозить неестественно сильные эмоции.
Эмоциональный резонанс с воображаемым мейнстримом в условиях мнимого или реального социального давления может внушить пользователю соцсетей чувство безусловной правоты. Оно приводит к радикализации.
Цифровая неврастения завершает вопрос обращения человека, подавляя его волю, внимательность и способность действовать рассудительно. Подготовленная таким образом социальная группа становится предельно лабильной, способной на синхронные нерациональные действия (массовое бегство, агрессия, протесты, самоубийство).
Отходя от темы
Вероятно, этот механизм отвечает за поведение человека в группе. Он был необходим для выживания, т.к. именно эмоциональная общность определяет сплоченность группы в эпоху дологического мышления. Однако не стоит считать, что современные собщества сильно отличаются от первобытных в этом плане.
В нормальной ситуации, группы носителей развитой культуры с хорошим образованием, также нуждаются в эмоциональной и чувственной общности. Умение подстраиваться под группу, прежде всего, эмоционально, является важным условием социализации и по сей день. Поэтому не стоит пытаться классифицировать различные типы обществ и социальные страты по уровню "цивилизованности" и "животности", приписывая тем или иным группам большее или меньшее влияние конформных механизмов психики.
Люди с различными психологическими особенностями, могут показывать большую или меньшую устойчивость к подобным процессам, однако принципиальная устойчивость, как правило, является признаком того или иного расстройства личности (антисоциального или аутического спектра).
Воссоздание среды
Итак, мы понимаем простоту и серьезность уязвимости. Но каким образом возможна её последовательная и целенаправленная эксплуатация? Ведь для этого необходимо поддерживать определенные пропорции отображения постов, комментариев, лайков. А как это возможно в соцсетях, там где все друг друга знают (по крайней мере, изначально), а контент полностью создается самими пользователями?
Секрет прост, и он в статистике (см. Иллюстрация 2). Дело в том, что окружение не самого общительного пользователя соцсетей (60 друзей, и это очень немного), в среднем, генерирует гораздо больше контента, чем человек способен потребить в силу когнитивных ограничений (при условии, что алгоритмическая лента включает в себя уведомления о взаимодействии друзей с их друзьями). Добавьте к этому рекомендованные посты, рекламу и тот факт, что пустая лента время от времени — не такая уж и проблема.
У Фейсбука как раз, именно такая алгоритмическая лента. Вероятно, изначально она действительно задумывалась как инструмент улучшения пользовательского опыта в условиях экспоненциально растущего количества контента. Но со временем стало очевидно, что этот несложный по своей сути подход (если не брать в расчет титаническое масштабирование и обработку графов под капотом), дает гораздо больше власти над людьми, чем можно было бы предположить. Забегая вперед, скажу что не зря все больше людей ненавидят Фейсбук и считают его сущим злом (и не только поэтому).
Если мы возьмем срез постов за месяц в ближнем кругу обычного человека, то получим фантастическое количество материала на различные темы. С таким количеством исходных данных в общей массе, можно наблюдать работу теории больших чисел в действии и справедливо ожидать наличие любого возможного мнения. Задача состоит лишь в том, чтобы:
- Анализировать посты без участия человека, проставляя тематические теги (у Дзена плюс/минус такой же, помогает делать релевантные ленту и продвижение)
- Производить оценку для каждого тега
- Подсвечивать посты, соответствующие заданным параметрам, заглушать и банить за несоответствие
Таким образом, мы получаем фантастическую картину! Небольшая группа модераторов с несложным интерфейсом управления целевыми тегами может оказывать влияние на общественное мнение целых стран, постепенно изменяя его в нужную сторону. При том, что с точки зрения конечного пользователя, который теперь является субъектом воздействия, не будет никаких видимых признаков, способных вызывать недоверие или опасения.
Работа с убежденными
Механизм управления мнением, который мы разобрали выше, всё-таки, имеет один значительный недостаток. Он работает тогда, когда у пользователя нет сформированных убеждений на заданную тему. Разбирая кейс с обсуждением отлова животных, мы понимаем, что ярый зоо-защитник вряд ли поменяет свое мнение. Также, как и убежденный патриот, вряд ли превратится в либерала, даже если будет уверен, что все люди вокруг теперь придерживаться таких взглядов. Патриот, скорее, будет банить/отписываться, а со временем и забросит соцсеть. И наоборот.
Однако, на этот случай есть два подхода, которые тоже прекрасно работают. Первый — для работы с колеблющимися, которых все-таки можно убедить, если ранжирование будет не слишком прямолинейным. До поры, человек может получать дофаминовую подпитку, наблюдая некоторую иллюзию плюрализма с небольшим перевесом. Постепенное изменение соотношения обеспечит безболезненный переход.
Что же касается самых убежденных, для них уготовлена спираль молчания. Ощущая себя меньшинством, такие люди будут высказываться все меньше. А со временем, их мнение и вовсе исчезнет из дискурса, даже если они не покинут соцсеть. То есть, в итоге их даже не придется глушить/банить, т.к. они просто перестанут постить что-либо, не укладывающееся в повестку, опасаясь социального порицания.
Что же касается самых убежденных, для них уготовлена спираль молчания. Ощущая себя меньшинством, такие люди будут высказываться все меньше.
Это механизм маргинализации мнения, который имеет дополнительный эффект: психологическое подавление оппонентов. Что будет испытывать человек, которому вдруг начнет казаться, что он последний из могикан, а все его друзья/знакомые придерживаются диаметрально противоположных взглядов? Неуверенность в себе, эмоциональный остракизм. Не нужно быть психологом, чтобы догадаться, что эти люди попадают в группу значительного риска депрессии.
Другие инструменты
То что примитивный механизм ранжирования новостной ленты оказывается столь эффективным, не означает что это единственный возможный инструмент для влияния на сознание. Наоборот, это лишь один образец из целого арсенала. Как минимум, есть еще ручная модерация с продвижнием топовых тем.
Комплексный подход применения специализированных инструментов дает тотальный контроль, и непрозрачное ранжирование с применением ИИ берет на себя 80% работы в непролазной гуще повседневных срачей, куда не доберется ни один модератор в силу ограниченности человеческих возможностей. А значит, никто не ускользнет от большого брата.
ИИ берет на себя 80% работы в непролазной гуще повседневных срачей, куда не доберется ни один модератор в силу ограниченности человеческих возможностей.
Если мы говорим про Фейсбук, то его главные заказчики обладают недостижимыми финансовыми возможностями. Они могут позволить себе (и позволяют) скупать лидеров мнений, медиа и даже деятелей искусства подчистую, воспроизводя социальную иллюзию, которая выжимает уязвимость нашей когнитивной системы на 146%.
Тем не менее, именно непрозрачная новостная лента, на которую подсажен весь мир — это фундамент, без которого парадоксальная магия исчезнет, оставив после себя арсенал дорогих, но обычных, пусть и очень эффективных инструментов.
Этот пост в телеграмме: https://t.me/otmifa/28