Мы привыкли к лжи, которая говорит нам, что мы любим смотреть на котят и закаты. Это утешительная ложь, и мы платим за нее своим временем. Но есть истина, которая гораздо страшнее: нас удерживает не свет, а та тьма, которую мы прячем даже от самих себя. Алгоритмы больше не изучают наши вкусы. Они изучают наши трупы, захороненные в подвалах психики. Они не подбирают нам музыку или фильмы. Они подбирают нам яд, дозированный с точностью микрохирурга.
Свежие исследования механизмов виральности заставляют нас взглянуть в лицо чудовищу. И это чудовище - не «Большой Брат», следящий за нами. Это - «Большой Исповедник», который научился отпускать грехи только при условии, что грех будет повторен. Бесплатный сыр давно лежит только в мышеловках, но сейчас мышеловка стала невидимой, потому что она находится внутри нашего черепа.
Часть I. Эмпатия, перевернувшаяся наизнанку
В 2017 году, будучи приглашенным в Купертион для чтения лекций о природе нарратива, я случайно обедал с человеком, который называл себя «могильщиком совести». Он работал в отделе рекомендательных систем одной из корпораций, чье название начинается с «F» и заканчивается на «ook». Мы говорили о погоде, а он молчал. Потом он сказал фразу, которую я записал в блокнот, едва не пролив на него бордо: «Мы перестали спрашивать, что вам нравится. Это тупик. Мы спрашиваем, что заставляет вас чувствовать себя ничтожеством, чтобы потом продать вам лекарство от этого чувства, которое на самом деле усилит болезнь».
Это и есть концепция «темной эмпатии». В классическом понимании эмпатия - это способность чувствовать состояние другого. В новом, инженерном понимании, эмпатия - это способность вычислить болевую точку другого и надавить на нее с такой силой, чтобы он дергался, дергался, дергался, генерируя клики, лайки, комментарии и, самое главное, - время.
Дизайн интерфейсов прошел путь от функциональности к эстетике, а затем к нейрохирургии. Сейчас мы находимся на этапе, который психиатр Джастин Леклер, мой собеседник для этой статьи, назвал «оккультным программированием». Леклер, работающий с жертвами цифровых неврозов в своей клинике в Вермонте, сух и педантичен. Он не использует метафор. Он оперирует МРТ-снимками. Но когда он говорит, мне становится холодно.
«Посмотрите сюда», - Леклер протягивает мне два снимка. «Это мозг человека, который видит фотографию счастливой семьи. Активна префронтальная кора, зоны удовольствия, умеренный выброс дофамина. А это мозг того же человека, когда он видит пост, вызывающий моральное презрение - например, историю о несправедливости, жестокости или лицемерии. Посмотрите на островковую долю. Она загорается, как рождественская елка. Активируются центры отвращения, но одновременно с ними - центры предвкушения награды. Мозг буквально "смакует" негодование».
Ницше, задолго до появления «лайков», писал: «Того, кто рушится на глазах у других, жалеют, но того, кто рушится внутри себя и молчит об этом, - ненавидят. За то, что он лишает зрелища». Социальные сети поняли это лучше, чем кто-либо из философов XX века. Они создали бесконечный театр руин, где каждый обломок чужой репутации или моральный провал становятся топливом для нашей самой примитивной, но самой жадной до энергии части души.
Часть II. Алхимия презрения: как из гнева делают золото
Бывший разработчик Meta, назовем его Марк (он просил не раскрывать имя, но разрешил цитировать его горькую откровенность), рассказал мне об эксперименте, который никогда не будет опубликован в открытых научных журналах.
В 2018 году команда тестировала две версии новостной ленты. Первая подбирала контент на основе позитивных реакций. Вторая - на основе того, что пользователь скроллил с «отвращением» (микровыражения лица, задержка взгляда, резкое движение пальца вниз, чтобы быстрее прочитать комментарий, и последующее зависание над клавиатурой, чтобы написать гневный ответ).
«Разница в удержании была колоссальной», - говорит Марк, помешивая остывший кофе. «Гнев - это клей. Счастье - это вода. Счастье приходит и уходит, его не нужно комментировать, его не нужно защищать. А презрение… презрение требует подтверждения. Вы не можете презирать в одиночку. Презрение - это социальный клей. Оно требует, чтобы вы нашли соплеменников и сказали: "Смотрите, какой ужас! Мы - хорошие, они - плохие". И алгоритм стал давать нам не то, что нас объединяет, а то, против чего мы объединяемся».
Это открытие перевернуло всё. Если раньше считалось, что виральность строится на удивлении или радости, то теперь аксиома звучит иначе: самый виральный контент - тот, который мгновенно поляризует аудиторию, заставляя человека занять моральную позицию. Причем позиция эта должна быть атакована или защищена. Важно не содержание, важно наличие «Другого», врага, идиота, предателя.
Здесь в игру вступает механизм «искусственного разделения». Алгоритмы научились находить не просто интересы, а точки разлома. Если вы католик, вам покажут не просто новости о католицизме, а новость о том, как феминистки осквернили собор. Если вы феминистка, вам покажут не просто статью о равноправии, а историю о том, как патриархальный мужчина-начальник уничтожил карьеру молодой ученой. Оба контента могут быть полуправдой или откровенной ложью. Но их цель - не информировать, а создавать «своих» через ненависть к «чужим».
Макиавелли, этот циничный гений Возрождения, писал в «Рассуждениях о первой декаде Тита Ливия»: «Люди скорее забудут смерть отца, чем потерю наследства». Социальные сети переписали эту формулу: «Люди скорее забудут свою выгоду, чем подтверждение своей правоты в глазах толпы». Наследство теперь - это не деньги, это социальный капитал, возможность чувствовать себя частью племени, даже если это племя каннибалов.
Часть III. Культ, паранойя и «темный дизайн»
В интервью с психиатром Леклером мы коснулись темы параноидального мышления. По его словам, за последние пять лет количество пациентов с немотивированной тревогой, граничащей с паранойей, выросло на 400%. И причина не в политике и не в экономике напрямую. Причина в тренировке мозга.
«Мозг - это мышца предсказания. Ему нужно знать, что будет дальше. Если ему давать хаотичные, случайные стимулы, он сходит с ума. Но если ему давать стимулы, которые постоянно говорят: "Тебе угрожают", "Твои ценности под ударом", "Смотри, что они сделали", - мозг начинает видеть угрозу везде. Это адаптация. Это выживание. Но в цифровой среде эта адаптация становится болезнью. Алгоритмы создают мир, в котором враг действительно везде, потому что они его генерируют».
Мы живем в эпоху «культов без божества». Социальные сети создают идеальные условия для культа личности, но не вокруг одного гуру (хотя и это бывает), а вокруг микрогуру - инфлюенсеров, мнений, хештегов. В культе важно не столько то, что говорит лидер, сколько то, что адепты чувствуют себя избранными. Алгоритм, подсовывающий вам все более радикальный контент, выполняет функцию инициации. Сначала вы просто интересуетесь здоровым питанием. Потом вы уже ненавидите тех, кто ест глютен. Потом вы в сообществе, которое травит производителей фастфуда. Границы «своих» сужаются до размеров бункера, а «чужие» заполняют весь остальной мир.
В этом контексте вспоминается Кнут Гамсун, его «Голод». Герой романа, бредя по Христиании, настолько погружен в свои фантазии и голодные галлюцинации, что начинает видеть символы и знаки там, где их нет. Он приписывает случайным прохожим намерения, оскорбляет их в своем воображении, создает драму из пустоты. Социальные сети превратили каждого из нас в такого героя. Мы голодны. Голодны по смыслу, по вниманию, по подтверждению своего существования. И алгоритмы кормят нас миражами. Только миражи эти ядовиты.
Часть IV. Механизм вины и прощения
Существует еще один слой «теневой стороны», который используется с особой жестокостью - это чувство вины. Разработчики интерфейсов давно поняли: заставить человека чувствовать себя должным - лучший способ удержать его.
Вспомните бесконечные уведомления: «У вас 15 непрочитанных сообщений», «Ваш друг отмечает вас на фото», «Напомните о дне рождения». Это не забота. Это индульгенция, продаваемая в рассрочку. Нам внушают, что мы плохие друзья, если не лайкнули пост, плохие родители, если не выложили фото ребенка, плохие граждане, если не подписали петицию. Социальная сеть становится исповедальней, но без права на отпущение грехов. Вы можете только бесконечно отмаливать свое несовершенство, скролля ленту в надежде, что следующий пост снимет это неприятное чувство. Но он не снимает. Он добавляет новое.
Лакан, переворачивая Фрейда, говорил: «Желание человека - это желание Другого». В цифровую эпоху этот «Другой» - алгоритм. Мы хотим того, чего, как нам кажется, хочет от нас невидимая машина. Машина хочет, чтобы мы смотрели. Значит, наше желание - смотреть. Мы становимся зрителями собственной жизни, потому что только в режиме зрителя мы получаем дозу одобрения от Большого Другого.
Марк, бывший разработчик, рассказал мне о внутреннем термине, который использовался в их команде: «кормление зверя». Зверем называли ту часть личности пользователя, которая просыпается от чувства несправедливости. «Если мы замечали, что пользователь активно реагирует на контент, связанный с изменой, предательством или обманом, мы начинали раскручивать эту тему. Мы показывали ему сначала истории про звезд, которые изменили, потом про политиков, которые предали, потом про соседей, которые... и так до тех пор, пока мир для него не превращался в сплошной бордель. В таком состоянии человек не уйдет из сети. Он будет искать подтверждение: "Я же говорил, все они такие!" Это катарсис наоборот. Это не очищение, а загноение раны».
Часть V. Эстетика распада и холодный наблюдатель
Читатель спросит: а есть ли выход? Неужели мы обречены быть марионетками собственных нейронов, дергающихся под дудку кремниевых пастухов?
Ответ, который я дам, не будет утешительным. Выход есть, но он требует того, что древние греки называли аскезис - упражнения в отказе. Но современный человек разучился отказывать себе в удовольствии препарировать чужие трупы. Мы слишком сроднились с этим театром теней.
В фильме Андрея Тарковского «Сталкер» есть сцена, где герои входят в комнату, где исполняются желания. Но исполняется не то, что они говорят вслух, а то, что у них на самом деле в глубине души. Один жаждет вернуть брата, но погибает сам, потому что втайне желал смерти брату. Социальные сети - это такая комната желаний. Мы заходим туда за светом, за общением, за новостями. Но алгоритм, как Зона, считывает нашу тень. И дает нам то, что мы действительно хотим, - не признаваясь в этом даже себе. Мы хотим смотреть, как падают другие, чтобы не чувствовать, как падаем мы сами. Мы хотим ненавидеть, чтобы не чувствовать пустоту любви. Мы хотим быть в стаде, чтобы не чувствовать ужас одиночества.
Данные нейробиологии неумолимы: дофаминовая петля обратной связи, завязанная на социальное одобрение и негодование, сильнее, чем петля, завязанная на еду или секс. Потому что для примата, которым мы остаемся, смерть в изгнании из стаи хуже физической смерти. Социальная смерть - вот чего мы боимся больше всего. И соцсети держат нас на коротком поводке этого страха.
Эпилог: Рана, которая не заживет
Я сижу в полумраке своего кабинета. За окнами Нью-Йорк мигает огнями, каждый из которых - окно, за которым, возможно, человек смотрит в сияющий прямоугольник. На его лице - гримаса презрения или зависти. Алгоритм только что нашел идеальный камень, чтобы бросить в его колодец.
Сёрен Кьеркегор, этот мрачный рыцарь веры, писал: «Признак гения в том, что он не боится противоречий. Он либо принимает их, либо уничтожает». Наш мозг, этот гениальный инструмент выживания, оказался беззащитен перед противоречиями, которые создают для него машины. Мы не можем их ни принять, ни уничтожить. Мы можем только тонуть в них, скролля вниз, в бесконечность.
Истина, которую я обязан здесь зафиксировать, холодна и проста: разработчики не крали наши души. Они просто предложили нам зеркало, в котором мы увидели ту часть себя, которую всегда боялись показать даже священнику. И нам понравилось это отражение.
Остается открытая рана, вопрос без ответа, образ, который будет преследовать вас сегодня ночью, когда вы в тысячный раз потянетесь к телефону, чтобы проверить уведомления:
Что вы будете делать, когда алгоритмы поймут, что теневых сторон больше не осталось? Когда они исчерпают всю вашу зависть, всю вашу похоть, всю вашу ненависть и злость? Что они предложат вам тогда? И останетесь ли вы после этого хоть чем-то, кроме пустой оболочки, которая умеет только листать страницы чужой боли в надежде найти там крупицу своей собственной жизни?
Ответа нет. Есть только тихий, нарастающий гул вентиляторов серверных ферм, где в темноте, мигая красными огоньками, зреет наша общая, добровольно принятая, цифровая шизофрения.