Генри Фаррелл
Это не та антиутопия, что нам обещали. Мы не учимся любить Большого Брата, который живет, если живет, в кластере серверных ферм, охлаждаемых экологически безопасными технологиями. Сома и программирование подсознания не убаюкали наш разум, приведя к заторможенной уступчивости вездесущим социальным иерархиям.
Антиутопии склоняются к фантазиям об абсолютном контроле, где система видит все, знает все, и все контролирует. И разумеется мы живем в мире, где всё под постоянным наблюдением. Телефоны и домашние приборы создают следы из данных, как частицы в диффузионной камере, отмечая наши желания и поведение для таких компаний, как Фейсбук, Амазон и Гугл. Но созданная таким образом информация несовершенна и систематизирована алгоритмами машинного обучения, которые сами делают ошибки. Попытки этих компаний манипулировать нашими желаниями ведут к еще большей сложности. Им становится еще трудней отличить поведение, которое они хотят анализировать, от своих и чужих манипуляций.
Тоталитаризмом это не выглядит, разве что сильно прищуриться. Как выразился социолог Киеран Хэли: огульная политическая критика новой технологии, часто обладает большим семейным сходством с аргументами энтузиастов Кремниевой долины. Обе стороны считают, будто технология работает, как заявлено, что совершенно необязательно правда.
Стандартные утопии и стандартные антиутопии по-своему идеальны, в некотором смысле. Мы живем в странном месте — в мире, где технологии развиваются таким образом, что все сложней отличить человеческое существо от искусственных вещей. Мир, который создали интернет и социальные сети, скорей окружающая среда, чем система, быстрое размножение неожиданных ниш, и субъекты, созданные и приспособленные к их использованию, вводящими в заблуждение способами. Грандиозная коммерческая архитектура оказалась колонизирована квазиавтономными паразитами. Обманщики создали алгоритмы, пишущие фальшивые книги, чтобы продавать на Амазоне, компилируя и модифицируя текст из других книг и онлайн ресурсов, вроде Википедии. Они обманывают покупателей или извлекают выгоду из лазеек в системе вознаграждений Амазона. Значительная часть мировой финансовой системы состоит из ботов — автоматических систем, разработанных, чтобы непрерывно зондировать рынки на предмет кратковременных возможностей для арбитража. Менее сложные программы зачумляют онлайновые коммерческие системы, вроде eBay и Амазон, временами с поразительными последствиями, как когда два противостоящих бота своими ставками подняли цену на книгу по биологии до 23698655,93 долларов (плюс 3,99 доллара доставка).
Другими словами, мы живем в будущем Филипа К. Дика, не Оруэлла или Хаксли. Как технологический пророк Дик был не лучше любого научно-фантастического писателя, вероятно хуже большинства. Его воображаемые миры перемешивали частицы Калифорнии пятидесятых и шестидесятых с ракетными кораблями, наркотиками и социальными теориями. Дик обычно писал впопыхах и ради денег, а иногда под влиянием наркотиков или недавнего и срочного религиозного откровения.
И все же он своим гением он ухватил онтологическую тревогу мира, в котором люди и вылюди, настоящее и фальшивое, сливаются вместе. Как Дик описывал свою работу (в открывающем эссе к сборнику 1985 года «Надеюсь, я скоро прибуду»):
Две основных темы по-настоящему меня завораживают: «Что такое реальность?» и «Что составляет подлинное человеческое существо?». Больше двадцати семи лет, в течение которых я издавал романы и рассказы, я исследовал две эти взаимосвязанных темы снова и снова.
Часть корней этой одержимости скрывается в сложной и постоянно эволюционирующей мифологии Дика (в которой было совершенно логично, что «реальный» мир — это подделка, а мы все живем в Палестине, где-то в первом веке нашей эры). Но еще они основывались на живом интересе к процессу, с помощью которого реальность конструируется обществом. Дик считал, что все мы живем в мире, где «мнимые реальности фабрикуются прессой, правительствами, большими корпорациями, религиозными группами, политическими группами — и существуют электронные приборы, с помощью которых псевдомиры внедряются прямо в мозг читателя». Он утверждал:
…бомбардировка псевдореальностями начинается, чтобы очень быстро создать неподлинное человеческое существо, мнимых людей — таких же фальшивых, как данные, обступающие их со всех сторон. Две моих темы на самом деле — одна; здесь они объединяются. Фальшивые реальности создадут фальшивых людей. Или фальшивые люди будут генерировать фальшивые реальности и затем продавать их другим людям, со временем превращая их в подделки себя. Так мы кончим фальшивыми людьми, изобретающими фальшивые реальности, а затем втюхивающими их другим фальшивым людям.
В книгах Дика реальное и нереальное заражают друг друга, так что становится все невозможней найти между ними разницу. Миры мертвы и живых сливаются в Убике (1969), опыт аутичного ребенка влияет на мир вокруг него в «Сдвиге времени по-марсиански» (1964), а согласованные наркотические галлюцинации, становятся средством доставки захватнического инопланетного интеллекта в «Трех стигматах Палмера Элдрича» (1965). Роль людей исполняют враждебные андроиды в «Снятся ли андроидам электроовцы?» (1968) и во «Второй модели» (1953); инопланетяне в «Унылом незнакомце» (1953) и «Отце-двойнике» (1954); мутанты в «Золотом человеке» (1954).
Это беспокойство нереальными мирами и нереальными людьми привело к логически из него вытекающей озабоченности сложностью их разграничения. Заводы выкачивали фальшивую американскую культуру в «Человеке в высоком замке» (1962), отражая проблему жизни в мире, который, на самом деле, ненастоящий. Предприниматели строили все более человекоподобных роботов в «Снятся ли андроидам электроовцы?», основываясь на том, что если не они, то их построят конкуренты. Разобраться, что настоящее, а что нет — не легко. Научные инструменты, вроде знаменитого теста Войта-Капфа в «Снятся ли андроидам электроовцы?» (и «Бегущем по лезвию» Ридли Скотта в фильме 1982 по мотивам книги) не очень хорошо работают, оставляя нас только с надеждой на некую мистическую силу, — «И цзин», Бога в аэрозольном баллончике, марсианскую водяную ведьму — которая вернет нас к реальности.
Мы живем в мире Дика — но почти без надежды на божественное вмешательство или вторжение. Мир, где мы общаемся и взаимодействуем на расстоянии, все больше наполняется алгоритмами, которые кажут людьми, но ими не являются — фальшивые люди, сгенерированные фальшивыми реальностями. Когда Эшли Мэдисон, сайт свиданий для людей, хотящих изменять своим супругам, был взломан, выяснилось, что десятки тысяч женщин на сайте были фальшивыми «фемботами», запрограммированными отправлять миллионы игривых сообщений мужчинам-клиентам, чтобы те думали, будто окружены огромным количеством потенциальных сексуальных партнеров.
Эти проблемы могут стать только хуже, когда информационный и физический миры переплетутся еще больше в Интернет (плохо функционирующих) Вещей. Многие аспекты мира будущего Джо Чипа в «Убике» выглядят невероятно устаревшими для современного человека: архаичная роль женщин, предположение, что все курят. Но дверь в квартире Джо — которая спорит с ним и отказывается открываться, потому что он не заплатил обязательный сбор — выглядит зловеще правдоподобно. Кто-то, где-то, предлагает это, как рентабельный бизнес-план Y Combinator или венчурным компаниям в Менло-Парк.
Это вторжение нереального в реальность имеет последствия в политике. Галлюциногенные реальности в мирах Дика — эмпатическая религия «Снятся ли андроидам электроовцы?», порожденный наркотиками мир «Трех стигматов Палмера Элдрича», квазитибетский буддистский мир «Убика» — обычно переживаются многими людьми, как телешоу в Америке Дика. Но кабельное телевидение сменил интернет, людям стало нетрудно создавать собственную уникальную смесь источников. Навязанный сговор прессы, который ненавидел Дик, разлетелся на мириад различных реальностей, каждая со своими частично разделяемыми предположениями и фактами. Стрелок, ворвавшийся в вашингтонскую пиццерию Comet Ping Pong, был убежден сайтами, посвященными заговорам, что там находился координирующий центр Хиллари Клинтон по торговле детьми для секса.
Подобные расщепленные миры более уязвимы для вторжения не-людей. Многие аккаунты в твиттере — это боты, часто с именами и украденными фотографиями неправдоподобно красивых юных женщин, желающих продать тот или иной продукт (недавнее академическое исследование обнаружило что от 9 до 15 процентов всех аккаунтов в твиттере скорей всего фальшивые). Твиттерботы варьируются в сложности от автоматизированных аккаунтов, которые только ретвиттят то, что пишут другие боты, до сложных алгоритмов, развертывающих так называемые «атаки Сибиллы», создавая фальшивые личности в пиринговой сети, чтобы вторгнуться в определенную организацию или повлиять на определенный вид разговоров.
Твиттер не сумел стать по-настоящему массовым медиумом, но остается невероятно важным для политики, поскольку именно к нему обращаются за новостями многие политики, журналисты и другие элиты. Согласно одному исследовательскому проекту, около 20 процентов измеримых политически дискуссий вокруг президентских выборов велись ботами. Кажется, люди выявляют ботов не лучше, чем мы выявляем репликантов в романе Дика: люди с той же вероятностью могут ретвиттнуть бота, с какой ретвиттят другого человека. Наиболее печально известный случай, когда нынешний президент США недавно ретвиттнул лестное сообщение, которое отправил бот, тесно связанный с сетью других ботов, которые многие считают контролируемыми российским правительством и используемыми для пропаганды.
В его романах Дику было интересно смотреть, как люди реагируют, когда их реальность рассыпается. Мир, в котором реальное соединяется с фальшивым, так что никто не может различить, где заканчивается одно и начинается другое, созрел для пропаганды. Самые пагубные последствия манипуляции социальными сетями, российским правительством или другим, могут не иметь ничего общего с успехом пропаганды. Такие манипуляции насаждают экзистенциальное недоверие. Люди просто больше не знают, во что или кому верить. Слухи, которые распространяются твиттерботами, сливаются с другими слухами, о вездесущести твиттерботов, и не создан ли тот или иной тренд враждебными алгоритмами, а не настоящими людьми.
Подобная масштабная фальсификация особенно взрывоопасна, когда комбинируется с нашей раздробленной политикой. Любимый термин либералов о пропагандистской машине правого крыла, «фальшивые новости», консерваторы обернули против них. Они относятся к новостям, как к пропаганде, а значит игнорируют их. С другой стороны, для многих либералов будет проще обвинять русскую пропаганду за последние президентские выборы, чем принять, что многие избиратели видят Америку совершенно не так, как они.
У Дика были другие одержимости — самыми заметными были политика Ричарда Никсона и Холодная война. Нетрудно представить, как он пишет роман, комбинирующий инфантильного и хищного магната (наполовину Эрни Котт, наполовину Джори Миллер), который становится президентом Соединенных штатов, тайные политические манипуляции России, вторжение лишенного сочувствия роботического интеллекта, маскирующегося под человеческих существ, и слом нашего общего понимания того, что реально, а что фальшиво.
Все эти элементы скорей всего не слишком хорошо соединятся, но, как в лучших романах Дика, целое может и получиться каким-то образом. Ведь именно в несоответствиях романов Дика находится спасение (даже в самые безумные моменты, он сохраняет чувство юмора). Очевидно, что куда сложней заметить шутку, когда в ней живешь. Антиутопии иногда могут быть мрачновато смешными — но редко изнутри.
