Действие романа Олдоса Хаксли «О дивный новый мир», опубликованного в 1932 году, происходит в 2540 году — это показатель того, насколько далеко в будущее автор представлял свою мрачную картину. Как и работа Джорджа Оруэлла «1984» десятилетиями позже, роман Хаксли служил предостережением. Предупреждение Хаксли — помимо его озабоченности властью государства над личностью, схожей с обеспокоенностью Оруэлла, — было реакцией на чрезмерный энтузиазм по поводу технологического прогресса в его эпоху.
Пророческое предупреждение Хаксли
Существует очевидная связь между беспокойством Хаксли и современными страхами по поводу потери контроля над стремительно развивающимися возможностями искусственного интеллекта. Грядущее массовое вытеснение ИИ рабочих мест, связанных с обработкой документов, обработкой информации, созданием контента, юридической работой, бухгалтерским учетом и аналогичными услугами «белых воротничков», может привести к ситуациям, когда общества будут вынуждены назначать миллионы ранее продуктивных людей на универсальный базовый доход, делая их полностью зависимыми от государства. Похожие последствия для занятости, связанные с быстрым развитием робототехники в промышленности и логистике, дронов, используемых для доставки, и перехода на автономные транспортные средства, могут привести к аналогичной необходимости в значительно расширенной системе социального обеспечения и соответствующей зависимости.
Более тонкая угроза
Однако существует более тонкая угроза, предсказанная Хаксли, которая уже формируется и прячется на виду: это постоянное увеличение государственного (и корпоративного) контроля и наблюдения за обществом с помощью технологий. Хаксли не просто предупреждал о рисках чрезмерной зависимости от технологий: он обращал внимание своих современников на опасности общества, организованного вокруг этих технологий.
Сегодняшний пример — Китай. Начав путь к контролю государства над обществом десятилетия назад с политики одного ребенка (с тех пор отмененной), Китай недавно — и что еще более тревожно — усилил контроль над обществом через свою систему «Социального кредита», общенациональную программу, основанную на алгоритмах и наблюдении, предназначенную для формирования поведения граждан через автоматизированные награды и санкции. Последние могут включать в себя формы черных списков, которые затрудняют, если не делают невозможным, для несоответствующих граждан получение работы, образования, жилья и других благ.
Американцы могут считать, что они достаточно защищены от такого государственного контроля над обществом благодаря своей демократической форме правления, конституции и правовой системе. Однако часть китайской системы контроля — та, которая регулирует кредитоспособность граждан, — уже широко представлена в американской жизни через всеохватывающий, компьютеризированный, алгоритмически управляемый «кредитный рейтинг», который может значительно усложнить жизнь гражданам, не соответствующим идеальному кредитному профилю, даже если у них вообще нет долгов или они находятся в твердом финансовом положении.
Кредитные рейтинги — это лишь видимая часть айсберга медленно расширяющихся технологических практик, которые ослабляют человеческие связи и узы, составляющие общество, заменяя их государственными и/или корпоративными структурами и цифровыми платформами и сервисами.
Элементы мрачного видения будущего Хаксли уже происходят сегодня
Если взглянуть на то, как наше общество и образ жизни изменились всего за последние три десятилетия, и сравнить эти изменения с тем, как Хаксли описывает жизнь в Государстве мира, параллели кажутся многочисленными и тревожными.
В книге использование одобренного государством опиата, сома, поощряется для того, чтобы помочь людям расслабиться и избавиться от беспокойства или стресса: это предвосхищение широко распространенного сейчас среди американцев употребления аналогичных препаратов, таких как марихуана, транквилизаторы и другие формы лекарственной или наркотической помощи от боли или стресса, как легальной, так и нелегальной.
Сегодняшняя экономика, в которой оба родителя в большинстве случаев вынуждены работать, чтобы свести концы с концами, в сочетании с необходимостью найма сторонних услуг по уходу за детьми и тенденцией к школьному обучению детей с все более раннего возраста, может рассматриваться как постепенное приближение к ответственности Государства мира за воспитание и индоктринацию младенцев и детей.
Дети в Государстве мира с рождения разделены на пять иерархически нисходящих каст: Альфа, Бета, Гамма, Дельта и Эпсилон. Это в значительной степени отражает то, как в нашем современном обществе социально-экономический статус семьи является ключевым фактором в будущем ребенка — его образовании, окружении, диете, уровне жизни и социальных связях. Это, в свою очередь, сильно влияет или даже определяет здоровье ребенка (и, как следствие, его телосложение), профессиональные возможности, выбор татуировок и пирсинга, манеру одеваться и общее поведение, до такой степени, что социальный класс человека можно часто угадать просто по его внешнему виду.
Эта современная версия кастовой системы Государства мира дополнительно подкрепляется широкой популярностью онлайн-платформ для знакомств с фильтрами, которые позволяют людям с более высоким статусом — особенно женщинам — автоматически исключать возможность связи (и, в конечном счете, продолжения рода) с менее привлекательными и низкостатусными людьми.
Развлечения: больше, чем когда-либо, опиум для народа
Ориентация Государства мира на поддержание граждан в состоянии развлечения и полного вовлечения в потребление — одна из самых очевидных параллелей с современной культурой. Однако даже Хаксли не мог представить, до какой степени сегодня люди имеют доступ к неограниченному количеству развлечений в любое время и в любом месте — алгоритмически подобранным фильмам, сериалам, музыке, спорту, порнографии, мемам, покупкам, анимации, политической пропаганде и бесчисленным их гибридам и вариантам.
В отличие от социальных, совместных развлечений прошлого — таких как карточные игры, посиделки за вязанием, боулинг — современные развлечения в основном пассивны и одиночны. Их захватывающее наслаждение ослабляет социальные узы и личное влияние, а не укрепляет их. Это, в некотором смысле, еще один вид опиума, цифрово передаваемая сома.
О дивный новый мир… но только для молодых?
В романе Хаксли, в определенный момент два главных героя, Бернард и Ленина, получают разрешение посетить отдаленную «нецивилизованную» территорию под названием Резервация. Среди прочего, они шокированы, увидев настоящих пожилых людей, естественно стареющих, в отличие от искусственно поддерживаемой юности, достигаемой с помощью химии и гормонов, среди жителей Лондона в Государстве мира. Для столицы Англии в книге мы можем подставить любой современный город — Лос-Анджелес, Нью-Йорк, Даллас или почти любой другой крупный город, где широко используются ботокс, филлеры, пластическая хирургия и другие методы, чтобы сдержать признаки старения.
Подобно тому, что происходит в Резервации у Хаксли, сегодня пожилые люди все чаще изолируются в «домах престарелых» или «сообществах для пенсионеров», удаляя их из основной социальной среды. В результате исчезает концепция расширенной семьи, живущей вместе или в географической близости, в которой бабушки и дедушки участвовали в воспитании своих внуков, передавая семейные традиции, социальные нормы и культурную идентичность.
По какой цене достигается стабильность общества?
Несмотря на все внимание к опасностям государственной системы, контролируемой технологиями, в описанном Хаксли Государстве мира есть еще более зловещий аспект: убежденность государства в том, что стабильное, мирное общество — это такое, в котором личная автономия должна быть подавлена; такое, в котором все формы боли устранены; и такое, в котором потребительство и стремление к удовольствиям являются главными занятиями и смыслом жизни населения.
Хуже того, в романе Хаксли описана цель Государства мира — достижение общественного счастья, несовместимого с поиском истины и смысла.
Персонаж Хаксли «Мировой Контролер» Мустафа Монд утверждает, что незначимость истины и искусственно созданное отсутствие страданий способствуют счастью в обществе. Это, по его мнению, единственный способ достичь стабильности общества. И эта стабильность, в свою очередь, гарантирует постоянство счастья.
Представление Оруэлла о навязывании стабильности общества государством было более жестоким и мрачным, чем у Хаксли, но оба имеют свои современные эквиваленты. В таких странах, как Китай, Россия, Иран и Северная Корея, режим правления навязывает тоталитарный и, при необходимости, жестокий контроль над обществом, в Иране — со стороны религиозных властей. На Западе, напротив, правительства слишком податливы к лоббистским воздействиям корпораций и соучаствуют в «мягком» контроле над населением, приведенным к покорности потребительством, одиночеством, обжорством, опиатами и бесконечными возможностями для развлечений.
В обоих случаях истина становится жертвой достигнутой стабильности: она подавляется через драконовский контроль над СМИ и образовательной системой в диктаторских режимах мира и становится незначимой на Западе благодаря общей склонности к комфорту, утешениям и развлечениям.
Говорить правду власти в тоталитарных государствах мира означает тюрьму или худшее. На Западе истина размывается до почти полной потери смысла: её прежнее определение как объективной, окончательной, бесспорной и основанной на фактах уступает место идее субъективной, основанной на чувствах и личных «пережитых истинах».
Шаг за шагом в Государство мира
Но, возможно, мы только в начале нашего пути к О дивному новому миру. Технологически управляемая стена контроля продолжает постепенно возводиться, но почти незаметным образом, что позволяет этим мерам встретить мало или вообще не встретить сопротивления.
Примеры включают стремление правительств к отказу от наличных денег в пользу исключительно цифровых (а значит, бесконечно отслеживаемых) способов оплаты; планы, разрабатываемые центральными банками по выпуску собственных криптовалют, защищенных от обычных мер регулирования денежной массы, инфляции и фискальной ответственности; принудительный отказ от двигателей внутреннего сгорания в пользу электромобилей, подключенных к сети, что позволяет централизованно отслеживать использование и местоположение автомобилей; и хранение ДНК граждан в цифровых базах данных, что открывает путь для её использования маркетологами и создаёт возможность дискриминации по генетическому признаку со стороны работодателей и страховых компаний.
Одержимость Марка Цукерберга созданием своей виртуальной «Метавселенной» может служить самым ясным сигналом того, что сегодня настоящие владельцы власти — владельцы цифровых платформ, которые мы все чаще используем для получения информации, покупок, развлечений и общения, — стремятся привлечь нас к симуляции того рода централизованно организованного, «счастливого» и «стабильного» общества, против которого предостерегал Хаксли.
Чтобы обвинения в нео-луддизме не были предъявлены в связи с этими опасениями, следует признать, что технологии действительно сделали, и продолжают делать, нашу жизнь проще, здоровее, продуктивнее и интереснее. Мы можем использовать их, чтобы делать всё возможное, как индивидуально, так и как общество, чтобы достичь счастья, стремясь уменьшить страдания. Мы всегда можем выбирать искать правду, даже если она неудобна или неудобна, среди вихря дезинформации и манипуляций. Но мы можем делать это только если сопротивляемся искушению использовать технологии для целей контроля над обществом.
Наши мнимые защиты иллюзорны
Наша правовая система не защитит нас от мрачного видения Хаксли: законы можно изменить, и то, что раньше считалось немыслимым, станет обязательным. Религия нас не спасет: история достаточно хорошо показала, как её лидеры могут использовать своё влияние, чтобы также легко направить нас на путь, как и вдохновить нас. Искусство, хотя и соблазнительно так думать, не является оплотом: оно может быть политически манипулировано и таким образом служить инструментом власти... и, кроме того, сегодня оно может быть создано машинами настолько впечатляюще, что это было бы немыслимо всего пять лет назад.
Технологии сами по себе, безусловно, не являются ответом: Кубрик и Кэмерон дали предварительный обзор этого в своих работах с HAL 9000 в Космической одиссее и Skynet в Терминаторе. Сегодня не является алармистским предсказать, как это делают многие ведущие технологи, что однажды искусственный интеллект, Интернет вещей и продвинутые сетевые дроны, роботы и подобные машины неизбежно научатся соединяться и комбинироваться таким образом, чтобы достичь, возможно, в недалеком будущем, способности обойти защитные механизмы, которые, как мы думаем, мы можем в них встроить.
Мы пока еще не в Матрице. Так как же нам убедиться, что мы всё еще можем избежать судьбы, описанной Хаксли? В чём эквивалент того, чтобы иметь смелость, пока еще есть время, принять красную пилюлю осознания, предложенную Нео в классике научной фантастики Вачовски, вместо того, чтобы проглотить ещё одну успокаивающую синюю пилюлю, пока мы «Нетфликс и чилл»?
Отказ от опасных контролей
Необходим рефлекс защиты: такой, при котором мы инстинктивно как механизм коллективного выживания отвергаем любые меры, управляемые технологиями, способные обеспечить ещё более навязчивое наблюдение и удаленное влияние на наши индивидуальные действия, мнения и образ жизни. И нужно быть готовыми — это самая сложная часть — пожертвовать некоторой степенью безопасности, здоровья и даже счастья ради права жить с как можно меньшим количеством централизованных и цифрово организованных контролей.
Всегда будут сильные и даже полностью обоснованные аргументы в пользу все более сложной структуры данных, на которой организованы, измерены и управляются наши жизни. Найти правильный баланс между тем, что хорошо для общества, и тем, что нарушает права индивидуума, — всегда будет неточной наукой.
Но, пока мы с подозрением следим за технологиями, бдительно, чтобы микроэлектронные инструменты не превратились в цифровые ярма, мы должны помнить и остерегаться того, чтобы незаметно не скатиться в другие аспекты видения Хаксли: мир, в котором концепции семьи, дружбы и общины были уничтожены. Мир, в котором глубокие эмоции были подавлены и заменены поверхностностью и развлекательными отвлечениями. Мир, в котором — подобно Оруэллу в 1984 — исторические знания и культурное наследие были переписаны, осуждены или стерты. И мир, в котором духовность — понимаемая как поиск высших истин или личностного роста — подавляется.
Этот список очень некомфортно перекликается с общественными тенденциями, которые мы видим формирующимися и закрепляющимися сегодня на наших глазах.
Назад в прошлое, чтобы бороться с системой
Вопреки тому, что политики и технологические миллиардеры хотели бы нас заставить поверить, «изменения» и «прогресс» не всегда действуют так, как рекламируются. В нашем всё более цифровом, виртуальном, алгоритмически управляемом мире, чтобы избежать порабощения цепями схем, мы должны начать отдавать предпочтение, когда это возможно, человеческому общению. Настоящим разговорам и даже столкновениям мнений — как с другими людьми, так и внутри самих себя.
Мы должны бороться за сохранение свободы, автономии и — возможно, что самое важное, анонимности, если это желательно — в финансовых, религиозных, политических и жизненных вопросах. Мы должны предоставить нашим детям прочное моральное основание и основы образования, одновременно воспитывая в них страстную любовь к независимости и самодостаточности и здоровое недоверие к власти. Мы должны заново открыть способность религии не создавать уверенности, а скорее ставить под сомнение те, которые ослепляют нас к саморефлексии.
Иными словами, лучший противовес предостережению Хаксли — буквально «вернуться в контакт» с нашими собратьями. Это становится ещё более важным сейчас, когда цифровые «персоны» с поддержкой ИИ всё чаще способны пройти знаменитый тест Тьюринга, обманывая людей, заставляя их думать, что они общаются с другим настоящим человеком, или даже — с использованием зловеще точной имитации голоса и цифрового рендеринга видео — с доверенным другом, членом семьи, одноклассником или коллегой.
Столкнувшись с перспективой такой мощной цифровой манипуляции, мы должны по возможности отказаться от цифровых интерфейсов общения в пользу личного общения «IRL» (в реальной жизни). Мы должны обменять наши эмодзи, «лайки» и комментарии на социальных платформах на настоящие разговоры, обеды, ужины и шахматные партии в парке. Выключить наши прокрутки и стримы и вместо этого организовать и посещать вечеринки, спортивные мероприятия, концерты, игровые вечера и часы комедии. Мы должны заново открыть для себя исконное человеческое утешение от присутствия наших человеческих собратьев, даже если это просто сидеть и пить кофе или напиток в физической близости с другими людьми в баре, кафе или ресторане.
Прислушайтесь к предупреждению
За десятки тысяч лет чувство общей общности и повседневные случайные и неформальные межличностные взаимодействия, которые сопровождают его, — возможно, самые важные коллективные ощущения, которые сделали нас больше, чем просто животными, и тем, что отличает нас от машин.
Существуют основы, базовые строительные блоки и структуры человечества, которые развивались со временем по определенной причине. Позволить им разрушаться и выходить из употребления, заменяя их на обезличенную логику «систем» и бескомпромиссное совершенство схем в стремлении к ещё большему комфорту, эффективности и стабильности, — это цивилизационное самоубийство. Хаксли это предвидел. Мы были предупреждены.