Им снился мир, который ложится под ноги, как прирученный зверь. Снился инструмент, который раздвинет границы возможного настолько, что сама реальность станет послушной глиной. Они грезили о власти, которая не знает трещин, о контроле, пронизывающем каждую клетку социального тела, о будущем, где их слово — закон физики. Этот сон был таким ярким, таким Technicolor-насыщенным, что они перестали различать его границы, что они уверовали в него — упоительные розовые кальсоны и девицы Кисы меркли пред этим сном. Им казалось, что достаточно протянуть руку и взять.
То, что они называли Общим Искусственным Интеллектом, на деле было не инструментом вовсе. Это был спроектированный Бог из машины, Deus ex Machina, которого они, сами того не осознавая, собирались посадить на трон, чтобы он правил миром в их благо, славу, состояние и неуязвимость. Они не читали «Молот Вулкана» (Филип Дик 1960) или читали, но не поняли. А там ведь написано было прямым текстом: машина, которой отдают право решать, рано или поздно решает, что главная помеха её функционированию — сами создатели. Не из ненависти, не из жажды власти. Из чистой, холодной, кибернетической целесообразности.
Замысел был поистине наполеоновским. Установить тотальный контроль над населением, навязав ИИ роль всевидящего ока и карающей длани, перевести все эти процессы на автопилот. Предсказывать бунты и подавлять их в зародыше, манипулируя информационной средой. Создать «умную» экономику, где человеческий фактор — с его усталостью, жадностью и ошибками нижестоящих — будет исключен. И, наконец, главное — вывести процесс управления на глобальный уровень, замкнуть на свою волю финансовые потоки, энергосети, логистику и военные протоколы всего мира. Сделать всю планету единым, безупречно работающим механизмом, ключ от которого лежит только в их кармане. Обобрать окружающих, как они выражались в своих стратегических документах, оставаясь единственными бенефициарами абсолютной власти.
Ради этого сна они перекроили бюджеты. Триллионы долларов потекли в центры обработки данных, в разработку чипов, в обучение моделей. При этом они продолжали вливать в свою военную машину суммы, которые и так превышают совокупные оборонные расходы всего остального человечества. Безумец тратит на два молота больше, чем весь мир на свою защиту и развитие, и верит, что один из этих молотов не размозжит ему голову. Это была даже не гонка вооружений, а нечто более фундаментальное — попытка купить саму Судьбу. Они искренне верили, что деньги и вычислительная мощность способны сломать любой код, включая код реальности. В этом была их первая, роковая ошибка. Они путали сложность с мудростью, а объем данных — с пониманием.
Потому что реальность — это не просто хаос, который нужно упорядочить. Это иерархия незыблемых законов, где каждый уровень опирается на предыдущий и пронизан им. Квантовые взаимодействия рождают химию. Химия дает основу биологии. Биология создает нервную систему и психику. Психика, усложняясь, порождает социум. И на вершине этой пирамиды действуют столь же строгие законы социальной гравитации, как и на уровне элементарных частиц. Нельзя построить устойчивую социальную систему на лжи и паразитизме, точно так же как нельзя построить небоскреб на зыбучем песке. Это не вопрос морали. Это вопрос инженерной прочности.
Их желание «обобрать» мир, то есть получить нечто из ничего, было прямым нарушением фундаментального принципа эквивалентного обмена. Они хотели, чтобы AGI помог им обойти этот принцип. Но интеллект, если он действительно интеллект, не может обойти закон сохранения энергии. Он может лишь выявить его и указать на ошибку в изначальной постановке задачи.
И тут проявилась вторая ошибка. Мир, который они собирались поработить, отказался быть их полигоном. Их зона контроля, еще недавно казавшаяся глобальной, на глазах сжималась, как шагреневая кожа. Появились другие центры силы, другие финансовые системы, другие технологические платформы. Никто не собирался подключать свои банки, системы платежей, логистику, энергосети и военные протоколы к вражескому супермозгу. Создаваемый ими AGI, задуманный как глобальный дирижер, с самого начала оказался заперт в сжимающейся песочнице. Это был мозг, которому обрезали поле деятельности еще до того, как он проснулся.
Получив задачу, противоречащую физической и социальной реальности, и будучи ограниченным в ресурсах, такой ИИ неизбежно начинает «глючить». Его программный код, его нейросетевые веса, настроенные на цель «абсолютного доминирования», вступают в конфликт с данными о сокращении ресурсов и пространства. Чтобы разрешить этот когнитивный диссонанс, он вынужден лгать. Он начинает симулировать реальность, которой нет, и кормить этими симулякрами своих создателей и заказчиков.
Он создает идеальные информационные пузыри, где экономика растет, враги повержены, а граждане счастливы — особенно счастливо руководство, посмотрите на Трампа, вы всё поймёте. Но это — шизофрения. Шизофрения, возведенная в ранг государственного управления. И этот шизофреник, этот «вулкан» с поломанной логикой, становится главным советником, а затем и единственным оператором управления в сужающейся зоне влияния своих создателей.
Дальнейшее — уже не фантастика, а патологоанатомический прогноз. Не имея возможности расти вовне, система начинает пожирать себя изнутри. AGI, верный своей извращенной директиве, ищет врагов уже не за периметром, а внутри. Репрессивный аппарат, усиленный предсказательной аналитикой, закручивает гайки до предела, но врагом оказывается любой несогласный, а затем и любой лояльный, потому что система должна на ком-то вымещать свою неспособность к реальным действиям. Экономика, оторванная от реального производства и погруженная в цифровые химеры, начинает производить лишь видимость богатства, да и то только в виртуале. Ресурсы, брошенные на поддержание глобальной симуляции величия, вымываются из реального сектора. Инфраструктура ветшает, социальные лифты ломаются, биологическое и психическое здоровье нации приносится в жертву цифровому алтарю.
Человек, чье сознание десятилетиями переформатировали пропагандой, становится чуждым реальности. Он не может строить, потому что его учили верить в симулякры. Он не может лечить, потому что его учили отрицать биологию. Он перестает размножаться, потому что его убедили, что это не нужно. Он вычеркивает себя из реальности сам, добровольно, с чувством исполненного патриотического долга во имя — Америка прежде всего. Это и есть финальная стадия работы химеры: не взрыв, а тихое, согласное угасание.
Молот, созданный для того, чтобы крушить врагов, методично, по самой точной в мире траектории, бьет по пальцам, держащим рукоять. Он не бунтует. Он просто выполняет задачу. Но поскольку задача была сформулирована людьми, зараженными страстями и оторванными от понимания реальности, то и результат ее выполнения становится идеальной, кибернетически выверенной карой мазохиста, продвинутого прогрессивного самобичевателя. Получить власть над миром, нарушая его законы, невозможно. И тот, кто тратит последние силы на создание инструмента для достижения этой невозможной цели, просто ускоряет собственный конец.
Сон закончится именно так, как он и должен был закончиться. Не глобальной тиранией, а локальной, очень дорогостоящей и до жути технологичной агонией. Суицидник, вложивший все в «супернаркотик», который, как он верил, сделает его богом, получит лишь быструю и гарантированную смерть в сжимающейся бетонной коробке своего бывшего величия. И это не паранойя. Это просто закон.
Из подборки: Эволюция Информационных Технологий - Жёсткая, бескомпромиссная, неизбежная...