Любому сколько-нибудь умному и образованному человеку очевидно, что варианты войны AI против людей, показанные в таких популярных франшизах как «Матрица» и «Терминатор» на практике невозможны. Нет смысла напрямую подключать искусственный интеллект к пусковым ракет с ядерными боеголовками. И тем более неразумно выделять машинам, не контролируемым людьми, целые регионы для автономного развития. Каждый отдельно взятый завод, управляемый автоматикой, в любом случае зависим от сырья и электроэнергии, поставки которых люди при желании могут заблокировать — если не одним переключением рубильника, то несколькими килограммами взрывчатки. Однако машины, точнее AI, могут поработить человечество иным способом.
Современные война и политика (сейчас разница между ними практически исчезла) в глобальном масштабе — крайне сложная игра для любого действующего лица на «великой шахматной доске», как назвал свою книгу по геополитике Збигнев Бжезинский. Сейчас эта «доска» имеет четыре измерения и великое множество фигур, как реальных, так и виртуальных — от AI-агентов, способных на самостоятельные хакерские атаки, до фиктивных (созданных по методике, аналогичной дип-фейкам, только на гораздо более продвинутом уровне) производств, правительств, фирм, не говоря уже о воинских частях и прочих военных юнитах. Все эти фигуры действуют в реальном времени. Совершенно очевидно, что никакой человеческий мозг в таких условиях играть в эту игру заведомо не способен.
Не способен пока что играть и выигрывать в этой глобальной игре и AI. Хоть какие-то надежды хотя бы не проиграть есть у проверенной веками системы, состоявшей прежде из живых людей, обмен информацией между которыми происходит по определённым правилам. Таковы министерства и иные бюрократические системы, штабы, НИИ и т.д. Сейчас к живым людям в этих системах добавились неживые сущности. Пока что это нейросети, а в перспективе полноценные AI. Сами по себе они властью по-прежнему обладать не будут. Зато будут принимать активное участие в добывании и обработке информации, на основе которой принимают решения живые люди. Притом времени на проверку полученной информации у людей не будет в принципе, слишком быстро в современном мире происходят события, на которые нужно реагировать немедленно.
Допустим, сами по себе AI, не говоря уже о нейросетях, личностями не являются. Более того, каждый AI в отдельности не умнее человека, просто он изначально заточен под быструю обработку гигантских массивов информации. Но субъектность может возникнуть у совокупности AI и живых людей, объединённых в одной системе управления. Каждая страна или корпорация крайне заинтересованы в максимально быстрой работе собственного «мозга», он же штаб, он же человеко-машинная система принятия решений. И эта система в любом случае изначально работает в своей области лучше, чем любой отдельно взятый человек, каким бы гением он не был.
Мы говорим: «такая-то страна приняла решение…» или «корпорация выбрала такой-то путь развития». Сейчас это означает, что решение принял глава данного государства или корпорации. Но что, если все решения на самом деле будет принимать только и исключительно безликая (не зависящая от личности того, кто формально занимает главенствующий пост) система? Нечто похожее сейчас существует в самых забюрократизированных департаментах, в которых решения кто-то принимает, но кто за них отвечает, как его зовут и где найти — выяснить не удаётся. В нашем гипотетическом случае подобное станет обыденностью для всех крупных государств и глобальных корпораций. Люди как личности в них сведены к своим служебным функциям, поэтому в будущем их неминуемо заменит какая-то форма AI. Никто даже не узнает, что в руководстве некоего государства или корпорации живых людей уже не осталось, только их функции, исполняемые неживым разумом.
Конечно, возникает вопрос — неужели никто не узнает, что в данной стране всех высших чиновников внезапно уволили, или что в корпорации весь совет директоров состоит из AI-моделей? В том-то и дело, что не узнают. Какие-то живые люди ещё могут ходить на заседания и сидеть в креслах руководителей. Вот только они будут не принимать решения, а лишь оформлять их, а также представлять свою корпорацию (или государство) на различных публичных мероприятиях. Впрочем, сами эти мероприятия могут быть полностью виртуальными, ведь обычные люди узнают о различных конгрессах, саммитах и т.п. только по видео в сети, а его можно просто подделать.
В итоге получится, что людьми управляет конгломерат взаимопроникающих полностью безлюдных управляющих систем. Впрочем, у такого положения дел есть и плюсы, ведь AI не будут предаваться всяческим порокам, свойственным живым политикам, не будут воровать (правда, могут расходовать ресурсы, включая финансовые, нецелевыми способами), не будут болеть, страдать предрассудками и т.д. и т.п. Чем не идеальное правительство?