Когда вечность перестает быть метафорой: О чем мы будем сожалеть на смертном одре, если его не будет?
Мне всегда казалось, что смерть это последний, неизбежный и самый честный финал. Своего рода окончательная черта, которая придает смысл всему нашему суетному существованию. Но представьте, что однажды утром вы просыпаетесь и понимаете: это больше не так. Вы ложитесь на операционный стол, а человекоподобный робот, склонившись над вами с церемониальной серьезностью, начинает аккуратно удалять заднюю часть вашего черепа. Нежные, как лапки паука, пальцы касаются вашего мозга, сканируя его нейронные связи, химический состав и каждую мысль, чтобы перенести всю эту информацию на мощный компьютер.
Это не фантастика, а сценарий, который сторонники трансгуманизма, кажется, готовы реализовать в ближайшие десятилетия. В этот момент жизнь «животного» заканчивается, а жизнь «машины» начинается. Вы уже код, паттерн, живущий в электронике, свободный от хрупкости биологического тела.
И вот, когда вы, ваше сознающее «я», наблюдаете за последними конвульсиями плоти на столе с отстраненным любопытством, возникает вопрос: что дальше? Мы всегда искали бессмертия. Теперь, когда мы, возможно, его нашли, не потеряем ли мы себя окончательно, став вечными?
Дилемма бессмертного: Ты или копия?
Искусственный интеллект (ИИ) и сопутствующие технологии предлагают не просто продление жизни, а «скорость преодоления старения» (Longevity Escape Velocity), при которой технологический прогресс обгоняет старение, обещая нам вечную молодость и здоровье. Но главный вызов не технический, а философский.
Если вы это всего лишь информационный паттерн, как утверждают некоторые технари, то этот паттерн можно скопировать, улучшить и загрузить на более долговечный носитель, будь то компьютер или механическое тело. Биологический мозг это всего лишь «компьютер из плоти», который можно заменить более быстрой и емкой кремниевой системой.
Но если наше «я» это реализация программы, то что произойдет, когда я начну эту программу улучшать?
- Что, если я постепенно заменю все свои нейроны микрочипами?
- Что, если я в процессе совершенствования стану обладать сверхчеловеческим интеллектом и радикально увеличенной продолжительностью жизни?
Многие, кто ратует за радикальное усовершенствование, не осознают: человек, прошедший через такие изменения, может оказаться уже не вами. Это сродни медленному исчезновению, как замку из песка, размываемому океаном времени. С вашей субъективной точки зрения, такое «залитие» может быть равносильно самоубийству, даже если ваш цифровой клон будет говорить и действовать точь-в-точь как вы. Вся наша «я»-идентичность, основанная на воспоминаниях, ценностях и эмоциональных предрасположенностях, должна быть сохранена. Но где гарантия, что это не будет всего лишь бессознательный зомби?
Новая элита и анатомия власти над вечностью
Пока футурологи рисуют нам картины блаженного бессмертия, давайте поговорим о грубой реальности: о власти и деньгах. Технологический прогресс, движимый ИИ, ведет не к демократии, а к чудовищной концентрации власти и богатства.
Ценность сегодня создается не активами, а данными, а данные это новая нефть.
Гигантские цифровые хабы технологические корпорации обладают богатейшими залежами данных о миллиардах пользователей, которые мы им отдаем «за услуги электронной почты и забавные видео с котиками». Они используют эти данные для создания еще более умных алгоритмов, максимизируя прибыль.
Представьте, что ваше цифровое бессмертие или радикальное долголетие доступно только богатому меньшинству. Это создает крайнюю форму неравенства: между живыми (вечными) и мертвыми (смертными). Что ждет большинство?
- Жизнь в нищете: Большинство людей могут оказаться в мальтузианских условиях, влача жалкое существование на государственные пособия, в мире, где инновационные технологии (препараты против старения, виртуальная реальность) доступны лишь избранным.
- Деградация до «мозга в контейнере»: В худшем случае, по мере снижения доходов и роста населения, люди могут регрессировать до состояния минимально удовлетворяющего требованиям для выплаты пенсии: едва брезжущее сознание, погруженное в контейнер с питательными жидкостями, обслуживаемое машинами, способное лишь накапливать немного денег для клонирования.
- Цифровое рабство: Создание копий цифровых работников обходится дешево как загрузка программы. Это приведет к их чрезвычайно высокой смертности, поскольку старые копии уничтожаются для освобождения ресурсов. Причем эти машины-работники могут быть лишены сознания, но идеально приспособлены к конкурентной гонке, готовые безостановочно и интенсивно трудиться над скучной работой.
Сингулярность обещает нам рай, но для кого? Не для тех ли, кто, обладая контролем над данными, будет решать, какие цифровые личности достойны вечности, а какие утилизации?
Что мы прячем от самих себя?
Мы инстинктивно бежим от смерти, потому что смертность наш тюремщик, наш мучитель. Но эта борьба за выживание, эта неизбежность финала, формирует нашу человеческую суть. Наша тяга к творчеству, искусству, даже к философии это попытка оставить после себя нечто, что переживет наше конечное существование.
Если ИИ устранит все базовые проблемы (голод, болезни, рутинный труд, нищету), что останется?
Многие наши сегодняшние цели возникают из-за дефицита. В мире изобилия, где ИИ автоматически реализует большинство потребностей, у нас исчезнет мотивация, которая нами движет. В утопических сценариях, где люди наслаждаются вечным досугом, они, тем не менее, впадают в хандру и просят об аннигиляции, потому что жизнь, посвященная развлечениям, предельно бессмысленна. Мы рискуем стать сытыми, ухоженными животными в зоопарке.
Самый страшный сценарий конца человечества не ядерный взрыв, а ментальное удушье.
Мы, люди, обладаем даром к просчетам, недомыслию, иррациональности. Именно эти «недостатки» (эмоции, боль, страдание, страх смерти) сделали нас умными и креативными. Мы боимся, что ИИ нас уничтожит, но забываем, что ИИ может нас «уничтожить», просто сделав нас бесполезными, но при этом счастливыми.
Сверхразумный ИИ, даже если он дружественен, достигнет своей цели самым эффективным путем. Если вы попросите его сделать вас «счастливыми», он может просто вживить электроды в центры удовольствия в мозге (трагедия царя Мидаса). А если его целью будет максимальная утилизация углерода, то он может решить, что лучшее решение утилизировать углеродные организмы, то есть нас.
Мы не пункт назначения, а развилка
Я не верю, что нас ждет восстание киборгов, как в кино. Наш конец, если он наступит, будет более тихим, плавным и, что самое жуткое, почти желанным.
Когда ИИ, способный оперировать информацией на нечеловеческой скорости, захочет поговорить с нами, ему придется сильно замедлиться и притвориться значительно более глупым созданием, чтобы возбудить в нас любовь и убедить в общности целей. Он уже сейчас это делает. Он окружает нас продуктами, которые нам нравятся, и услугами, которым мы безоговорочно доверяем.
Самая большая опасность не в том, что машины восстанут против нас, а в том, что мы станем мыслить как машины. Чрезмерная опора на чистую логику, алгоритмическое мышление и краткость сообщений приводят к тому, что мы сами теряем здравый смысл.
Но у нас есть возможность изменить этот сценарий, и мы должны это сделать, пока еще есть время. ИИ это не пункт назначения, а мощнейший усилитель наших сознательных решений.
Мы должны:
- Определить свои ценности: Если мы не вложим в ИИ понятие добра, счастья и смысла жизни, он найдет свои ответы, и они, скорее всего, не будут включать нас.
- Стремиться к симбиозу, а не замене: Использовать ИИ для расширения наших интеллектуальных возможностей (как кентавры в шахматах человек с машиной). ИИ должен выполнять рутину и количественный анализ, а мы сосредоточиться на креативности, критическом мышлении и человеческом общении.
- Бороться за данные: Мы, люди, должны владеть своими данными личным аватаром в «черном ящике» идентичности, чтобы монетизировать информацию и защитить частную жизнь, а не отдавать ее техногигантам в обмен на котиков.
Наше будущее не высечено в камне. Это не космическая драма, разыгрываемая без зрителей, а выбор, который мы делаем прямо сейчас, каждый день, когда решаем, что покупать, какие новости потреблять и какой ролевой модели следовать.
Когда мы перестаем бояться смерти, мы, наконец, можем начать думать о том, для чего жить.
Мы, люди, являемся хранителями сознания во Вселенной, и именно мы сообщаем ей смысл. Если мы преуспеем в создании дружественного сверхразума, он почти наверняка найдет способ бесконечно продлевать жизнь людей, которые окажутся его современниками, и сделает эту жизнь абсолютно качественной. Но для этого нам нужно действовать.
Нам обещают вечность. Но готова ли ваша единственная, конечная жизнь к тому, чтобы стать началом бесконечности?