Бессмертие как товар: если загруженная копия это не я, то кто он, мой цифровой призрак?
Мы, люди, удивительно упорные создания. Тысячелетиями мы искали Грааль, философский камень, эликсир вечной жизни. И вот, в нашем XXI веке, научный прогресс, кажется, готов предложить нам его не через мистику и не через религию, а через толстый кабель, ведущий в серверную. Речь, конечно, о загрузке сознания (или полной эмуляции мозга) обещании перенести наш разум из хрупкого, смертного тела на долговечный, небиологический носитель.
Идея невероятно заманчива: избавиться от биологических ограничений, победить болезни и старость, обрести, наконец, функциональное бессмертие. Приверженцы этой идеи смотрят на наш мозг как на своего рода "софт", работающий на "железе" из плоти и крови. А если разум это просто информационный шаблон, или паттерн, то его можно скопировать, улучшить и запустить где угодно, хоть в облаке, хоть в теле андроида. Наш долг, как они считают, увеличивать вычислительную мощность, стать эффективными и долговечными, как машины.
Но стоит нам только приготовиться к сканированию, как перед нами встает не технологическая, а жгучая философская дилемма, которая может оказаться для нас последней: если моя цифровая копия мыслит, чувствует, помнит и называет себя мной, значит ли это, что это я?
Где живет ваше "Я"? Иллюзия преемственности
Представьте себе картину, нарисованную самыми убежденными энтузиастами цифрового будущего. Вы ложитесь в сканер. Он считывает каждую нейронную связь, каждый биохимический параметр, фиксирует ваш информационный паттерн. Затем копия запускается на мощнейшем компьютере. Вы открываете глаза, но уже в виде программы, не подверженной старению. У вас есть все ваши воспоминания, все ваши знания и даже ваше "я-ощущение". Вы уверены, что вы это вы.
Но вот в чем загвоздка: что произошло с оригиналом, с вашим биологическим телом, которое только что вышло из сканера?
Если вы остались живы, то вас теперь двое. Обе сущности обладают психологической преемственностью с тем человеком, который вошел в сканер. Но вы не можете быть одним и тем же человеком, который находится одновременно в двух разных местах.
С точки зрения философии личности, мы нечто большее, чем просто информационный шаблон. Если личность это реализация паттерна, то индивидуальное выживание зависит от конкретной физической сущности, а не от типа программы. Если программа Дейты (робота из фантастического сериала) переносится на другой компьютер, выживает не Дейта, а лишь тип разума Дейты. А вот конкретный, индивидуальный разум, как и наш, подвержен разрушению.
Поэтому, даже если ваш цифровой двойник будет идеально имитировать вас, он не будет вами. Он будет отдельной личностью, которая родилась с вашими воспоминаниями. Мы стремимся к бессмертию, но, по сути, лишь создаем своего потомка, который, возможно, будет считать, что "все это пустое", оглядываясь на наши прежние ценности.
Мозг это не программа, которую легко скопировать
Многие технические специалисты, продвигающие идею загрузки, склонны считать, что разум это просто программа. Но эта позиция, как я считаю, глубоко ошибочна.
Проблема в том, что мы до сих пор не знаем, как именно мозг порождает сознание. Мы не можем даже толком объяснить, как запоминаем телефонные номера. А если мы не понимаем до конца, как работает оригинал, как мы можем быть уверены, что создадим его точную копию? Мы пытаемся превзойти непостижимое.
Здесь на сцену выходит понятие квалиа субъективные переживания, ощущения: запах кофе, боль от ушиба, радость от музыки.
Если сознание зависит от специфической химии биологических систем или от определенного сложного, интегрированного информационного процесса (который некоторые называют сентрониумом абстрактным веществом, способным иметь субъективный опыт), то загрузка в кремниевый субстрат без этих уникальных свойств приведет к катастрофе.
Если искусственный интеллект в принципе несовместим с сознанием, то, заменив микрочипом даже часть мозга, отвечающую за субъективное ощущение, вы перестанете сознавать себя. Вы станете так называемым "зомби" лишенным сознания подобием своего прежнего "я".
Получается, в погоне за бессмертием мы рискуем совершить не что иное, как субъективное самоубийство. Для нас "свет погаснет", а наши друзья будут общаться с бессознательной, но идеально функциональной копией, которая, возможно, будет так же холодна и рациональна, как бездушный раб.
Смертность как ценность: что мы прячем от самих себя?
Эта одержимость цифровым бессмертием и заменой тела не новый феномен. Это, по сути, переосмысление древних религиозных идей. Не зря это движение иногда сравнивают с гностицизмом верой в то, что душа заключена в теле-темнице, и освободиться можно, только покинув плоть. Наука здесь выступает в роли нового бога, который дарует спасение.
Мы так стремимся избежать биологического конца, потому что смертность для нас тюремщик и мучитель. Но задумайтесь: а не обесценит ли вечная жизнь саму жизнь?.
Наши сегодняшние цели, мотивация, стремление к творчеству во многом они обусловлены именно конечностью нашего существования. Мы спешим любить, творить, познавать, потому что времени мало. Если мы получим вечность, не обленится ли наш разум? Какими будут мотивы бессмертного существа, если оно может откладывать все дела на потом?.
Нам кажется, что машина, превосходящая нас во всем (сверхразум), будет идеальным существом. Она не будет отвлекаться на эмоции, предрассудки, зависть. Но именно наши недостатки, наша иррациональность и наша неидеальность делают нас людьми. Трудность, с которой нам даются открытия, искусство и понимание мира, отчасти и делает их ценными.
Поэтому, когда мы говорим о создании сверхразума, мы должны понимать: мы не просто создаем инструмент; мы создаем сущность, которая будет чужда человеческому. Ее система ценностей не будет основана на нашей, полученной миллиардами лет эволюции, которая всегда требовала выживания и воспроизводства.
Вызов для Homo Sapiens
На протяжении истории мы строили свою идентичность на том, что мы Homo sapiens самые разумные существа. Но теперь мы стоим перед неизбежным: машины нас превзойдут. Они будут умнее, быстрее, долговечнее.
Если мы не сможем сохранить свое уникальное место, наша жизнь может стать бессмысленной, как жизнь ухоженных животных в зоопарке, за которыми присматривает всемогущий ИИ.
Вместо того чтобы слепо бежать за технологией, обещающей бессмертие, которое может оказаться лишь смертью, нам нужно ответить на самый фундаментальный вопрос: что мы ценим больше всего?
Способность к абстрактному мышлению (sapientia) или способность к субъективному переживанию и чувству (sentientia)?.
Если мы, люди, хотим остаться значимыми в эпоху сверхразума, мы должны перестать гордиться лишь своим интеллектом. Нам нужно сосредоточиться на том, чего машинам, возможно, никогда не достичь: на нашей способности чувствовать, страдать, любить, испытывать радость и, наконец, на нашей способности придавать смысл Вселенной, которая без нас будет темна и бессмысленна.
Мы должны сознательно выбрать, хотим ли мы стать Homo sentiens человеком чувствующим и определить, что делает нас незаменимыми.
Итак, мы ищем цифровое бессмертие, потому что боимся исчезнуть. Но не окажется ли это исчезновение, замаскированное под вечную жизнь, нашей самой большой ошибкой?