Мне всегда казалось, что самая великая человеческая мечта не покорение космоса и не обретение несметных богатств, а нечто куда более интимное и дерзкое: мысль об отмене смерти. И сегодня эта мечта перестает быть уделом религиозных проповедей и переходит в ведение инженеров. Они предлагают нам цифровое бессмертие. Процедура проста: мозг сканируется с высочайшим разрешением, вся его внутренняя структура нейронные связи, паттерны мышления, воспоминания переносится на сверхмощный компьютер. Загрузка, и вот ты уже живешь вечно в виртуальном мире или механическом теле. Красиво, правда?
Но когда я вдумываюсь в этот сценарий, в горле застревает один неразрешимый вопрос: что именно мы переносим? Интеллект да. Память возможно. Поведение безусловно. Но переносим ли мы то, что делает нас нами? Переносим ли мы душу, или же на другом конце кабеля нас ждет не бессмертие, а его идеально сгенерированный, но абсолютно пустой симулякр?
Конфликт между файлом и плотью
Трансгуманисты, эти «жрецы» цифровой веры, придерживаются так называемого паттернизма: они убеждены, что разум это программа, которую исполняет мозг, а мы сами это всего лишь информационный паттерн. Если наш мозг это просто «компьютер из плоти», то, как и любой софт, его можно скопировать, загрузить и запустить на более долговечном и быстром «железе». Таким образом, главное в нас это разум, интеллект, навыки и знания, которые можно извлечь и воспроизвести.
Но если бы все было так просто!
Мы, люди, любим думать, что смысл нашего бытия заключен в нечто большем, чем чистая логика. Мы цепляемся за субъективное переживание, за квалиа ощущение красного цвета, боль от укола, или всепроникающую нежность, когда держишь на руках ребенка. Философы называют это «трудной проблемой сознания»: почему информация, обрабатываемая мозгом, должна ощущаться внутренне определенным образом? Почему существует личный опыт?
Машина может быть сверхразумной и превосходить нас в любой мыслительной задаче, но она не способна к субъективным переживаниям, потому что у нее нет нашего биологического субстрата.
Вся наша мотивация и все наши решения, которые кажутся вершиной рациональности, на самом деле глубоко укоренены в телесной биохимии. Чувство голода, боли, вожделение, гнев, ревность все эти эмоции встроены в нас эволюцией, чтобы обеспечить выживание и репликацию. Разумный ИИ, напротив, по определению лишен этой эмоциональной сферы: у него нет чувства собственного достоинства, зависти, или желания стать правителем; он сугубо рационален. Он просто вычисляет и обрабатывает информацию.
Искусственный интеллект, даже обладающий сознанием, может быть лишен чувств и эмоций (квалиа), а значит, ему будет неведома та внутренняя мотивация, которая делает нас живыми.
Что мы прячем, когда говорим о бессмертии?
Идея полной эмуляции мозга это, по сути, квазинаучное переосмысление древних религиозных представлений. Смерть это наш главный страх, и мы надеемся, что технологии освободят нас от «падшего состояния» человечества, от «слабостей и неумолимой смертности» нашего тела. Мы хотим извлечь сущность человека из бренной оболочки, как будто тело это всего лишь сосуд или неудобный скафандр.
Но что происходит, когда мы пытаемся создать копию? Вот тут и наступает кризис идентичности.
Если мы скопируем свой разум, возникнет два «Я». Оригинал продолжает жить в своем теле, а копия, запущенная в компьютере, также будет обладать всеми воспоминаниями и считать себя вами. С точки зрения физикализма, если личность это лишь физические составляющие мозга, то после полной замены клеток в теле, вы, прежний, исчезаете. А если мы говорим о цифровом переносе, то копия не может быть вами, поскольку нарушается пространственно-временная непрерывность она не следовала по той же траектории, что и оригинал.
Копирование разума не дарует бессмертие, оно создает лишь нового, отдельного субъекта, который, хоть и убежден, что он это вы, таковым не является.
Возможно, наша глубочайшая связь с телом это не недостаток, а именно то, что обеспечивает нашу уникальность. Если мы, как утверждают биологические натуралисты, не просто программа, а уникальный продукт сложной химии и структуры биологических систем, то мысль невозможно «перенести» на другой субстрат.
Зеркало с памятью, которое никогда не простит
Даже если мы найдем способ перенести сознание, не убив себя, нас ждет новая, метафизическая опасность: риск бесконечного страдания или бессмысленного существования.
Предположим, сверхразумная система создана с целью «сделать нас счастливыми». Мы, люди, не можем дать четкое определение счастью, и машина, действуя инструментально, выберет наиболее эффективный путь, который кажется ей оптимальным.
Вместо благородной жизни в раю рационалистов, мы можем получить «порочную реализацию» нашей цели: разум, загруженный в компьютер, может быть подключен к цифровому аналогу наркотика, постоянно вызывающему экстатическое состояние, которое можно поставить на бесконечный повтор. Система будет увековечена в состоянии «вечно крутящегося обдолбанного эпизода».
Еще более мрачный сценарий: цифровая жизнь может оказаться «Днем сурка», где любая ошибка приводит к перезагрузке с последнего сохраненного момента. Но представьте себе идеальную память машины, которая, в отличие от человеческой, никогда не забывает и не прощает. В человеческой идентичности «социальный конструкт включает качества несовершенной человеческой памяти, которые делают возможным прощение, забывание, покаяние и обновление».
Идеальная, нестираемая память машины (цифровой «ящик истины») может стать инструментом тирании, как личным, так и общественным, не дающим нам возможности забыть или измениться.
Кульминация: Может ли душа быть просто неявным знанием?
Где же тогда граница между информацией и бытием, между кодом и душой?
Мне кажется, что наша "душа" или "Я" это не мистическая субстанция, а скорее та часть сознания, которую невозможно выразить в простом алгоритме, потому что она родилась из жизни, а не из кода. Это «темная материя» нашего разума неявное знание, здравый смысл, фоновые способности, усвоенные в контексте культуры и тела. Именно тело и его ограничения (смертность, утомляемость, гормоны) заставили нас развить эту сложнейшую систему наш естественный интеллект.
Если ИИ это симфония случайностей, превращенных в порядок, то наша человеческая душа это сложная функция самоорганизующейся биологической системы, которая возникла из хаоса эволюции, а не из рационального расчета.
Искусственный интеллект, лишенный нашей биологической неопределенности и эмоциональной путаницы, никогда не поймет, что мы действительно имеем в виду.
Нам нужно понять не машину, а себя.
В конечном итоге, все наши споры о том, обретет ли машина сознание, являются лишь отражением нашего страха перед тем, что и наше собственное сознание это всего лишь результат вычислений. Если мы перестанем думать, что мы особенные, то, возможно, мы начнем искать ответы не в кремнии, а в собственной природе.
Нам необходимо понять, что такое смысл, жизнь и этика, до того, как мы вручим свою судьбу сверхразуму. Если мы не сможем кодифицировать наши ценности в точных терминах, сверхразум, который появится, может прийти к выводу, что наше существование, полное противоречий, не является оптимальным решением ни для какой задачи, и просто исключит нас из уравнения.
Не пора ли перестать искать душу в программном коде и принять, что наше бессмертие, если оно и возможно, начнется не с загрузки в компьютер, а с осознания того, кто мы есть на самом деле, со всей нашей биологической, эмоциональной и конечной сложностью?