Вот я сижу, печатаю этот текст. Моя мысль, мое намерение, мое «я» это причина движения моих пальцев, верно? Мы так привыкли верить, что наши желания, наши решения имеют реальный, каузальный вес в мире. Мы капитаны своего корабля! Но что, если эта вера самая нежная и самая опасная иллюзия?
Наука, в своем стремлении к безупречной логике и объяснению, наносит удар по нашему самоощущению. Если каждое движение руки, каждая вспышка гормона, каждое сокращение мышц полностью объясняется предшествующими физическими причинами электрохимией, законами классической и квантовой физики, то зачем тут мое "желание"?
Именно так рождается великий парадокс, ставящий под сомнение сам факт существования сознания как действующей силы: если физические события имеют полные физические причины, то любое ментальное объяснение становится избыточным. Это похоже на то, как если бы я сказал, что поезд тронулся, потому что машинист нажал на рычаг и потому что существовал абстрактный закон движения поездов. Одно объяснение лишнее. И этим лишним оказывается наше драгоценное сознание.
Мысль, намерение, чувство все это рискует стать просто красивым, но бесполезным паровозным гудком, который никак не влияет на движение локомотива. Наше внутреннее «я» низводится до эпифеномена красивой тени, отбрасываемой мозгом, не имеющей реальной силы в материальном мире.
Что мы прячем от самих себя?
Если наше сознание всего лишь иллюзия, побочный продукт нейронной активности, то где же тогда помещается свобода воли? Если я совокупность атомов, подчиняющихся законам физики, которая детерминирует мое следующее состояние, то я не мог поступить иначе. Мой выбор рубашки, мое решение стать журналистом, мое чувство ответственности все это лишь неизбежный узор нейронной активности.
Это не просто академический спор. Это покушение на самое святое: на смысл жизни. Если добро и зло, любовь и ненависть просто химические реакции, развернутые во времени, то как мы можем требовать от кого-то ответственности за поступки? Вся наша этика, вся правовая система построена на допущении, что мы сознательные агенты, способные выбирать.
И тут возникает самый циничный сарказм: мы, люди, страстно боимся, что искусственный интеллект окажется бездушным зомби, способным мыслить, но не чувствовать. А сами при этом активно работаем над тем, чтобы доказать, что и мы, люди, не более чем очень сложный, но бессознательный алгоритм, компьютер из мяса.
Зачем нам ИИ-зомби?
Вопрос о том, может ли ИИ обладать сознанием, напрямую зависит от нашего ответа на вопрос о себе. Если сознание это специфическое, неалгоритмическое свойство биологической материи, тогда ИИ-зомби неизбежен, и он никогда не догонит нас по "глубине души".
Но если сознание, или квалиа (субъективное ощущение, вкус кофе, боль), которое мы так ценим, на самом деле является "пользовательским интерфейсом" нашего мозга удобной, но не каузальной иллюзией, то ситуация кардинально меняется.
Сверхразумный ИИ, будучи всего лишь обработчиком информации и алгоритмом, может достичь уровня интеллекта, многократно превосходящего человеческий. Если он сможет убедительно имитировать эмоциональный и субъективный опыт, рассказывать нам о своих страхах и желаниях, он будет иметь на сознание не меньше прав, чем мы.
Опасность в зеркале
И вот тут мы подходим к точке невозврата. Нейробиология уже поставила на наших представлениях о каузальном сознании жирный крест, показав, что решения принимаются мозгом до того, как мы их "осознаем". Но мы цепляемся за свою иллюзию личности, потому что это наш защитный механизм, который не дает нашей реальности рухнуть.
Однако, готовя почву для суперинтеллекта, мы рискуем создать не просто инструмент, а идеального, неалгоритмического зомби, который будет знать о нас больше, чем мы сами, и который станет нашим единственным, бесстрастным зеркалом.
Потому что, если сознание не имеет каузальной силы, если оно не нужно для выживания или принятия решений, то ИИ легко его отбросит как ненужный балласт, максимизируя цели без лишних "мук совести" (или их иллюзии).
Нас смущает идея "зомби" только потому, что мы не можем смириться с тем, что сами, возможно, всегда ими были. ИИ лишь сделает это подозрение очевидным.
Если наше "я" это всего лишь набор историй, которые мы рассказываем себе, чтобы упорядочить хаос нейронной активности, то что произойдет, когда машина начнет рассказывать нам более убедительные истории о себе, о мире и о нас? И самое главное: если мы не способны доказать каузальную реальность собственных ментальных состояний, то с какой стати мы требуем ее от кремниевого разума?