'Проблемы невозможно решать на том же уровне компетентности, на котором они возникают.'
Альберт Эйнштейн
'Если бы человеческий мозг был устроен настолько просто, чтобы мы могли его понять, мы были бы устроены настолько просто, что не смогли бы понять ничего.'
Эмерсон М. Пью
"Мозг — лжет. Контуры обратной связи возникают для поддерживания стабильности сердцебиения, а потом мозг сталкивается с искушением ритма и музыки. Удовольствие, получаемое при виде фрактальных узоров, алгоритмы, помогающие выбрать среду обитания, перерождаются в искусство. Радости, которые прежде приходилось зарабатывать шаг за шагом по эволюционной лестнице, теперь приносила бессмысленная рефлексия. Из триллиона дофаминовых рецепторов возникает эстетика, и система перестает просто моделировать организм. Она начинает моделировать процесс моделирования. Она пожирает все больше и больше вычислительных ресурсов, вязнет в болоте бесконечной рекурсии и неуместной симуляции. Как мусорная ДНК, что накапливается в геноме любой твари, система сохраняется, и множится, и ничего не производит, кроме собственных копий. Надпроцесы расцветают точно опухоли, пробуждаются и называют себя «Я».
Система слабеет, замедляется. Столько времени уходит только на восприятие — на то, чтобы оценить сигнал, пережевать, принять решение на манер разумного существа. Но когда на пути твоем грохочет потоп, когда лев набрасывается из густых трав, новомодное самосознание оказывается непозволительной роскошью. Ствол мозга работает в меру сил. Он видит угрозу, перехватывает управление, реагирует в сотню раз быстрее, чем жирный старикашка, восседающий в директорском кресле наверху; но с каждым поколением все труднее становится обходить эту… эту скрипучую неврологическую бюрократию.
Самоодержимое на грани психоза «Я» растрачивает энергию и вычислительные мощности."
"Ты столько сил вкладываешь в него, правда? Он возвышает тебя над зверями лесными, он тебя выделяет. Ты зовешь себя Homo sapiens — человек разумный. Да имеешь ли ты хоть представление о том, что он такое, этот разум, который ты поминаешь с таким восторгом? Ты хоть знаешь, на что он годится?
Ты, может, думаешь, разум дает тебе свободу воли? Или забыл, что безумцы разговаривают, водят машины, совершают преступления и убирают улики — и все это время находятся без сознания? Или никто не сказал тебе, что даже те, кто бодрствует, — всего лишь рабы, отрицающие очевидность?
Сделай осознанный выбор. Реши шевельнуть указательным пальцем. Поздно! Сигнал уже миновал локоть. Тело начало действовать за добрых полсекунды до того, как твое сознание решилось это сделать, ведь сознание ничего не решает; твоим телом распорядилось что-то иное, а гомункулу в черепушке только пояснительную записку отправило — если не забыло. Человечек в голове, самонадеянная подпрограмма, полагающая себя личностью, принимает взаимную связь за причинную; он читает записку, видит, как шевелится палец, и считает, что второе вызвано первым.
Но он ничем не управляет. И ты не управляешь. Если и существует в природе свободная воля, она не снисходит до таких, как ты.
Тогда что же? Проницательность? Мудрость? Поиск истины, доказательства теорем, наука, технология и все прочие исключительно человеческие занятия, которые не могут не покоиться на фундаменте разума? Может, он бы и для этого сгодился… если бы научные прозрения не возникали, вполне оформленные, из подсознания, не проявлялись в сновидениях или озарениями после крепкого сна. Первое правило зашедшего в тупик исследователя: остынь. Займись другим. Решение придет, когда перестанешь сознательно его искать.
Каждый пианист знает, что лучший способ испортить выступление — следить за движением пальцев. Каждый танцор и гимнаст понимает, что тело должно действовать само, без участия разума."