Пенроуз - математик. Один из лучших в мире. И вот он садится и пишет книгу о том, почему компьютер никогда не будет думать. Это как если бы лучший повар мира написал книгу о том, почему еда вредна. Интригующий жест.
Книга толстая. Очень. Пенроуз сначала объясняет квантовую механику, потом теорию относительности, потом термодинамику, потом устройство мозга - и всё это для того, чтобы добраться до своего главного тезиса. Тезис такой: человеческое сознание принципиально невычислимо.
В 1931 году математик Курт Гёдель доказал теорему о неполноте. Грубо говоря: в любой достаточно сложной формальной системе есть утверждения, которые нельзя ни доказать, ни опровергнуть средствами этой же системы. Математик видит, что утверждение истинно. А формальная система - нет, не может. Пенроуз спрашивает: как математик это видит? Если бы его мозг работал как компьютер - как алгоритм, - он бы тоже застрял. Но не застревает. Значит, мозг - не алгоритм.
Раз мозг не алгоритм - что тогда? Пенроуз говорит: квантовая механика. Точнее, то место в квантовой механике, где никто ничего не понимает, - коллапс волновой функции. Момент, когда квантовая неопределённость схлопывается в классическую реальность. Пенроуз предполагает: именно здесь живёт сознание. В микротрубочках нейронов происходят квантовые процессы, которые и порождают то, что мы называем мышлением.
Это уже гораздо более рискованное предположение. Большинство физиков и нейробиологов смотрят на эту часть книги с вежливым скептицизмом. Микротрубочки - да, существуют. Что они там делают в смысле сознания - большой вопрос. Пенроуз честно признаёт, что это гипотеза, но иногда в книге говорит об этом с такой уверенностью, что граница между «я предполагаю» и «так оно и есть» слегка размывается.
Вот парадокс этой книги. Главный аргумент изложен в первых ста страницах и последних пятидесяти. Остальные триста пятьдесят - это экскурс в физику и математику, который Пенроуз устраивает для читателя, чтобы тот мог оценить аргумент. И эти триста пятьдесят страниц - лучшее, что есть в книге.
Пенроуз объясняет теорему Гёделя так, что понимаешь. Объясняет квантовую механику так, что не боишься. Рассказывает про энтропию, про пространство-время, про устройство нейрона - и делает это с каким-то тихим восторгом человека, которому всё это бесконечно нравится. Читаешь и думаешь: вот так должна выглядеть популярная наука. Без снисхождения к читателю, без упрощения до потери смысла. Я несколько раз откладывал книгу, чтобы просто посидеть с тем, что только что прочитал. Это хороший знак.
Философы сознания встретили книгу в штыки, и не без оснований. Первая проблема: из теоремы Гёделя не следует то, что хочет вывести Пенроуз. Теорема говорит об ограничениях формальных систем. Но мозг может ошибаться, у него нет доступа к абсолютной математической истине - он тоже застревает на сложных задачах. Почему мы уверены, что математики видят истинность гёделевских утверждений, а не просто делают обоснованную догадку?
Вторая проблема: даже если мозг невычислим - это не означает, что он сознателен. Случайный генератор тоже невычислим. Пенроуз перепрыгивает через этот шаг немного незаметно для себя.
Третья: квантовое объяснение. Тепловые шумы в мозге на много порядков превышают квантовые эффекты. Откуда там взяться устойчивым квантовым состояниям? Пенроуз знает об этом возражении и отвечает на него - но неубедительно.
Книга вышла в 1989 году. С тех пор искусственный интеллект немного продвинулся. GPT пишет стихи, ставит медицинские диагнозы, рисует картины. Пенроуз был бы непреклонен: всё это не мышление, это очень сложная имитация. Может быть, он прав. Может быть, нет.
ОТКРЫТ НАБОР НА КУРС "СЦЕНАРИЙ ТЕЛЕСЕРИАЛА".
СЛЕДУЙТЕ ЗА БЕЛЫМ КРОЛИКОМ!