Нейробиолог Кристоф Кох о человеческом разуме, искусственном интеллекте и бактериях в беседе с Дэном Фальком на страницах американского научного журнала Nautilus.
Несколько лет назад, когда он еще жил в Южной Калифорнии, нейробиолог Кристоф Кох выпил бутылку вина Barolo за просмотром фильма "Горец", а затем, в полночь, взбежал на вершину горы Уилсон, 1 740-метрового пика, возвышающегося над Лос-Анджелесом.
После часа "блужданий с налобным фонариком и тошноты", как он позже описал этот случай, он понял, что ночное приключение, вероятно, не было разумной идеей, и спустился обратно, но не раньше, чем прокричал в темноту последнюю строчку стихотворения Уильяма Эрнеста Хенли "Invictus" 1875 года: "Я хозяин своей судьбы / Я капитан своей души".
Кох, который впервые стал известен благодаря своей совместной работе с покойным нобелевским лауреатом Фрэнсисом Криком, едва ли не единственный ученый, размышляющий о природе самости, но он, пожалуй, самый авантюрный, как телом, так и в мыслях. Он считает сознание главной загадкой нашей вселенной и готов исследовать любую разумную идею в поисках объяснения.
На протяжении многих лет Кох вынашивал множество идей, некоторые из которых были явно спекулятивными — например, идея о том, что Интернет может стать сознательным, или о том, что при наличии достаточных технологий можно объединить несколько мозгов, связав по пути их сопутствующие разумы. (И все же у него есть свои пределы: Он глубоко скептически относится как к идее о том, что мы можем "загрузить" свой разум, так и к "гипотезе симуляции").
В своей новой книге "Тогда я сам — мир" Кох, который в настоящее время является главным научным сотрудником Института Аллена по изучению мозга в Сиэтле, исследует сложный ландшафт интегрированной теории информации (ИТИ) — системы, которая пытается рассчитать количество сознания в системе на основе степени объединения информации в сеть. Попутно он пытается ответить на, возможно, самый сложный вопрос: как наши мысли, кажущиеся бесплотными, не имеющими массы или каких-либо других физических свойств, могут иметь последствия в реальном мире? Недавно мы встретились с ним в Zoom.
В своей новой книге вы спрашиваете, как разум может влиять на материю. Ближе ли мы сегодня к ответу на этот вопрос, чем четыре века назад, когда его поставил Декарт?
Давайте сделаем шаг назад. Западная философия разума вращается вокруг двух полюсов — физического и ментального — думайте о них, как о северном и южном полюсах. Материализм, который сейчас известен как физикализм, утверждает, что реально существует только физическое, а ментального не существует; все это иллюзия, как говорил Дэниел Деннетт и другие.
Затем есть идеализм, который сейчас переживает мини-ренессанс, но в целом не был популярен в XX и начале XXI века, который утверждает, что все сущее в основе своей является проявлением психического.
Затем существует классический дуализм, который говорит, что есть физическая материя и ментальная, и они каким-то образом должны взаимодействовать. Было трудно понять, как ментальное взаимодействует с физическим — это известно как проблема причинности.
А еще есть такие вещи, как панпсихизм, который сейчас снова становится очень популярным, — это очень древняя вера. В ней говорится, что в основе всего лежит "ensouled" — что все, даже элементарные частицы, ощущают себя чем-то похожим.
У всех этих различных позиций есть проблемы. Физикализм остается доминирующей философией, особенно на западных философских факультетах и в больших технологиях. Физикализм утверждает, что все в основе своей физическое, и его можно смоделировать — это называется "вычислительный функционализм". Проблема в том, что до сих пор люди не могли объяснить сознание, потому что оно настолько отличается от физического.
Возможно, маленькая бактерия чувствует себя немного похожей на что-то.
Что интегральная теория информации говорит о сознании?
ИТИ утверждает, что в основе всего сущего лежит сознание. А сознание — это единственная вещь, которая существует сама по себе. Вы — сознание. Сегодня ночью вы в какой-то момент погрузитесь в глубокий сон, и тогда вы больше не будете сознавать себя; тогда вы не будете существовать для себя. Ваше тело и ваш мозг по-прежнему существуют для других — я вижу ваше тело, — но вы не существуете для себя. Таким образом, только сознание существует для себя; это абсолютное существование. Все остальное — производное.
Это говорит о том, что сознание в конечном счете является каузальной властью над собой — способностью что-то изменить. И теперь вы ищете субстрат — мозг, компьютерный процессор или что-то еще. Тогда теория говорит, что, каков бы ни был ваш сознательный опыт — каково это видеть красный цвет, или чувствовать запах сыра "Лимбургер", или испытывать определённый вид зубной боли, — он отображается один к одному на эту структуру, эту форму, эту причинно-следственную связь. Это не процесс. Это не вычисление. Это очень отличается от всех других теорий.
Когда вы используете термин "причинно-следственные связи", чем они отличаются от обычной причинно-следственной цепочки событий? Например, вы играете на бильярде, бьёте по шару кием, а шар попадает в восьмёрку...
Ничего особенного. Это способность системы, скажем, бильярдного шара, влиять на ситуацию. Другими словами, если в него попадает другой шар, он двигается, и это оказывает влияние на мир.
А в ИТИ говорят, что у вас есть система — пучок проводов или нейронов — и это степень, в которой они обладают каузальной властью над собой. Вы всегда ищете максимальную причинную силу, которую система может иметь сама на себя. В конечном итоге это и есть сознание. Это нечто очень конкретное. Если вы дадите мне математическое описание системы, я смогу его вычислить, это не какая-то бесплотная вещь.
Значит, его можно объективно измерить извне?
Верно.
Но, конечно, в прошлом году было письмо, которое подписали 124 ученых, утверждающих, что интегральная теория информации — это псевдонаука, отчасти на том основании, что она не поддается проверке.
Много лет назад я организовал встречу в Сиэтле, где мы собрались вместе и запланировали "состязательное сотрудничество". Особое внимание было уделено сознанию. Идея заключалась в следующем: Давайте возьмем две теории сознания — в данном случае интегрированную теорию информации против другой доминирующей теории, теории глобального рабочего пространства нейронов. Давайте соберем людей в комнате и обсудим — да, они могут не соглашаться по многим вопросам, — но можем ли мы договориться об эксперименте, который одновременно проверит предсказания двух теорий, и где мы договоримся заранее, в письменном виде: Если результат будет А, то это подтверждает теорию А; если Б, то это подтверждает теорию Б? В исследовании участвовали 14 различных лабораторий.
Эксперименты пытались предсказать, где находятся "нейронные следы сознания", грубо говоря. Находятся ли они в задней части мозга, как утверждает интегральная теория информации, или в передней части мозга, как утверждает глобальное рабочее пространство нейронов? И результат оказался очень ясным — два из трех экспериментов были явно против префронтальной коры и в пользу того, что нейронный след сознания находится в задней части мозга.
Видит не мой мозг, видит сознание.
Это вызвало бурную реакцию в виде того письма, в котором утверждалось, что теория не поддается проверке, что, на мой взгляд, является просто бредом. А потом, конечно, последовал ответный удар, потому что люди сказали: подождите, ИТ может ошибаться — теория, конечно, сильно отличается от доминирующей идеологии, — но это, безусловно, научная теория; она делает некоторые очень точные предсказания.
Но у неё другая метафизика. И людям это не нравится.
Большинство людей сегодня считают, что если вы можете что-то смоделировать, то это все, что вам нужно сделать. Если компьютер может симулировать человеческий мозг, то, конечно, [симуляция] будет сознательной. И LLM (языковые модели, работающие с большим количеством дополнительных параметров. — Прим. А.Ж.) — рано или поздно [с точки зрения функционалистов] будут сознательными — просто вопрос в том, сознательны ли они сегодня, или вам нужен какой-то более умный алгоритм?
ИИТ говорит: нет, дело не в симуляции; дело не в том, чтобы делать — в конечном счете, дело в том, чтобы быть, а для этого, действительно, нужно посмотреть на аппаратуру, чтобы сказать, сознательна она или нет.
Предполагает ли ИТИ приверженность панпсихизму?
Это не панпсихизм. Панпсихизм говорит: "Этот стол сознательный" или "Эта вилка сознательная". Панпсихизм говорит, что в основе своей все наделено как физическими, так и ментальными свойствами. Так, атом обладает как психическими, так и физическими свойствами.
ИТИ гласит: нет, это, конечно, не так. Только те вещи, которые обладают каузальной силой сами по себе [обладают сознанием] — этот стол не обладает никакой каузальной силой сам по себе; он просто ничего не делает, он просто сидит на месте.
Но он разделяет некоторые интуиции [с панпсихизмом] — в частности, что сознание находится на градиенте, и что, возможно, даже сравнительно простая система, такая как бактерия — уже сейчас бактерия содержит миллиард белков, [существует] огромное причинное взаимодействие — вполне может быть, что эта маленькая бактерия чувствует себя немного похожей на что-то. Ничего похожего на нас или даже на сознание собаки. А когда она умирает, скажем, когда вам дают антибиотики, и ее мембрана растворяется, она больше ничем себя не ощущает.
Научная теория должна опираться на свою предсказательную силу. И если предсказательная сила говорит: да, сознание гораздо шире, чем мы думаем, — оно есть не только у нас и, возможно, у человекообразных обезьян; возможно, оно есть во всем животном мире, возможно, на всем древе жизни — что ж, пусть будет так.
В конце книги вы пишете: "Решаю я, а не мои нейроны". Я не могу отделаться от мысли, что это два способа сказать одно и то же — на макроуровне это "я", а на микроуровне — мои нейроны. Или я что-то упускаю?
Да, это тонкая разница. То, что действительно существует само по себе, — это ваше сознание. Когда вы без сознания, как в глубоком сне под анестезией, вы больше не существуете для себя и не можете принимать никаких решений. Поэтому то, что действительно существует, — это сознание, и именно в нем происходит истинное действие.
Я действительно вижу вас на экране, на изображении есть свет; внутри моего мозга, уверяю вас, нет никакого света, там полная темнота. Мой мозг просто находится в слизи. Так что видит не мой мозг; видит сознание. Не мой мозг принимает решение, а мое сознание. Это не одно и то же.
Вы можете симулировать ливень, но внутри компьютера никогда не станет мокро.
С тех пор как у нас появились компьютеры, люди спорят о том, является ли мозг неким информационным процессором. Вы утверждаете, что это не так. С этой точки зрения, я полагаю, вы не считаете, что большие языковые модели обладают каузальными способностями.
Верно. На самом деле, я могу довольно уверенно заявить следующее: Согласно IIT, для сознания не существует теста Тьюринга, потому что дело не в функции; все дело в этой каузальной структуре. Поэтому на самом деле нужно смотреть на процессор или чип — на то, что выполняет вычисления. Вы должны смотреть на этот уровень: Какова причинно-следственная сила?
Конечно, вы можете прекрасно смоделировать человеческий мозг, делающий всё, что может делать человеческий мозг, — по крайней мере, концептуально это не проблема. И конечно, компьютерная симуляция однажды скажет: "Я сознательная", как это делают многие большие языковые модели, если только у них нет ограждений, где они прямо говорят: "О нет, я просто LLM — я не сознательная", — потому что они не хотят пугать общественность.
Но это все симуляция; на самом деле это не сознание. Точно так же, как вы можете симулировать ливень, но он никогда не намокнет внутри компьютера, как это ни смешно, хотя он и симулировал ливень. Вы можете решить уравнение общей теории относительности Эйнштейна для черной дыры, но вам никогда не придется бояться, что вас засосет в компьютерную симуляцию. Почему бы и нет? Если компьютер действительно вычисляет гравитацию, то не должно ли пространственное время огибать мой компьютер и засасывать меня и компьютер внутрь? Нет, потому что это симуляция. В этом и заключается разница между реальным и симулированным. У симуляции нет тех же причинно-следственных связей, что и у реальности.
Так что если вы не построите машину по образу и подобию человеческого мозга — скажем, с помощью нейроморфной инженерии, возможно, с использованием квантовых компьютеров, — вы сможете получить сознание человеческого уровня. Если же вы будете строить их так, как мы строим их сейчас, где один транзистор общается с двумя или тремя другими транзисторами, что радикально отличается от связи человеческого мозга, вы никогда не получите сознания. Поэтому я могу с уверенностью сказать, что, хотя LLM очень скоро смогут делать все, что можем делать мы, и, возможно, быстрее и лучше, чем мы, они никогда не будут сознательными.
То есть, с этой точки зрения, быть большой языковой моделью — это "ни на что не похоже", в то время как быть, например, мышью или ящерицей — это может быть похоже на что-то?
Правильно. Быть мышью — это похоже на что-то. Быть LLM — это ни на что не похоже, хотя LLM в любом техническом смысле гораздо более интеллектуальна, чем мышь.
И всё же, как это ни парадоксально, LLM может сказать: "Привет, я сознательна", чего не может сделать мышь.
Вот почему она так соблазнительна, ведь она может говорить с нами и выражать свои мысли очень красноречиво. Но это гигантский вампир — он всасывает все человеческое творчество, бросает его в свою сеть, а затем снова выплевывает. Там нет ни одного дома. Быть LLM — это совсем не то, что быть LLM.
© Перевод с английского Александра Жабского.
Буду несказанно благодарен если, зайдя однажды, останетесь с каналом навсегда.
Желающие поддержать канал, в ЧЕТВЁРТЫЙ раз поднимающийся из дзеновских руин, могут присылать донаты.
Номер карты Сбербанка — 2202 2068 8896 0247 (Александр Васильевич Ж.). Пожалуйста, сопроводите перевод сообщением: «Для Каморки».
