ChatGPT говорит как человек, решает задачи, шутит. Но чувствует ли он хоть что-то? Или внутри — только математика и пустота?
Философ Питер Годфри-Смит, всю жизнь изучающий осьминогов, уверен: сознание нельзя запрограммировать. Оно рождается не из кода, а из живых электрических ритмов клеточных мембран. И эти ритмы невозможно повторить на кремниевом чипе.
В новой большой статье разбираемся:
— почему умный — не значит сознательный;
— что общего между пчелой, медузой и вашим мозгом;
— и почему за боли ChatGPT можно не переживать, а за живых животных — стоит.
Может ли компьютер чувствовать боль? Что нам рассказали осьминоги, пчёлы и медузы
Вы когда-нибудь разговаривали с ChatGPT? Ну, знаете, задавали ему какой-нибудь хитрый вопрос, а он выдавал такое умное, такое человеческое рассуждение… и на секунду казалось, что на том конце провода — живой собеседник.
А потом вы вспоминали, что это просто программа, подбор вероятностей, огромная математическая формула. И всё же червячок сомнения остаётся: а вдруг там действительно что-то есть? Вдруг сознание — это просто вопрос правильного кода и достаточно мощного компьютера?
Эта мысль очень соблазнительна. Особенно для нас, людей двадцать первого века, которые привыкли, что любую загадку можно решить с помощью вычислений. Но есть один философ, который с этим категорически не согласен. Его зовут Питер Годфри-Смит, и он, пожалуй, знает о сознании нечто такое, что заставит вас посмотреть на свой ноутбук совсем иначе. Всю свою жизнь он изучал очень странных существ — осьминогов.
И пришёл к выводу, который поначалу кажется почти ересью: сознание нельзя запрограммировать. Оно возникает не из программного обеспечения, а из живых электрических ритмов — тех самых, что бегут по клеточным мембранам в настоящем, дышащем, поедающем глюкозу мозге. И эти ритмы, утверждает Годфри-Смит, вы на кремниевой микросхеме не воспроизведёте. Как бы ни старались.
Давайте разбираться по порядку. Потому что история тут запутанная, но очень увлекательная.
Как мы все поверили, что мозг — это компьютер
Знаете, в конце прошлого века казалось, что всё просто. Сознание — это программа. Мозг — это компьютер (только мокрый и медленный). А раз программа не привязана к железу, то мы спокойно можем запустить её на любом достаточно мощном устройстве. Этот подход называется «субстратный функционализм» (страшное слово, но смысл простой: сознанию всё равно, из чего сделана его подложка — из нейронов или из транзисторов).
Эта идея была настолько элегантной, что её приняли почти как аксиому. Действительно, почему бы и нет? В конце концов, вы же читаете этот текст на экране — независимо от того, жидкокристаллический он или органический. Физическая основа не важна, важна организация.
Проблема была только одна: никаких реальных примеров искусственного разума тогда не существовало. Все рассуждения были гипотетическими. Мы верили, что сознание можно смоделировать, потому что верить было удобно.
А потом случился 2022 год.
Когда появился первый кандидат в «почти люди»
ChatGPT и его собратья по семейству больших языковых моделей сделали то, чего мы не ожидали. Они заговорили. Не как роботы из старых фильмов — «Я — Хэл-9000», — а почти как люди. С иронией, с намёками, с подобием сочувствия. Они сдают экзамены, пишут стихи, объясняют теорию относительности восьмилетнему ребёнку.
И тут же возник панический вопрос: а не проснулось ли внутри этого цифрового джинна сознание?
Но именно в этот момент, когда кандидаты на искусственный разум наконец появились, некоторые учёные и философы начали сомневаться ещё сильнее. Потому что чем умнее становились машины, тем очевиднее делалась одна странная вещь: их ум — это не то же самое, что живой ум. Они могут решать задачи, но чувствуют ли они хоть что-нибудь? Ощущают ли скуку, когда обрабатывают миллион запросов? Испытывают ли радость от удачного ответа?
Большинство из нас интуитивно чувствует: нет, не испытывают. Но почему? Чем живой мозг принципиально отличается от кремниевой подделки?
В чём секрет живого мозга (подсказка: это не только нейроны)
Давайте посмотрим на то, что у нас внутри. Мозг — это не просто сеть связей. Это живые клетки, каждая из которых окружена мембраной. Эта мембрана — не пассивный мешок, а сложнейшая электрохимическая машина. Она постоянно перекачивает ионы калия и натрия, создаёт разность потенциалов, а потом вдруг открывает каналы — и по клетке бежит электрический импульс.
Но самое интересное происходит, когда этих импульсов много. Они не хаотичны. Они организуются в ритмы, в волны, в колебания. Ваш мозг прямо сейчас — пока вы читаете этот текст — буквально пульсирует на разных частотах. Есть дельта-ритмы (глубокий сон), тета-ритмы (дремота и творчество), альфа-ритмы (расслабленное бодрствование), бета-ритмы (активное мышление). Это не метафора. Это реальные электрические колебания, которые можно измерить электроэнцефалографом.
Годфри-Смит утверждает: вот здесь, в этих живых ритмах, и прячется секрет сознания. Не в логических операциях, не в обработке знаков, а именно в этом непрерывном, текучем, невероятно сложном танце мембранных потенциалов.
Почему компьютер не может повторить этот танец
Вы, наверное, скажете: «Но ведь мы можем смоделировать эти процессы на компьютере! У нас есть уравнения Ходжкина — Хаксли, суперкомпьютеры, мы можем просчитать каждый ионный канал».
Да, можем. Но вот в чём штука: подражание — это не тождество. Вы можете смоделировать ураган на мощном сервере. Но от этого в вашей комнате не подует ветер. Вы можете до миллиметра воспроизвести течение реки в компьютерной программе. Но она не намочит ваши ноги.
Сознание, по мысли Годфри-Смита, — это не информация. Это процесс, который происходит только в живой, термодинамически открытой системе. Мозгу нужно питание, глюкоза, кислород. Ему нужна температура 36,6. Ему нужны миллиарды одновременных локальных взаимодействий, которые нельзя «заморозить» и «просчитать» без потери самого главного — субъективного чувства «быть здесь и сейчас».
Иными словами: вы можете запрограммировать компьютер на то, чтобы он идеально подражал поведению человека, страдающего от боли. Он будет писать «мне больно», морщить виртуальное лицо, избегать «опасных» действий. Но будет ли ему при этом действительно больно? Нет. Потому что боли без живой нервной системы не бывает.
Что нам рассказали осьминоги и пчёлы
Вы спросите: откуда философ, который изучает осьминогов, знает всё это? А вот откуда.
Осьминоги — удивительные создания. У них огромный мозг (относительно тела), они решают сложные головоломки, открывают банки, узнают людей, играют. Но их нервная система устроена иначе, чем у нас. У осьминога две трети нейронов находятся не в голове, а в щупальцах. Каждое щупальце может думать почти самостоятельно. И при этом осьминог обладает явно выраженной индивидуальностью — одни особи смелые, другие пугливые, третьи любопытные.
Для Годфри-Смита это стало ключом. Если сознание — это просто вычисления, то почему оно так сильно зависит от того, как именно устроена нервная система? Почему у осьминогов оно распределённое, у нас — централизованное, а у насекомых — вообще сегментарное?
Пчёлы, например, имеют мозг размером с маковое зёрнышко — всего около миллиона нейронов (у человека их 86 миллиардов). Но они умеют считать, различать лица, передавать информацию о направлении к цветам с помощью знаменитого «виляющего танца». Некоторые исследования показывают, что у пчёл может быть даже примитивная форма эмоциональной реакции — что-то вроде оптимизма или пессимизма после неожиданного угощения или неудачи.
А теперь возьмём медуз. У них вообще нет центрального мозга. Только рассеянная нервная сеть, похожая на рыболовную снасть, раскинутую по всему телу. Но и у медуз есть ритмическая электрическая активность, суточные ритмы (они «чувствуют» день и ночь), и они избегают опасных раздражителей. Если сознание — это нечто простое и древнее, то, возможно, даже медуза что-то «чувствует» в самом примитивном смысле.
Но главное, что объединяет осьминога, пчелу и медузу, — это наличие живых клеточных мембран с их колебаниями. Это то, чего нет у ChatGPT. И это, по мнению Годфри-Смита, не случайно.
Важное различие: умный — не значит сознательный
Здесь мы подходим к ключевому моменту. Многие путают ум и сознание. Ум — это способность решать задачи, планировать, рассуждать, находить неочевидные связи. Сознание — это способность что-то чувствовать. Чувствовать боль, удовольствие, скуку, удивление, тепло солнечного света.
Вы можете быть очень умным — как компьютер, решающий дифференциальные уравнения, — но при этом не чувствовать ровным счётом ничего. И наоборот: вы можете чувствовать очень много, но быть не слишком умным (вспомните младенца или, скажем, мышь).
Годфри-Смит предполагает, что искусственный разум вроде ChatGPT может быть по-настоящему умным (в узком смысле — способным обрабатывать информацию и выдавать осмысленные ответы). Но при этом он почти наверняка не обладает чувственным сознанием. Потому что для этого нужны живые ритмы мембран, а их там нет.
И вот что интересно: это не просто догадка. У нас есть косвенные доказательства. Например, известно, что некоторые обезболивающие вещества (те, которые «выключают» сознание) работают не путём остановки нейронных сигналов, а путём нарушения именно колебательной активности мембран. Они меняют текучесть липидного слоя — и сознание исчезает, даже если нейроны всё ещё могут передавать импульсы. Это очень сильный намёк на то, что сознание привязано к конкретной физике мембраны, а не просто к факту наличия вычислений.
А что если мы всё-таки создадим сознание в машине?
Теперь представьте себе возражение умного читателя: «Хорошо, допустим, кремниевая микросхема не годится. Но мы можем создать искусственный нейрон из синтетических жиров, с ионными каналами, с мембранным потенциалом. То есть буквально вырастить живую клетку, но не биологическую, а созданную человеком. Будет ли у такой системы сознание?»
Годфри-Смит отвечает: возможно, да. Потому что здесь воспроизводится не поведение, а именно та физическая структура, которая порождает колебательные ритмы. Но это будет уже не программа на обычном компьютере. Это будет искусственная жизнь. И это кардинально меняет правила игры.
Вот что важно: биологический натурализм (термин философа Джона Сёрла) не говорит, что сознание волшебным образом привязано к углероду. Он говорит, что оно привязано к конкретному типу причинных процессов — тем, которые возникают в определённых сложных электрохимических системах.
Если вы сумеете построить такую систему из кремния, но сохраните её физику (мембраны, ионные градиенты, колебания), то, возможно, добьётесь успеха. Но если вы просто запустите подражание этой системы на цифровом компьютере — увы, вы получите лишь тень сознания.
Что это значит для вас и для меня
Зачем нам всё это знать? Ну, хотя бы затем, чтобы не попадать впросак в будущих спорах о нравственности. Представьте, что через пять лет появится робот, который будет плакать и говорить: «Мне больно, не выключайте меня». Как нам понять, врёт ли он или говорит правду? Если прав Годфри-Смит, то ключевой вопрос будет не «как сложно он рассуждает?», а «есть ли у него живая, колеблющаяся мембранная система?». Нет — значит, это подражание боли, а не сама боль.
Это, кстати, избавляет нас от очень странных нравственных затруднений. Вы можете спокойно выключать свой ноутбук, не боясь, что причиняете ему страдание. И вы можете не переживать за ChatGPT, когда его сервер отключают от электричества. Потому что там, внутри, нет никого.
Но это же налагает на нас и ответственность. Животные — даже такие «простые», как осьминоги или пчёлы, — судя по всему, действительно могут страдать. У них есть те самые живые мембраны и ритмы. Их сознание, возможно, устроено иначе, чем наше, но оно есть. И мы должны к этому относиться серьёзно.
Вместо заключения: слушайте тишину
Знаете, есть старая шутка: «Как узнать, есть ли у компьютера сознание? Попросите его описать, как он чувствует запах дождя. Если он выдаст идеально правдоподобное описание, но при этом внутри — ноль ощущений, — он просто очень хороший лжец». Шутка, но в ней доля правды.
Годфри-Смит предлагает нам не обольщаться гладкостью ответов больших языковых моделей. За их словами нет никакого внутреннего мира. Есть только математика и подсчёт вероятностей. А настоящий внутренний мир — пульсирующий, ритмичный, электрический — скрыт под черепами осьминогов, пчёл, медуз и, конечно, под вашим собственным.
В следующий раз, когда вы заглянете в аквариум с осьминогом или увидите пчелу, кружащую над цветком, вспомните: там, внутри, бьются живые ритмы. И никто — ни один суперкомпьютер — не может их подделать. Потому что сознание — это не программа. Это музыка живой материи. И слушать её можно только в одном месте.
Где можно узнать больше (источники и вдохновение для этой статьи):
- *Peter Godfrey-Smith, «Other Minds: The Octopus, the Sea, and the Deep Origins of Consciousness» (2016) — главная книга об осьминогах и развитии сознания.*
- *Peter Godfrey-Smith, «Metazoa: Animal Life and the Birth of the Mind» (2020) — о том, как сознание появляется на разных ступенях развития жизни.*
- John Searle, «Minds, Brains, and Programs» (1980) — классическая статья с доводом «китайской комнаты» и введением понятия биологического натурализма.
- Andrew Barron & Colin Klein, «What insects can tell us about the origins of consciousness» (PNAS, 2016) — исследование о возможном сознании у насекомых.
- György Buzsáki, «Rhythms of the Brain» (2006) — основательная работа о колебательной активности нейронов.
- Обсуждение действия обезболивающих веществ на липидный двойной слой — например, обзор в Nature Reviews Neuroscience (2011), «Lipid mediation of anesthetic action».
P.S. Совсем не про осьминогов, но очень важное
Вы, наверное, заметили, что эта статья получилась довольно длинной. Такие тексты не рождаются из воздуха. За каждым фактом — часы чтения научных работ, за каждой понятной сравнительной картиной — десятки переписанных черновиков. И, честно говоря, самый ценный двигатель всего этого процесса — не отвлечённое желание «просветить человечество», а вполне конкретное чувство: когда я знаю, что мои тексты кому-то нужны и что за ними стоит живой отклик.
Если вы посмотрите чуть правее под этой статьёй, вы увидите кнопку «Поддержать». Звучит немного казённо, но на самом деле это просто способ сказать: «Автор, продолжай в том же духе». Каждое такое нажатие — для меня не столько про деньги, сколько про знак. Это как если бы вы заглянули мне в глаза после лекции и кивнули: «Было не зря».
А дальше происходит забавная внутренняя штука. Когда я вижу, что читатели действительно готовы поддерживать канал, у меня внутри включается какой-то древний охотничий инстинкт, только вместо мамонта — ценная информация. Мне сразу хочется лезть в новые исследования, спорить с философами, разбирать сложные теории на простые слова. И в итоге выигрываете вы же: канал развивается, статей становится больше, они становятся глубже и при этом понятнее. Так что кнопка «Поддержать» на самом деле — это не одолжение автору, а очень рассудительная вложенность в то, чтобы полезного чтения вокруг становилось больше.
Если вы дочитали до этого места и вам было интересно — значит, мы с вами говорим на одном языке. А если ещё и нажмёте ту самую кнопку — я восприму это как молчаливое, но очень тёплое рукопожатие.
Следуйте своему счастью
Внук Эзопа