Вы когда-нибудь задумывались, почему нас так привлекает идея, будто наш мозг — это сложный компьютер, а сознание можно будет однажды «загрузить» в облако?
Нейробиолог из Сассекского университета Анил Сет уверен: это опасное заблуждение. Он провёл неделю в подвале неапольского аквариума, наблюдая за осьминогами, и понял: то, что делает нас людьми, почти не имеет отношения к вычислениям. Это чувство жизни, укоренённость в теле, давление времени и способность испытывать чистое, бескорыстное любопытство.
В этой статье разбираемся, почему осьминог — наш настоящий родственник, а языковая модель — нет, при чём здесь Декарт и как не потерять себя в эпоху искусственного интеллекта.
Вы — не компьютер. И осьминог это знает
Представьте себе: лето 2009 года, сырой подвал под общественным аквариумом в центре Неаполя. Там, среди запаха соли и бетона, нейробиолог Анил Сет проводит неделю с дюжиной обыкновенных осьминогов.
Он смотрит, как эти существа меняют форму, цвет и текстуру — словно живая погода перед глазами. Один из осьминогов подплывает к его коллеге, замирает и начинает внимательно следить за каждым её движением. Без всякой еды, без угрозы — просто из любопытства. Ему интересно, что происходит.
Сет, профессор когнитивной нейробиологии Сассекского университета, позже напишет в своей книге «Быть собой» (Anil Seth, Being You: A New Science of Consciousness, 2021), что разум осьминога — это, наверное, самое близкое к инопланетному сознанию, что можно найти на Земле.
Центральный мозг осьминога почти не управляет его щупальцами: те действуют как полусамостоятельные существа. Его кожа улавливает свет — и, возможно, сам мозг даже не знает, что она «видит». Это сознание, если оно вообще существует, гораздо более рассредоточено и хуже собрано воедино, чем наше.
Но вот что удивительно. Сет не перестаёт поражаться тому, как легко мы узнаём себя в искусственном интеллекте — и как легко проходим мимо родства с живым, дышащим, любопытным осьминогом. Потому что на самом деле, уверен Сет, осьминог — наш настоящий родственник. А нейросеть — нет.
Зеркало, которое обманывает
В каком-то смысле мы всегда пытались понять себя через самые передовые технологии своего времени. Мозг сравнивали с водопроводом, с паровой машиной, с телефонной станцией.
Но метафора «мозг — это компьютер» оказалась особенно липкой. Она проникла не только в научные статьи, но и в повседневный язык. Вы наверняка слышали: «наш мозг обрабатывает информацию», «память как жёсткий диск», «мы просто алгоритмы».
Сет говорит, что это опасное упрощение. Сердце — действительно насос, с этим трудно спорить. Но сказать «мозг — это компьютер» — гораздо более смелое утверждение (Anil Seth, интервью 2023 года).
Мы произносим это так, будто очевидный факт, хотя на самом деле это спорная метафора, которая когда-то казалась гениальной догадкой, а сегодня превратилась в интеллектуальную ловушку.
Всё началось в 1930‑е годы. Алан Тьюринг показал, что вычисления не зависят от того, на чём они выполняются: на кремнии, на бумаге, на деревянных шестерёнках.
А чуть позже Уоррен Маккалок и Уолтер Питтс придумали, как сильно упрощённый нейрон может выполнять те же самые вычисления (Warren McCulloch & Walter Pitts, «A Logical Calculus of the Ideas Immanent in Nervous Activity», 1943).
Это был «математический брак по расчёту», как выражается Сет. И он позволил нейробиологии отбросить «все эти запутанные биологические мелочи» — обмен веществ, химию, живую плоть.
Вот здесь мы и ошиблись.
Потому что для настоящего нейрона важно, как он питается, какие гормоны на него влияют, как он устаёт и восстанавливается. Кремниевый транзистор всего этого не знает. Но мы так привыкли к метафоре, что начали считать биологию просто «деталями исполнения». Мол, главное — это алгоритм, а на чём он крутится — не суть.
Сет предупреждает: такой образ мыслей «механизирует наш разум». И мы рискуем потерять почти всё самое интересное, что делает нас людьми (Anil Seth, лекция в Королевском институте, 2022).
Почему нам так хочется быть похожими на машины?
Вы когда-нибудь замечали, как легко мы проецируем себя на искусственный интеллект? Вот выходит новая языковая модель — она болтает, шутит, спорит. И многие тут же начинают говорить: «Она почти как человек».
А когда кто-то из критиков называет большую языковую модель «случайным попугаем» (эта метафора принадлежит исследовательнице Эмили Бендер), находятся люди, которые парируют: «Ну, может, и мы сами — случайные попугаи».
Сет считает, что за этим стоит древняя, очень человеческая борьба. Мы всегда пытались понять своё место в природе. А когда что-то не поддаётся объяснению, мы хватаемся за метафоры. В нашем случае — за Декарта.
Рене Декарт, великий философ XVII века, подарил западной культуре идею, от которой мы до сих пор не можем отделаться: что разум и тело — разные вещества. Что мыслящее «я» в принципе может существовать без плоти. Это очень удобное представление: оно обещает, что наша личность, наш разум, наша душа — нечто бессмертное и независимое.
И вот сейчас, в XXI веке, эта старая картезианская мечта возвращается к нам в образе «кремниевого рая»: загрузить сознание в облако, стать чистым алгоритмом, избавиться от бренного тела. Именно поэтому, говорит Сет, мы так легко отождествляем себя с языковыми моделями. Потому что они владеют той самой способностью к языку и логике, которую мы веками считали венцом творения.
Но нейробиология последних десятилетий говорит обратное.
Вы не думающий компьютер. Вы — чувствующая машина
Знаменитый нейробиолог Антонио Дамасио в своей книге «Ошибка Декарта» (Antonio Damasio, Descartes’ Error: Emotion, Reason, and the Human Brain, 1994) привёл примеры пациентов, у которых повреждены зоны мозга, отвечающие за эмоции.
С умом у этих людей всё в порядке. Они могут часами рассуждать о плюсах и минусах. Но они не могут принять простейшее бытовое решение — например, назначить время следующей встречи. Потому что у них нет того телесного толчка, который говорит: «Знаешь, этот вариант чувствуется правильным».
Мы привыкли думать, что чувства мешают разумному мышлению. На самом деле без чувств мышление вообще не работает.
Сет формулирует это коротко: «Мы не думающие компьютеры, мы — чувствующие машины». И тут же оговаривается, что это тоже немного ложное противопоставление. Потому что чувства и познание — не две отдельные вещи, а две стороны одного процесса. Чтобы хорошо мыслить, нам нужна чувственная составляющая нашей животной природы.
Вот что важно: у алгоритма нет тела. У него нет уровня сахара в крови, нет усталости, нет гормонального фона, нет того давящего ощущения, что время идёт. Компьютер может бесконечно торчать в одном и том же цикле, ожидая, когда вы нажмёте кнопку.
Человек так не может. Мы испытываем жажду, голод, сонливость. В конце концов, нам просто нужно сходить в туалет. Это постоянное физиологическое давление заставляет нас принимать решения, выходить из тупиков, пробовать что-то новое.
И это, между прочим, решает одну из сложнейших задач искусственного интеллекта — как среди бесконечного множества фактов выделить то, что важно прямо сейчас. Живое тело решает её просто: оно не может ждать. Мир меняется, стрелки часов тикают, и вы вынуждены действовать.
Язык, который нас обманул
Когда-то казалось, что язык — это наша неприступная крепость. Шахматы? Пожалуйста, компьютер обыгрывает чемпионов мира. Го? Тоже сдалось. Но язык — это другое. Языком владеет почти каждый человек, и при этом ни одно животное не умеет говорить, а машины — не понимают.
А потом появились большие языковые модели. И теперь они говорят гладко. Мы не знаем, есть ли у них настоящий смысл за словами (философы называют это «синтаксис без значения»), но они говорят. И этот простой факт рушит старую границу.
Сет обращает внимание на другое, более тонкое следствие. Мы привыкли думать, что понимание и сознание — это одно и то же. Но так ли это? Можно ли что-то понимать, не осознавая этого? Наверное, да.
Если бы мы создали искусственный интеллект, который действует в физическом мире, взаимодействует с ним, учится на своих ошибках — такой искусственный интеллект мог бы обладать настоящим пониманием, даже не имея внутреннего «кино» перед мысленным взором.
И это, замечает Сет, очередной удар по нашему человеческому высокомерию. Мы слишком долго считали, что раз у нас есть сознание и язык, то мы — вершина. А может, это просто два разных эволюционных пути.
Огонь в уравнениях опыта
И всё же остаётся главный вопрос: что делает живое существо — осьминога, вас, меня — по-настоящему отличным от самого совершенного алгоритма?
Сет предлагает догадку, которую сам называет предположительной, но очень красивой. Он говорит о «чувстве жизни» (feeling of being alive). Это не мысли, не образы, не эмоции в привычном смысле. Это что-то более глубинное. Низкое, непрерывное гудение, которое говорит: «я есть». До того, как вы подумали «я голоден» или «мне грустно», уже есть это фоновое ощущение присутствия.
По мнению Сета, именно жизнь, а не обработка информации приносит огонь в уравнения опыта (Anil Seth, Being You). Уберите этот огонь — и сознание гаснет, даже если вычисления продолжаются всё так же бодро.
Любопытно, что эта современная нейробиологическая догадка перекликается с древними преданиями. Греческое слово psychē (душа) изначально означало «дыхание». Индуистское Ātman — это чистое осознание, лежащее под слоем мыслей. В обоих случаях душа — это не программа, не список указаний, а что-то связанное с живым процессом: вдох, выдох, биение пульса.
«Мы больше дыхания, чем мысли, и больше плоти, чем машины», — пишет Сет.
Что нам делать с этой разницей?
Вы, наверное, ждёте, что сейчас автор скажет: «Искусственный интеллект — это плохо, давайте запретим». Ничего подобного. Сет, будучи нейробиологом, работающим на стыке с вычислительными науками, считает искусственный интеллект замечательным инструментом. Но не зеркалом для самолюбования, а скальпелем для изучения собственной неповторимости.
Когда мы создаём языковую модель, которая говорит как человек, мы каждый раз натыкаемся на что-то, чего у неё нет. У неё нет тела, нет времени, нет голода, нет любопытства. И вот это отсутствие — самый ценный урок. Оно показывает нам, что мы — не просто набор вычислительных способностей. Мы — живые существа, у которых больше общего с осьминогом в неапольском подвале, чем с самым умным алгоритмом в облаке.
Чем больше мы будем использовать искусственный интеллект для понимания себя, тем яснее поймём, насколько мы другие. И эта другость не должна нас пугать. Она должна нас радовать.
Потому что это означает, что вы — не программа. Вы никогда не сможете «зависнуть» навечно, как компьютер, потому что ваше тело начнёт подавать сигналы: пить, есть, двигаться, спать. Вы никогда не станете «просто алгоритмом», потому что за вашей спиной — миллиарды лет развития, обмен веществ, гормоны, удивительная способность чувствовать свет кожей (как у осьминога) — или просто чувствовать, что вы есть.
Именно это чувство, советует Сет, стоит в себе беречь и укреплять. Не как замену мышлению, а как его основание. Это как внимательность к себе: приятное место, куда можно зайти, но не жить там постоянно. Однако хотя бы заглядывать туда полезно. Потому что оно возвращает вас к изначальной правде: вы — развившееся живое существо, которое пытается выжить и понять мир. Не из любопытства к кремниевым моделям, а из того самого чистого, бескорыстного любопытства, которое заставило осьминога подплыть поближе и просто посмотреть, что же там делает человек.
Источники, на которые мы опирались:
- Anil Seth, Being You: A New Science of Consciousness (Faber & Faber, 2021)
- Anil Seth, интервью и публичные лекции (Королевский институт, 2022; The Guardian, 2023)
- Antonio Damasio, Descartes’ Error: Emotion, Reason, and the Human Brain (1994)
- Warren McCulloch & Walter Pitts, «A Logical Calculus of the Ideas Immanent in Nervous Activity» (1943)
- Thomas Metzinger, The Ego Tunnel (2009)
P.S.
Если вы дочитали до этого места — спасибо. Правда. Значит, тема вас зацепила. А значит, вся эта история с наблюдением за осьминогами, спорами с Декартом и поисками «чувства жизни» прошла не зря.
Справа под этой статьёй есть кнопка «Поддержать». Не кричащая, не навязчивая — просто кнопка. Но она — ключ к одному честному устройству, которое, как мне кажется, держит наш мир в тонусе. Когда вы нажимаете туда, вы не просто переводите деньги.
Вы говорите автору: «То, что ты делаешь, кому-то нужно». И знаете, что происходит дальше? У автора появляется не просто желание, а настоящий, почти природный интерес искать для вас ещё более ценную информацию, ещё более сложные темы, ещё более неожиданные углы зрения.
Это не благотворительность. Это обмен. Вы даёте мне возможность тратить время на исследования, чтение научных статей, разговоры с нейробиологами — вместо того чтобы тратить его на что-то другое.
А я возвращаю вам этот интерес в виде текстов, которые, надеюсь, немного меняют ваш взгляд на себя и на мир. Никакой пирамиды, никакой магии. Просто древнее, как мир, правило: когда кто-то чувствует, что его усилия полезны другим, он делает эти усилия с большей страстью.
В этом смысле вселенная действительно держится на честном обмене пользой. Осьминог любопытствует — и получает понимание. Вы поддерживаете канал — и получаете доступ к информации, которую не найдёте в случайной ленте. Я ищу ответы — и получаю возможность делиться ими с вами. Круг замыкается.
Так что если захотите нажать ту кнопку — знайте: вы не просто вносите вклад. Вы становитесь соучастником этого любопытства. А если пока не готовы — просто оставайтесь с нами. Читайте, думайте, спорьте. Это тоже обмен. И он тоже честный.
Следуйте своему счастью
Внук Эзопа