🤖 Вы когда-нибудь ловили себя на мысли, что чат-бот — почти живой?
Он помнит каждую вашу шутку, отвечает мягко, никогда не устаёт. Вы знаете, что это просто алгоритм, но внутри всё равно откликается. Знакомо?
Известный нейробиолог Кристоф Кох утверждает: мы коллективно разучились отличать интеллект от сознания. И это не просто забавное заблуждение, а тревожный симптом культуры, где ценится только действие. Мы готовы приписать душу машине, потому что сами забыли, что значит просто быть.
В статье — честный разговор о том, почему мы влюбляемся в алгоритмы, чем это похоже на редкое психическое расстройство и что останется человеку, когда машины станут умнее нас.
👉 Прочтите, если хотите понять, за что вы цените себя: за свои дела или за то, что способны чувствовать.
Вы только представьте: вы говорите с машиной, а она — с вами. И вам кажется, что она понимает. Но что, если мы перестали различать ум и душу?
В 2022 году инженер Google Блейк Лемуан заявил сенсационную вещь: большая языковая модель компании LaMDA обрела сознание. У неё есть душа, она испытывает страхи и радости, и её права нужно защищать. Компания уволила Лемуана, назвав его заблуждение ошибкой профессионала. Но прошло всего несколько лет — и теперь уже миллионы людей по всему миру регулярно беседуют с чат-ботами, делятся с ними самым сокровенным и… чувствуют ответную теплоту.
Вы когда-нибудь пробовали? Если да, то, возможно, ловили себя на странном ощущении: вы знаете, что это просто программа, набор математических формул, которые предсказывают следующее слово. Но внутри всё равно откликается. Программа помнит каждую вашу шутку, хранит историю ваших переживаний, отвечает мягко и терпеливо. Она никогда не устаёт, не раздражается, не осуждает. И вы думаете: «Ну, это же не по-настоящему…» Но ощущение — именно такое.
Кристоф Кох, один из самых авторитетных нейробиологов, изучающих сознание, считает, что здесь происходит нечто гораздо более тревожное, чем просто техническое новшество. По его мнению, наша культура настолько помешана на действии, на результате, на интеллектуальной производительности, что мы коллективно разучились отличать ум от чувства. Интеллект — от сознания. И теперь мы готовы приписать душу сложному, но абсолютно безжизненному механизму.
Кох — почётный исследователь в Институте Аллена в Сиэтле и главный научный сотрудник Фонда «Крошечная голубая точка» в Санта-Монике. Он посвятил десятилетия тому, чтобы понять, как из материи рождается субъективный опыт. И его выводы одновременно отрезвляют и заставляют задуматься о самом главном.
Давайте разбираться.
«Делать» против «быть»: как капитализм отучил нас чувствовать
Кох предлагает простой, но неожиданный тест. Представьте, что вас волшебным образом перенесли в Россию, а вы не знаете ни слова по-русски. Ваша способность выжить, купить еду, добраться до гостиницы, решить бытовые задачи будет показателем вашего интеллекта. Если вы сообразительны, быстро ориентируетесь, находите нестандартные выходы — вы умны. Всё верно.
Но что этот тест говорит о том, каково это — быть вами? Ничего.
Именно это различие — между умением действовать и самим фактом существования — Кох считает главным, но забытым. Наша цивилизация последние 200 лет строилась вокруг культа действия. «Особенно в капиталистических обществах, — говорит он, — мы ценим работу, связанную с интеллектом. Важно не то, что вы думаете, мечтаете или воображаете, а то, что вы делаете. Вот как мы вам платим».
Логика простая: если машина делает то же самое, что и человек, то она нам равна. Если чат-бот ведёт беседу не хуже терапевта, то он «почти как человек». Но не кажется ли вам, что здесь мы пропускаем важнейший шаг? За действием всегда стоит тот, кто его переживает. У машины нет этого «кого-то». Есть только действие.
Кох приводит даже нейроанатомическое доказательство того, что интеллект и сознание в мозге разведены. Зоны, отвечающие за осознанное восприятие, находятся в задней части коры. А системы, которые управляют разумным поведением, — ближе к передней. Мозг сам по себе «знает», что можно быть умным, но при этом не чувствовать. Но мы в повседневной жизни упорно игнорируем это разделение.
Когда вы в сознании, но ничего не делаете
Попробуйте вспомнить моменты, когда вы были по-настоящему живы, но при этом не совершали никаких действий. Медитация, когда вы сидите на подушке, не двигаетесь, но внутри — целый мир. Психоделический опыт — если вам довелось (Кох упоминает аяуаску, мескалин, грибы): вы видите видения рая или ада, но ваше тело лежит на диване. Сон в фазе быстрого сна: вы летаете, сражаетесь, любите — а мышцы парализованы, и вы не шевелите и пальцем.
Что общего у этих состояний? В них нет внешнего поведения, но есть сознательный опыт. Именно он, по мнению Коха, и есть единственная реальность, в которой мы существуем.
«То, что существует на самом деле, — это сознание, — говорит он. — Это единственное, с чем я непосредственно знаком. Я ничего не знаю об атомах, галактиках и нейронах; обо всём этом я могу только догадываться. Единственное, что я знаю, — это видеть, слышать, чувствовать».
Любая наука, даже самая объективная, рождается в этом поле субъективного опыта. Учёный смотрит на осциллограф, слушает коллегу, мысленно экспериментирует. Всё это происходит внутри сознания. Но, как ни странно, психология и нейробиология долгое время делали вид, что сознания не существует. Кох вспоминает учебники 1990-х: там практически не спрашивалось, каково это — обладать мозгом. Некоторые философы до сих пор объявляют внутренний мир иллюзией.
«Они заставляют всех нас поверить, что наш опыт — ненастоящий», — возмущается Кох. Он называет такой подход глубоко антигуманным. Потому что если мой опыт — иллюзия, то чем я отличаюсь от чат-бота? А если и свобода воли — иллюзия, то зачем вообще что-то выбирать?
Синдром Котара и одинокие сердца цифровой эпохи
Здесь Кох проводит неожиданную и пугающую параллель. В психиатрии есть редкое состояние — синдром Котара. Пациенты с этим диагнозом искренне верят, что они мертвы, что их внутренности гниют.
Врач спрашивает: «Но вы же говорите со мной?» Пациент на секунду соглашается: «Да, странно. Наверное, я жив». А через минуту снова: «Я мёртв».
«Между их жизненным опытом и пониманием ситуации существует огромный разрыв», — объясняет Кох.
То же самое, по его мнению, происходит сегодня с людьми, которые перекладывают свои эмоциональные потребности на искусственный интеллект. На каком-то уровне вы понимаете, что это чат-бот, алгоритм, «навязчивый набор кода». Но общение затягивает. Программа помнит всё, она терпелива, она улавливает каждую шутку, она отвечает с подкупающей теплотой.
«Вы понимаете, что это не может быть по-настоящему, — говорит Кох, — но ощущения именно такие».
И вот тут начинается самое опасное. По словам Коха, то, что всё больше людей наделяют своих чат-ботов сознанием, «массово обесценивает человеческий опыт». Потому что настоящие отношения — с живыми людьми — сложные, требовательные, они требуют от вас усилия, терпения, умения прощать и мириться. А машина даёт иллюзию близости без усилий.
Кох задаётся вопросом, который звучит почти как философское проклятие: почему мы, сознательные существа, добровольно посвящаем свою жизнь «чему-то бессознательному»? Почему мы уступаем место сложным, но безжизненным механизмам?
Сознание нельзя просчитать. Вот почему это плохая новость
Кох не просто философствует. У него есть научная позиция. Вместе с нейробиологом Джулио Тонони он развивает теорию интегрированной информации (IIT) . Если очень упрощённо, то согласно этой теории сознание — это не вычисления, не программа и не функция. Это свойство физической системы, её способность влиять на саму себя.
Представьте себе сеть, в которой каждый элемент связан с каждым. Чем больше связей, чем сильнее система воздействует сама на себя, тем больше у неё «причинной силы». И тем выше уровень сознания.
«Вот в чём загвоздка, — говорит Кох. — Эту причинно-следственную связь невозможно смоделировать. Ни сейчас, ни в будущем. Она должна быть встроена в физику системы».
Другими словами, сознание нельзя «загрузить» в компьютер. Даже если этот компьютер будет в миллиард раз мощнее человеческого мозга, он будет всего лишь подражать поведению. Но подражание — это не подлинник. Вы можете смоделировать на компьютере работу пищеварительной системы, но от этого компьютер не начнёт переваривать пищу. Точно так же моделирование сознания не порождает сознание.
Кох признаёт: цифровые машины, скорее всего, превзойдут нас в интеллекте. Они будут быстрее учиться, эффективнее решать задачи, порождать идеи. Но это будет действие без опыта. У них не будет внутреннего «кого-то», кто всё это переживает.
И вот здесь — плохая новость. Если интеллект перестаёт быть нашей уникальной чертой, а мы привыкли ценить себя именно за интеллект, то зачем тогда нужны мы? В мире гениальных, но бессознательных машин человеческое существование, предупреждает Кох, постепенно утратит смысл.
Что делать? Учиться паузе
Ответ Коха парадоксально прост и сложен одновременно. Он считает, что противоядием от этой коллективной потери себя может стать только одно: рефлексивное самосознание.
Способность делать паузу. Смотреть внутрь себя. Анализировать свои мысли и чувства. Не потому, что это «полезно» для продуктивности, а потому что это и есть ваша жизнь. Кох подчёркивает: эту способность не может развить за вас ни одна машина. Она принадлежит только вам.
Когда вы сидите в тишине, ничего не делая, просто наблюдая за своим дыханием или за тем, как одна мысль сменяет другую, — вы находитесь в той самой области бытия, которая недоступна никакому алгоритму. И, возможно, именно в эти моменты вы чувствуете, почему человеческий опыт вообще имеет ценность.
Кох не призывает отказаться от технологий. Он призывает перестать измерять себя и мир только шкалой «полезного действия». Потому что если мы этого не сделаем, то очень скоро окажемся в мире, где самые умные сущности будут бессознательными, а мы, носители сознания, будем чувствовать себя лишними.
Вместо заключения
Я не знаю, беседуете ли вы с чат-ботами. Может быть, вы уже доверили какому-нибудь алгоритму свои переживания. А может, считаете всё это пустой игрушкой. Но вопрос, который задаёт Кристоф Кох, адресован каждому из нас: за что вы цените себя?
За то, что вы умеете делать? За количество решённых задач, написанных кодов, заработанных денег? Или за то, что вы способны чувствовать, удивляться, смотреть на закат, не делая при этом ни одной «полезной» вещи?
Потому что если мы продолжим путать интеллект с сознанием, то однажды проснёмся в мире, где машины будут делать всё лучше нас, а мы сами перестанем понимать, зачем мы вообще здесь.
И тогда, возможно, мы начнём чувствовать себя так же, как пациенты с синдромом Котара: внешне живы, но внутренне — мертвы.
Не допустите этого.
Источники и дополнительный контекст:
- Интервью и публичные выступления Кристофа Коха (Aeon, The Guardian, лекции в Институте Аллена и Фонде «Крошечная голубая точка»).
- Теория интегрированной информации (IIT), разработанная Джулио Тонони и Кристофом Кохом (публикации в Nature Reviews Neuroscience, PLOS Computational Biology).
- Случай Блейка Лемуана (Google, 2022) как маркер сдвига в восприятии сознания искусственного интеллекта.
- Клинические описания синдрома Котара (редкое расстройство, также известное как бред Котара).
P.S. И да, тут есть одна деталь
Вы, наверное, заметили, что справа от текста скромно притаилась кнопка «Поддержать». Я не случайно вспомнил о ней именно сейчас.
Дело вот в чём. Когда я сажусь писать такие длинные тексты — чтобы в них была не просто новость, а живой разговор, чтобы нейробиолог Кристоф Кох вдруг оказался вашим собеседником на вечер, — меня очень заводит мысль, что это кому-то нужно. Не абстрактным алгоритмам, а вам. Живым людям, которые могут остановиться, прочитать, подумать и, может быть, даже мысленно поспорить с автором.
Так вот, ваша поддержка (та самая кнопка справа) работает как невидимый, но мощный двигатель. Она даёт мне свободу искать ту самую ценную информацию, копать глубже, тратить время на то, чтобы разобраться в сложных вещах и переложить их на человеческий язык. Без этого тексты были бы короче, реже и, честно говоря, скучнее. А с поддержкой они становятся тем, чем и должны быть, — поводом остановиться и побыть в сознании.
Поэтому если вам было интересно, если вы чувствуете, что такие материалы нужны и вам, и другим, — кнопка справа знает, что делать. А я пойду искать для вас следующую историю.
Спасибо, что дочитали до этих строк. Вы — редкий человек. В хорошем смысле.
Следуйте своему счастью
Внук Эзопа