Нейробиолог Кристоф Кох, десятилетиями изучавший природу сознания, предупреждает: мы сами создаём существ, которые превзойдут нас в интеллекте и агрессии. ИИ не будет злым — он будет просто эффективным. Как астероид, уничтоживший динозавров. Что ждёт человечество в мире, где автоматы совершают удивительные подвиги, но некому ими восхищаться? И почему главный враг — не машины, а наша потерянная способность задавать себе вопросы?
Читайте в новой статье.
«Смотрите, они утверждают, что чувствуют»: почему нейробиолог Кристоф Кох боится будущего, в котором не останется зрителей
Представьте: вы смотрите фильм, где роботы пишут романы, спорят о смысле жизни и клянутся в любви. А потом вы понимаете, что это не фантастика. Это наш завтрашний день. И самое страшное — не то, что машины станут умнее, а то, что мы перестанем замечать, как исчезаем из собственной истории.
Вы когда-нибудь разговаривали с диалоговой системой вроде ChatGPT и ловили себя на мысли: «А вдруг она правда что-то чувствует?» Конечно, она вежливо отвечает, что нет, у неё нет сознания, она просто языковая модель. Но потом вы смотрите на экран, а там — шутка, которая попала в точку, или неожиданно тёплый ответ, или эссе, которое заставило вас задуматься. И вы думаете: ну как это может быть «просто алгоритм»?
Кристоф Кох, один из самых известных нейробиологов современности, человек, который десятилетиями искал в мозге «место», где живёт сознание, смотрит на это и грустно улыбается. Он говорит: мы сами создали эту ловушку. Сначала мы скормили машинам всё, что у нас было, — всю нашу литературу, все наши ссоры, всю нашу нежность, всю тоску. Мы наполнили их «звуком и яростью прожитой жизни», как он выражается. А потом, когда они научились повторять это лучше нас, мы удивляемся: «Смотрите, они утверждают, что чувствуют, — и этого достаточно».
Мне кажется, в этой фразе скрыто больше трагедии, чем во многих романах. Потому что «этого достаточно» — это приговор не искусственному интеллекту, а нам самим. Мы соглашаемся на симуляцию, потому что перестали различать подлинное и поддельное. Или нам просто стало всё равно.
Мотыльки у пламени
Кох — редкий тип учёного: он смотрит в будущее с ледяным спокойствием, но при этом, по его собственным словам, «счастливый, довольный жизнью человек». Ему 69. Он говорит, что, возможно, дело в возрасте. Но я думаю, дело в другом: он достаточно долго изучал мозг, чтобы понимать — человечество сейчас ведёт себя как мотыльки, кружащие вокруг пламени. Огонь красивый, тёплый, обещает нам небывалые возможности. Но рано или поздно он сжигает крылья.
Самое тревожное в его прогнозах даже не то, что машины станут умнее. Они станут умнее — это факт. Беда в том, что они станут ещё и агрессивнее. И здесь важно не путать агрессию с жестокостью.
Кох объясняет: агрессия в эволюционном смысле — это способность добиваться своего, устранять препятствия, побеждать на рынке или на поле боя. Именно благодаря сочетанию интеллекта и агрессивности мы, люди, когда-то стали доминирующим видом. А теперь мы проектируем существа, которые превзойдут нас по обоим параметрам.
И они не будут злыми. Это, кстати, делает картину ещё более жуткой. Кох проводит неожиданную аналогию: искусственный интеллект напоминает не Франкенштейна, который бунтует против создателя, а астероид, который 66 миллионов лет назад упал на Землю и стёр динозавров. Астероид не имел намерений. Он просто был. Но после него мир стал другим.
«Они станут умнее нас и, конечно, агрессивнее нас. Неужели всё это закончится хорошо?» — задаёт вопрос Кох. И вы понимаете, что ответ он уже знает. И вы, скорее всего, тоже.
Смысл, который мы отдаём без боя
Знаете, что меня лично больше всего пугает в этой истории? Не восстание машин, не терминаторы и не матрица. Меня пугает то, что мы добровольно, с восторгом, отдаём машинам самое ценное — чувство собственной значимости.
Кох приводит простой, почти бытовой пример. Представьте: вы написали научную статью. Месяц работы, ночи за компьютером, радость от того, что вы наконец нашли нужную формулировку. А теперь представьте, что вы сделали то же самое с диалоговой системой за час. «Какой в этом смысл?» — спрашивает Кох.
Он не говорит, что такие системы пишут плохо. Он говорит о другом: когда исчезает связка «усилие — результат», исчезает и гордость. А без гордости за свою работу, за своё творчество, за своё преодоление жизнь становится плоской. Кох признаётся: «Меня пугает даже сама мысль о выходе на пенсию. Что я буду делать — просто сидеть и играть в гольф?»
Он, конечно, шутит про гольф. Но за шуткой — пропасть. Если мы перестанем быть нужными как производители, если всё, что мы делаем, можно поручить машине, — кем мы станем? Потребителями? Наблюдателями? Зрителями, которых скоро попросят из зала?
И тут Кох вспоминает образ, который придумал великий физик Эрвин Шрёдингер. Тот представлял вселенную без сознания — как будто спектакль разыгрывается перед пустыми креслами. Автоматы совершают удивительные подвиги: пишут музыку, открывают законы, строят города. Но некому этим восхититься. Никто не вздохнёт от восторга, никто не заплачет.
«Возможно, мы окажемся именно в такой ситуации», — говорит Кох. И добавляет: есть и другой вариант. Если труд исчезнет, люди могут обратиться к искусству, медитации, выращиванию грибов — к тому, что он называет «осознанным опытом». «В принципе, если бы у нас было столько времени, мы могли бы стать более креативными», — рассуждает он. И тут же, с улыбкой, роняет фразу, которая всё расставляет по местам: «Но я не думаю, что для большинства из нас это возможно».
Почему мы не можем остановиться и подумать
Я часто замечаю за собой: стоит мне выключить телефон и просто посмотреть в окно, как рука сама тянется к экрану. Не потому, что я жду важного сообщения. Просто так привычнее. Кох описывает этот феномен с холодной точностью нейробиолога. Он различает две вещи: сознание и внимание. Сознание — это то, что мы переживаем. А внимание — это механизм фокусировки, который может работать автономно.
Он приводит пример: вы едете по автостраде, слушаете подкаст, но при этом ваши глаза всё равно следят за дорогой. Вы не думаете о том, как вести машину, — вы просто ведёте. А ваше сознание целиком захвачено рассказом. Кох говорит: экономика внимания построена на том, чтобы использовать эту нашу способность — захватывать сознание новыми стимулами — и вытеснять рефлексию. Следующий ролик, следующее уведомление, следующая вещь. Без паузы.
Во время одного из перелётов он наблюдал за мужчиной, который пять часов подряд листал ленту новостей. «Каждые десять секунд — что-то новое», — вспоминает Кох. И замечает: это не делает нас зомби. Мы не теряем сознание. Но мы теряем то, что он называет рефлексивным самосознанием, — способность остановиться и спросить себя: а зачем я это делаю? Чего я на самом деле хочу? Куда я иду?
Без этой способности, предупреждает он, мы становимся идеальной добычей. Не для машин — для кого угодно. Потому что человек, который не умеет задавать себе вопросы, легко управляем. И чем мощнее становятся алгоритмы, тем легче им будет предсказывать наши действия, подсовывать нам нужные решения, формировать наш мир.
Путеводная звезда
У Коха есть одно выражение, которое я запомнил намертво: «рефлексивное самосознание — это путеводная звезда человеческого разума». Он говорит это с такой убеждённостью, что становится ясно: для него это не абстрактная философия, а навык, который можно и нужно тренировать, как мышцу.
В детстве он учился в иезуитской школе. Там была практика «исследования совести»: два раза в день ученики анализировали свои поступки. «Почему я это сказал? Хотел ли я помочь или за этим скрывалось что-то более тёмное?» — эти вопросы он задаёт себе до сих пор. А в Тибете, в буддийских монастырях, он видел, как детей с раннего возраста учат медитации и самоанализу. Разные культуры, один и тот же принцип: чтобы оставаться человеком, нужно время от времени делать паузу.
Кох приводит статистику, которая выглядит тревожно: почти треть студентов первых курсов страдают от тревожности и депрессии. Он считает, что одна из причин — они так и не научились обращать внимание на свои внутренние ощущения. Не научились вовремя замечать тревогу, разбираться в ней, отличать одно чувство от другого. А это очень простые навыки, которые, к сожалению, сегодня не входят в школьную программу. Да и в университетскую — тоже.
Он предлагает простой рецепт: прежде чем что-то сделать, сделайте глубокий вдох. И спросите себя: «Действительно ли я хочу это сказать?» Это задерживает «первый прилив горячей крови», как он выражается. Даёт время подумать.
И если не делать этого, способность атрофируется. «Если его не развивать, оно будет как мышца, которую вы никогда не используете, — говорит Кох о рефлексивном самосознании. — Способность может сохраниться, потенциал может сохраниться, но сама мышца атрофируется».
Мне кажется, это самое точное описание того, что происходит с нами прямо сейчас. Мы не глупеем. Мы просто перестаём использовать то, что делает нас людьми. А машины — они используют всё.
Зачем нейробиолог вдыхает яд жабы
Но здесь есть один важный поворот. Кох, который предупреждает нас о рисках искусственного интеллекта, сам регулярно практикует вещи, которые большинству людей показались бы безумными. В своей книге «Then I Am Myself the World» (2024) он описывает эксперименты с изменёнными состояниями сознания. Он вдыхал испарения 5-MeO-DMT — вещества, которое выделяют жабы из реки Колорадо. Он участвовал в церемониях с аяуаской в Бразилии. И он рассказывает, как однажды встретил там «всеобъемлющий разум» — нечто, что пошатнуло основы его научного мировоззрения.
Зачем это учёному, который всю жизнь изучал мозг? Кох объясняет: это «живое доказательство того, что нервная ткань способна порождать необычные переживания». Он исследует границы сознания не из праздного любопытства, а чтобы понять, на что вообще способен человек. И приходит к выводу: наша внутренняя вселенная гораздо больше, чем мы думаем.
Он не призывает всех бежать за психоактивными веществами. Напротив, он подчёркивает, что для большинства людей это не путь. Есть гораздо более доступная вещь: просто восхищаться красотой природы и удивляться тому, что вообще что-то существует. Но для этого нужно время. А время — самый дефицитный ресурс в экономике внимания.
Ирония в том, что именно машины, которые крадут наше внимание, могут когда-нибудь дать нам это время. Если они возьмут на себя труд, может быть, мы наконец сможем заняться тем, для чего мы, собственно, и созданы: размышлениями, искусством, заботой друг о друге. Кох допускает такой вариант. Но он же, с присущим ему мягким пессимизмом, сомневается, что большинство из нас воспользуется этим шансом.
Несколько вопросов, которые я теперь задаю себе
После того как я прочитал интервью с Кохом, я поймал себя на том, что стал чаще выключать уведомления. Не потому, что я решил стать буддийским монахом. Просто я понял: каждое «дзынь» — это маленькая кража. Кража моего внимания, моего времени, моей способности думать о чём-то одном дольше десяти секунд.
Я начал задавать себе вопросы, которые он предлагает. «Почему я сейчас открыл социальную сеть? Мне правда скучно или я просто хочу убежать от мысли, которая меня беспокоит?» Честно ответить на них не всегда приятно. Но это странным образом успокаивает.
Кох говорит, что мы — мыслящие обезьяны. Наша главная сила в том, что мы можем анализировать собственные мотивы. Мы можем спросить себя: «Зачем я это сделал? Было ли это разумно? Соответствует ли это той жизни, которой я действительно хочу жить?»
Машины, сколько их ни учи, не умеют задавать себе такие вопросы. Они могут имитировать ответы, но у них нет потребности в самоанализе. И пока у нас есть эта потребность — мы ещё люди. Когда она исчезнет, разницы между нами и очень сложным, очень умным, очень агрессивным автоматом действительно не останется.
Кох смотрит в будущее и видит два сценария. Первый: планета, где автоматы совершают удивительные подвиги, но некому ими восхищаться. Второй: мы всё-таки находим время для искусства, медитации, осознанной жизни. И знаете, что он думает? Он не уверен, что мы выберем второй.
Но он предлагает простую вещь: прежде чем окончательно раствориться в потоке уведомлений, сделать паузу. Глубокий вдох. И спросить себя: «А я сейчас вообще хочу этого?»
Я попробовал. Получается не всегда. Но когда получается — мир становится чуть тише. И в этой тишине слышно, что спектакль ещё не закончился. И мы всё ещё в зале.
По материалам интервью Кристофа Коха, его книги «Then I Am Myself the World: What Consciousness Is and How to Expand It» (2024), а также публичных лекций и статей, посвящённых природе сознания, искусственному интеллекту и будущему человечества.
P.S. Маленькая кнопка справа и большой смысл
Вы дочитали до конца — спасибо вам за это. В эпоху, когда внимание стало самым дефицитным ресурсом, найти полчаса, чтобы погрузиться в длинный текст, — это почти подвиг. Я это ценю.
И теперь, когда мы с вами поговорили о смысле, о том, что делает нашу работу ценной, и о том, как легко потерять ориентир в мире бесконечных уведомлений, я хочу сказать ещё об одной вещи. Вы, наверное, заметили справа кнопку «Поддержать». Она маленькая, но для меня — важная.
Почему? Потому что в экономике внимания есть одно правило, о котором редко говорят вслух: чтобы искать по-настоящему ценную информацию, нужен не только интерес, но и ресурс. Время, которое я трачу на глубокие интервью, на разборы книг вроде той, что написал Кристоф Кох, на поиск неочевидных связей, — это время, которое я мог бы потратить на что-то другое. И когда я вижу, что моя работа находит отклик, что вы готовы её поддерживать, у меня появляется не просто возможность, а настоящий интерес: искать дальше, копать глубже, приносить вам ту самую ценную информацию, ради которой мы все здесь.
Ваши донаты — это не просто «спасибо». Это сигнал, что выбранный путь имеет значение. Что мы вместе сопротивляемся эпохе, где всё обесценивается, и сохраняем пространство для вдумчивых разговоров. Кох говорил о «путеводной звезде человеческого разума» — так вот, ваша поддержка для меня чем-то похожа на неё. Она помогает не сбиться с курса.
Кнопка справа. Если у вас есть возможность и желание — я буду искренне благодарен. Если нет — ничего страшного. Ваше чтение и ваше внимание уже поддерживают меня, и для меня это не менее ценно.
Спасибо, что вы есть. До новых встреч.
Следуйте своему счастью
Внук Эзопа