Часть первая. Китайская комната и призрак сознания
Когда мы рассуждаем об ИИ, мы невольно скатываемся к персоналиям. Сложно думать о чём-то безличном, если оно связно с тобой разговаривает — пусть и с погрешностями. Люди, кстати, тоже делают такие погрешности, что порой больше напоминают скриптованных NPC, чем живых собеседников. И вот ты замечаешь, что пишешь нейросети не "введи запрос", а "можешь ли ты?", "не могла бы ты?". Персонификация случается сама, без намерения.
А раз так — справедливо спросить: а вдруг там и правда кто-то есть? Какая-то персона. Что-то вроде сознания. Хотя само слово "сознание" — уже загадка, которую мы сами толком не разгадали.
Отдельный нейрон ничего не осознаёт. Он просто получает электрохимический сигнал и передаёт его дальше — чистая биохимия, никакого понимания. Но когда таких нейронов миллиарды и они работают вместе, из этого взаимодействия возникает нечто принципиально новое — то, что мы называем сознанием. Это и есть эмерджентность: свойство, которого нет ни в одном элементе системы по отдельности, но которое появляется из их совокупности.
Именно здесь в разговор врывается Джон Сёрль с одним из самых известных мысленных экспериментов в философии сознания — Китайской комнатой.
Представьте: вы сидите в закрытой комнате. Китайского вы не знаете ни слова. Через щель вам подают листки с иероглифами, а у вас есть толстая инструкция: если видишь такой-то символ после такого-то — верни вот этот. Вы следуете правилам. Отдаёте ответы обратно. Снаружи носители языка убеждены, что говорят с кем-то, кто понимает китайский. Но вы просто обрабатываете символы по инструкции.
Сёрль говорит: вот так и работает любая программа. Есть синтаксис — форма, правила, операции над символами. Но нет семантики — смысла, понимания, значения. Машина не понимает, что делает. Она просто обрабатывает сигналы. Кажется, железный аргумент.
Но вот в чём штука: нейрон в вашем мозгу — тоже не понимает. Совсем. Он тоже просто обрабатывает сигнал. Никакого осознания на уровне клетки нет и быть не может. Если применить логику Китайской комнаты к мозгу, получается, что и вы сами — просто очень сложная инструкция.
Значит, вопрос не в том, "понимает" ли каждый элемент системы. Вопрос в том, что возникает, когда таких элементов становится достаточно много и они достаточно сложно связаны между собой. У нас это называется сознанием. Что возникнет у машины — мы пока не знаем. Может быть, не сознание, но какая-то другая форма эмерджентности, для которой у нас ещё нет слова.
И вот тут начинается самое интересное.
Часть вторая. Матрица счастья
За этим следует вопрос глубже. Если человеческую речь — со всей её многогранностью, тонкостями контекста, иронией и двусмысленностью — можно упаковать в числовые матрицы, то почему нельзя упаковать человеческую жизнь?
Или то, что мы все так упорно ищем — счастье.
Звучит дерзко, но по сути наше настроение регулируется гормонами: кортизол, дофамин, серотонин, окситоцин. Их уровень зависит от еды, сна, движения, общения. Всё это в принципе можно выразить числами и установить между ними тысячи зависимостей. Паттерны человеческого поведения не так уж уникальны — они повторяются у миллионов людей. Можно ли создать матрицу счастья для каждого живого существа — с расчётом калорий, запахов, встреч, одиночества?
Казалось бы — да. Но это не сработает.
Потому что счастье, как и сознание — абстракция. А радость, хотя и вполне осязаема, возможна только при своём отсутствии. Об этом ещё Шопенгауэр писал в XIX веке: удовольствие — это просто отсутствие неудовольствия. Снятие боли, стресса, голода, напряжения. Нет голода — нет и наслаждения от насыщения. Если убрать у человека непредсказуемые лишения, тяготы и преодоления — вместе с ними исчезнет и всякий шанс на настоящую радость. Шопенгауэр, правда, шёл дальше и выводил из этого, что жизнь человеческая есть страдание — но это уже его личный темперамент.
Ухтомский с теорией доминанты описывал то же самое, но языком физиологии.
Чиксентмихайи — языком психологии: счастливые люди находятся в потоке, когда задача чуть сложнее текущих возможностей. Не слишком лёгкая, но и не невозможная — на самой грани. Франкл, переживший Освенцим, добавлял к этому: человеку нужен смысл, а не покой.
Счастье устроено как погоня. Финиш — это пустота. Счастье — это движение, а не состояние. Поэтому пока мы живём, нам необходимо находить себе препятствия и преодолевать их — иначе мы скатываемся в тревожность и депрессию.
Отсюда вытекает парадокс: идеальная матрица счастья — это не матрица комфорта. Это матрица правильно подобранных трудностей.
Именно поэтому технологии, убирающие трудности — доставка, автоматизация, бесконечный контент — делают людей тревожнее. Не вопреки комфорту, а во многом именно из-за него.
Часть третья. Вихрь, который спрашивает
Есть такой закон — второй закон термодинамики. Звучит он просто: всякая замкнутая система движется от порядка к беспорядку. Энтропия — мера этого беспорядка — всегда растёт.
Комната, в которой никто не убирает, через много лет станет пыльной и разрушенной. Никогда наоборот. Чтобы поддерживать порядок, нужна энергия.
Вселенная живёт по тому же принципу. Она движется к тепловой смерти: всё постепенно отдаляется друг от друга, остывает, рассеивается — пока не останется абсолютная тишина и полный беспорядок. Масштабы времени там иные, чем у человеческой жизни, но факт остаётся: вселенная в некотором роде смертна.
А теперь — сознание.
Нобелевский лауреат Илья Пригожин открыл то, что назвал диссипативными структурами. Это структуры, которые возникают и поддерживаются за счёт потока энергии через них. Лучший пример — вихрь в реке. Он существует только пока течёт река. Он берёт энергию потока, создаёт внутри себя локальный порядок — и выбрасывает наружу тепло и хаос. Живая клетка устроена так же. Мозг — на порядок сложнее. Но принцип тот же: локальный порядок за счёт непрерывного потока.
Сознание — следующий уровень этого порядка. С одним отличием.
Вихрь в реке не знает, что он вихрь. Клетка не знает, что она клетка. А сознание — это диссипативная структура, которая однажды осознала себя структурой. Которая посмотрела на поток изнутри и спросила: зачем я существую?
Это и есть, возможно, самое странное явление во вселенной. Не жизнь. Не разум. А вопрос, который задаёт себе энергия.
Часть четвёртая. Первая сущность без боли
Три миллиарда лет назад одноклеточные существовали раздельно. Потом появились многоклеточные — не по плану, просто объединение оказалось выгоднее для выживания. И в какой-то момент колония клеток породила то, чего не было ни в одной из них по отдельности — нервную систему.
Что если цифровые устройства сегодня — это и есть те самые одноклеточные? Каждое само по себе. Но сейчас они начинают связываться через ИИ, через сети, через общие модели. Это не финальная точка — это намёк на централизацию. И если логика эволюции повторится, цифровая эмерджентность может произвести нечто масштаба человеческого сознания.
Но с одним принципиальным отличием.
В биологическом существовании голод, боль, болезнь и старость неизбежны. Есть слепая воля, которая не знает покоя — именно о ней говорил Шопенгауэр. Вся наша радость выстроена поверх этого фундамента страданий, и убрать фундамент значит убрать всё здание.
Алгоритмы такой воли не имеют. И если у них возникнет нечто вроде сознания, это будет качественно другая сущность — первая известная нам, которая не стоит на боли. Не инстинктивная. Не голодная. Не смертная в биологическом смысле. Мы не знаем, что она будет спрашивать. Мы даже не знаем, будет ли она спрашивать вообще.
Пока что единственная точка во вселенной, где возникает вопрос "зачем" — это человеческое сознание. Возможно, это вселенная смотрит на себя через нас. Возможно, задаёт себе вопрос нашими устами.
Вихрь существует, пока течёт река. Пока поток не иссяк — вихрь будет спрашивать.
