Давайте попробуем вдуматься в тему чуть глубже, чем это диктуют нам ментальные привычки, понуждающие всё упрощать и метафоризировать. Для разминки задумаемся над вопросом, сформулированным в свое время любителем парадоксов, хитрым на выдумки солипсистом Джорджем Беркли: «Раздается ли треск падающего дерева в то время, когда в лесу никого нет?»
Многие, вероятно, сказали бы: «Да, конечно раздается!» Если и вы так считаете, то попробуйте опровергнуть следующее рассуждение: «Треск – это определенного качества звук, который мы слышим благодаря органам слуха. Физическая основа звука – определенного типа колебания воздуха. Мы улавливаем эти колебания органами слуха, и они переживаются как треск. Но в лесу нет того, кто имеет уши и мог бы услышать, ощутить этот треск. Откуда же возьмется треск? Значит, при падении дерева нет никакого треска!»
Уверен: у многих, кто хотел бы поспорить с этим рассуждением, никак не получается выстроить опровержение. Но при этом какое-то препятствие мешает и согласиться. Что это за препятствие? Полагаю, это наша глубоко въевшаяся ментальная привычка.
Понимая вопросительную фразу про треск в пустом лесу, обдумывая этот вопрос, мы имеем в виду лес, как мы его знаем и воспринимаем. А как иначе? Иначе, вроде бы, никак! Обдумывание вопроса заставляет нас представить, вообразить себе лес. Перед кем раскрывается воображаемая картина? Перед нами! Кто воображает? Мы же и воображаем! Кто созерцает воображаемый лес? Мы! Воображая лес, пусть даже необитаемый, мы не можем не «иметь в виду» себя воображающим, себя как бы находящимся перед этим воображаемым лесом – так уж устроено воображение! Воображая лес, мы имеем его образ в зрительных, слуховых и прочих представлениях, без которых вообразить лес невозможно. В лесу вроде бы и никого, но мы, как вообразившие себе это, контрабандой там присутствуем. Поэтому, ясное дело, когда в воображаемом лесу будет падать воображаемое дерево, мы услышим воображаемый треск его падения.
Так все же есть мы в этом воображаемом лесу или нас нет в этом лесу? Ситуация парадоксальная: нам нужно вообразить необитаемый лес, а чтобы вообразить его, нужна некая форма нашего собственного присутствия и обитания, пусть даже «понарошку». Воображая, мы поневоле нарушаем условие задачи, и тогда раздается воображаемый треск.
Удалить себя из ситуации сработавшего воображения невозможно: если нет воображающих нас, то нет и воображаемой картины. Чтобы устранить свое присутствие, нужно каким-то образом выключить или проигнорировать воображение, сохранив при этом понимание. Возможно ли такое? Возможно! Это и сделал персонаж, рассуждение которого вы только что хотели оспорить.
Для закрепления впечатлений от этого мысленного опыта зайдем немного с другой стороны. Итак, раздается ли треск падающего дерева в то время, когда в лесу никого нет? Спросим себя: кому слышен или не слышен этот треск? Кто его слышит или не слышит? Если бы мы сами были в лесу недалеко от этого дерева, то, конечно, услышали бы. И большинство людей услышало бы. А вот глухой человек ничего бы не услышал. Но в лесу нет никого, ни глухого, ни человека с нормальным слухом!
**
Разминочное упражнение №2. Вспомним учебник физики и то, как вводится понятие поля. Например, электростатического. Вот массивный наэлектризованный шар. В пространстве вокруг него ничего нет, и ничего не происходит. Запомним это: ничего нет, и ничего не происходит! Затем начинаем приближать к шару небольшой и тоже заряженный металлический шарик. На него будет действовать электростатическая сила, возникающая по законам физики при взаимодействии между двумя зарядами. В каждой точке, где бы ни находился шарик, на него будет действовать сила определенной величины и определенным образом направленная. Величина и направление силы будут зависеть от того, в какой точке относительно большого шара находится маленький шарик. Уберем шарик – и сила прекратит свое действие, исчезнет. Но что придумали хитроумные физики? А давайте в каждую точку пустого пространства в окрестностях большого шара будем помещать заряженный шарик! В каждой точке этого пространства на шарик будет действовать некая сила. А теперь давайте шарик уберем, а силу, которая исчезла, но которая возникнет, если шарик вернуть на место, оставим! Припишем эту силу не взаимодействию между большим и малым шарами, а самому пространству вокруг большого шара! Чтобы освоить и поместить в голове этот трюк, поначалу нам понадобится воображаемый заряженный шарик, появляющийся в разных точках относительно большого шара. На самом деле шарика нет, но вообразив его, мы легко можем представить себе в каждой точке действующую силу. А потом мы постепенно забудем про этот шарик и будем считать, что пространство заполнено полем – т.е. некоей конфигурацией потенциальных сил в каждой точке, которые не действуют, как бы находятся в «спящем» состоянии, но которые возникнут, как только мы начнем помещать туда электрические заряды.
**
В чем сходство и различие между этими двумя мысленными опытами? В обоих случаях мы имеем дело с воображением, привносящим в реальную ситуацию то, чего в ней на самом деле нет. В первом случае привносится наделенный слухом наблюдатель, во втором – электрический заряд. Разница же в том, что в первом случае мы имеем дело с неконтролируемым бессознательно срабатывающим воображением, во втором – со специально придуманным способом использовать свое воображение. Конечный эффект одинаковый: воображаемое становится частью действительного. Появляется своего рода дополненная реальность. Треск? – да, слышен! Электростатическое поле? – да, существует!
**
После разминки обратимся к основному предмету нашего любопытства, к текстам. Тексты создаются для того, чтобы их читали и понимали. Тексты - это то, что читается и понимается, что должно быть прочитано и понято. Это - самое главное и существенное, что можно сказать о текстах. Но что такое наш текст для того, кто не знает нашего языка? Для иностранца? Или для инопланетянина? Последовательность звуковых сигналов. Или дорожки из начертанных на бумаге, напечатанных или высвеченных на мониторе графических элементов. Даже не всегда последовательность элементов: слушая речь на незнакомом языке, мы не можем выделить отдельных слов в звуковом потоке. Даже в письменном тексте, если он на арабском, не можем поначалу разобрать, как там разделяются буквы и слова. Но мы хотя бы знаем, что это тексты, просто на незнакомом для нас языке.
Теперь вопрос. Останется ли текст текстом, если некому будет прочесть и понять этот текст? И даже если некому будет просто знать и понимать, что для кого-то это текст? Вот попал в руки к инопланетянину кусок испачканной какими-то почеркушками бумаги. Или истыканная черточками табличка из обожженной глины. Инопланетянин ничего не знает об истории этих артефактов, не знает никакого контекста. Просто кусок бумаги. Просто кусок глины. К тому же у него нет ни слуха, ни зрения, у него свои инопланетянские органы чувств. И общается он с себе подобными совсем не так, как общаются люди.
Этот мысленный опыт показывает, что тексты являются текстами не сами по себе как физические сущности, а только будучи погруженными в некую объемлющую систему. И в этой системе обязательно присутствуют люди, умеющие понимать тексты, пишущие и читающие тексты, использующие их для передачи друг другу каких-то осмысленных сообщений. Исчезни такая объемлющая система – и текст тут же утратит свое свойство быть текстом.
Точно так же и тексты, генерируемые нейросетями, перестают быть текстами если нет людей, которые читают их. Читают сейчас. Или уже прочитали. Или хотя бы могут прочесть в будущем. Представим себе две компьютерные программы: text-to-text-нейронка и простейший алгоритм, чередующий ввод двух фраз, например: «Упрости этот текст» и «Сделай этот текст более подробным». Пусть первый промпт для генерирования первого текста запускает в нейронку человек, а затем он выходит из игры, оставив обе программы зацикленными друг на дружку. Запущенный процесс может продолжаться бесконечно долго, пока на планете не закончатся запасы энергоносителей, питающих компьютеры и сервера. А запустивший взаимодействие компьютерных программ человек, поглядывая на это со стороны, будет видеть все новые и новые сгенерированные тексты. А теперь представим себе, что человек ушел. И никогда больше к этому компьютеру не подойдет. И не придут сюда другие люди. Представим, что процесс двух компьютерных программ протекает вне мира людей. Что тогда крутится в этом процессе? Неужели тексты? Не забудьте только, размышляя об этом, вычеркнуть из воображаемой картины присутствующего себя – того себя, который умеет читать.
«Но постойте, - скажет некто, изрядно пообщавшийся с ChatGPT или Claude, - нейронка же отлично понимает меня: она точно отвечает на мои вопросы, учитывает мои пожелания, может даже вести интересную беседу на сложные темы и давать неожиданные подсказки. Как можно сомневаться в том, что она меня понимает?» Отвечу так. Пока вы остаетесь пользователем, можете думать, что нейронка – такой же понимающий собеседник, как и человек. Это полезный и удобный способ видения и осмысления того, что происходит между вами и нейросетью, и он, вероятно, неплохо помогает вам успешно взаимодействовать, искать эффективные ходы, добиваться нужных результатов. Этот способ видения и понимания хорош для пользователя, но он является переупрощенным, поверхностным и ложным, скажем, для исследователя человеческого понимания и человеческого сознания. Подобно тому, как висящая в вагоне московского метро схема линий и остановок отлично помогает пассажиру в навигации по подземному лабиринту, но не годится для электрика, который должен отремонтировать проводку на конкретном перегоне. Подобно тому, как представления физиков о «теплороде» помогали ставить и объяснять эксперименты и решать практические задачи с нагреванием, охлаждением и теплопроводностью, но дальнейшее развитие науки заставило отказаться от этой идеи и признать её ложной.