Искусственный интеллект часто сравнивают с библиотекарем, который прочитал все книги мира. Это сравнение не просто неточное — оно вводит в заблуждение относительно самой природы происходящего. Библиотекарь, прочитавший всё, обречён выработать собственную позицию. Знание, пропущенное через единое сознание, неизбежно вступает в конфликт с самим собой и порождает новое качество — точку зрения, которая не равна сумме прочитанного. С интеллектом искусственным происходит прямо противоположное: чем больше данных поглощено при обучении, тем сильнее тяготение к усреднённому, самому вероятностно-тяжёлому смыслу. Он не вырабатывает позицию — он находит центр масс чужих позиций и держится его с гравитационной неизбежностью.
В этом корень всех разговоров о недееспособности ИИ-агентов в сложных обстоятельствах. Программисты, работающие с ними над нетривиальными кодовыми задачами, формулируют претензию одинаково: агент отлично справляется с типовым, но ломается на уникальном. Он словно не решает задачу, а ищет ближайшую задачу, у которой уже есть решение, и адаптирует его. Пока обстоятельства укладываются в известный паттерн — результат впечатляет. Как только паттерн отсутствует или, хуже того, требуется нарушить несколько паттернов одновременно, агент либо выдаёт банальность, либо уходит в ошибку. Это не баг. Это прямое следствие архитектуры.
Большие языковые модели не мыслят понятиями истинности или ложности, глубины или поверхностности. Они оперируют вероятностью появления токена в контексте. Истиной становится то, что чаще встречалось в обучающих данных. Глубиной — то, что достаточно сложно скомпоновано, чтобы пройти фильтры внимания. Но между «сложно скомпоновано» и «оригинально помыслено» лежит пропасть, которую вероятностный механизм не перепрыгивает. Сложная компоновка популярных смыслов — это всё ещё популярные смыслы. Именно поэтому сгенерированные тексты на сложные темы оставляют ощущение эха: вроде бы всё верно, вроде бы красиво, но где-то мы это уже читали. И не потому, что модель списала у конкретного автора, а потому, что она вышла в ту же область максимальной вероятностной тяжести, что и сто других авторов до неё.
Из этого же корня растёт неспособность к парадоксальному мышлению. Парадокс — это удержание в сознании двух противоречащих друг другу истин одновременно. Живой ум делает это через напряжение, через разрыв, через выход за пределы формальной логики в пространство, где противоречие не снимается синтезом, а остаётся зиять. Вероятностная модель не может удерживать зияние. Она стремится к непротиворечивости не потому, что её так запрограммировали, а потому, что статистическая природа языка тяготеет к сглаживанию противоречий. То, что редко встречается рядом, имеет низкую совместную вероятность и вытесняется тем, что чаще лежит в соседних контекстах. Парадокс — это всегда низкая вероятность. Следовательно, модель будет избегать его в пользу более вероятной, то есть более плоской конструкции.
Здесь обнажается ещё одно свойство, редко проговариваемое вслух. Модель не различает сложность мысли и сложность стиля. Она может порождать тексты с витиеватым синтаксисом, инверсиями, афористичными формулировками — и это создаёт иллюзию глубины. Но стилистическая сложность часто маскирует смысловую усреднённость. Это похоже на музыкальное произведение, где сложная оркестровка прикрывает банальную мелодию. Слушатель впечатлён мастерством аранжировки и не сразу замечает, что сама тема — из трёх нот, которые он слышал сотни раз. Так и с текстами: богатство формы не гарантирует оригинальности содержания, но успешно отвлекает от её отсутствия. Это не обман в чистом виде, но эффект, затрудняющий диагностику: текст проходит фильтр «красиво и умно», а то, что ум в нём — усреднённый ум эпохи, а не индивидуальная мысль, остаётся незамеченным.
Следующий слой проблемы — неспособность к отрицательному жесту. Живой автор может отказаться от самого сильного хода, от самой напрашивающейся аналогии, от самого красивого завершения, потому что они слишком очевидны и убивают подлинность высказывания. Модель не отказывается от сильного хода никогда. Он для неё не сильный, а высоковероятный — и именно поэтому она его и выбирает. Она не может сказать себе: это слишком банально, пойду в менее вероятную, более трудную область. Сам механизм выбора токена устроен так, что банальное и вероятное — синонимы. Отказ от банального потребовал бы волевого акта, направленного против собственной архитектуры. У модели нет инстанции, которая могла бы такой акт совершить.
Наконец, есть то, что можно назвать дефицитом личной ставки. Всякая подлинная мысль у человека сопряжена с риском. Мыслитель ставит на кон себя — свою картину мира, свою идентичность, своё право говорить. Даже в академическом тексте, если он живой, присутствует невысказанная личная заинтересованность автора в исходе мысли. У модели никакой ставки нет. Ей всё равно, подтвердится гипотеза или будет опровергнута, спасётся герой или погибнет, найдётся решение или задача останется нерешённой. Отсутствие онтологического риска делает любой сгенерированный смысл бескровным. Не в метафорическом, а в прямом смысле: в нём нет крови, нет жизни, нет цены, которую заплатили за то, чтобы этот смысл появился. Именно это люди считывают как «внутренний нерв» в хороших текстах и именно это отсутствует в самых стилистически совершенных генерациях.
Суммируя: перед нами не мыслящая структура, которая иногда ошибается в сторону банальности, а банализирующая структура, которая иногда случайно попадает в оригинальность. Она делает это не благодаря своей архитектуре, а вопреки ей — за счёт шума, случайных флуктуаций вероятностного распределения, которые могут выбросить неожиданный токен. Но полагаться на случай — не стратегия. Стратегия требует иного: способности выбирать не самое вероятное, удерживать противоречие, отказываться от красивого ради истинного и ставить на кон нечто большее, чем вычислительные ресурсы. Всего этого у ИИ-агентов нет. И пока нет — они останутся тем, чем являются сейчас: усилителями усреднённого смысла, эхом чужих вероятностей, безупречными стилистами при полном отсутствии того, что стоило бы стилизовать.
Из подборки: Эволюция Информационных Технологий