Теперь вспомним термодинамическую суть температуры – она является мерой средней кинетической энергии одной частицы в системе:
где k – постоянная Больцмана.
Таким образом, можно представить температуру (безотносительно к масштабу, выражаемому постоянной Больцмана) как отношение общей кинетической энергии всех частиц системы к их количеству (с учетом степеней свободы каждой частицы):
или проще:
где Ek – суммарная кинетическая энергия всех частиц системы.
Подставим эту формулу в выведенную нами формулу приращения информации и получим:
где N– величина, характеризующая количество микросостояний – т.е. частиц со своими степенями свободы. Таким образом, информация, как и энтропия, является аддитивной величиной, зависящей от общего количества микросостояний системы.
Что ожидаемо – для хранения информации необходимо иметь некоторое количество частиц, у которых можно увеличить их свободную энергию (привести их в менее вероятное состояние – то есть изменить их механические, химические, электромагнитные потенциалы – в зависимости от вида энергии, применяемой для хранения информации в данном носителе, которое может сохраняться без дополнительных воздействий настолько долго, насколько может потребоваться для использования этой информации), а потеря информации будет выражаться в увеличении кинетической энергии данных частиц, причем это увеличение будет происходить за счет уменьшения применяемого для хранения информации вида энергетического потенциала. Проверяем размерность – энергетические составляющие формулы сокращаются, и остается размерность информации, выражающаяся в количестве задействованных частиц, имеющих некоторое количество степеней свободы (типичный пример – выражение информации в битах, т.е. частицах, имеющих ровно одну степень свободы с двумя состояниями, но возможно выражение информации в натах – натуральных единицах, или же в пересчете при помощи постоянной Больцмана – в энтропийных единицах).
В случае отсутствия новых информационных воздействий на систему и ее изоляции от обмена энергией справедлива формула:
Эта формула выражает известный нам из термодинамики закон неубывания энтропии. Слагаемое энтропийной составляющей при отсутствии внешних воздействий всегда неотрицательно, свободной энергии – соответственно всегда неположительно. Поскольку мы уже выявили зависимость информации от свободной энергии, формула будет выглядеть так:
В замкнутой системе (любимая идеализация в термодинамике) в случае, если слагаемое приращения энтропии неотрицательно, слагаемое приращения информации соответственно будет неположительным. Поэтому из второго закона термодинамики можно вывести закон невозрастания информации без внешнего информационного воздействия. Этот закон называют еще неравенством обработки информации (неравенством Шеннона) – при любых операциях с сообщениями количество информации в конце операции всегда не больше начального:
Интересно в этом плане замечание Д.С. Чернавского о нестандартной формулировке второго закона термодинамики – при расчетах поведения системы частиц по необходимости допускается существование ошибок, совокупность которых дает меру случайности в поведении системы, которую можно вводить как энтропию системы, но введение этого понятия методологически необязательно. То есть – энтропия напрямую может рассматриваться как неизбежный недостаток информации о поведении системы, что соответствует тезису Колмогорова о том, что законы термодинамики и статистической физики являются следствиями законов теории информации.
Эти необходимо возникающие ошибки – не просто математическое допущение, а физический смысл поведения системы – стремления к необратимому состоянию, которое в условиях замкнутости системы выражается к невозможности возвращения к начальным условиям. Необратимость самопроизвольных термодинамических процессов напрямую разрешает парадокс Лошмидта – даже при точном знании о движении каждой частицы в данный момент времени повернуть каждую частицу точно в противоположном направлении не удастся из-за неизбежности статистических неопределенностей поведения частиц. В терминах, принятых сейчас в этом эссе, это будет означать, что информационное воздействие по обращению движения частиц вспять неизбежно будет сопровождаться потерей информации – и таким образом даже полной информации о поведении каждой частицы системы в данный момент недостаточно для обращающего воздействия.
Потом, когда мы начнем обсуждать законы квантовой информатики, мы поймем, насколько фундаментально это наше незнание.
Интересен в этом контексте еще один парадокс – парадокс Пуанкаре. Он заключается в том, что в любой системе частиц существует некоторая вероятность самопроизвольного повторения данного их состояния. Грубо – если мы запустили газ в вакуумную камеру, то в момент поступания в нее газа все частицы были в одном месте – у входного отверстия. Вероятность того, что они снова там соберутся, исчезающе мала, но не нулевая. То есть существует какой-то неопределенно длительный срок, в течение которого можно дождаться данного расположения частиц. Этот парадокс неразрешим в доказательном плане, но он разрешается эмпирически – реальное время существования любой термодинамической системы заведомо меньше времени, за которое вероятность наблюдения повторения данного состояния будет статистически не пренебрежимой. В данном случае мы получаем некое «решение Ходжи Насреддина» – «или эмир умрет, или ишак умрет, или я умру».