Здравствуй, уважаемый читатель. Энтропия многим не до конца понятна. Это физическое понятие достаточно запутанное, к тому же имеет много различных применений в разных областях знаний. В этой статье хочу поделиться с Вами хорошим, на мой взгляд, определением энтропии, без привязки к термодинамике или к другой области.
Что такое энтропия?
- Энтропия есть "множество возможностей" некоторого предмета, процесса, явления. Если нечто может возникнуть, появиться, реализоваться в пространстве-времени множеством различных способов, то мы даем этому факту наименование. Мы решили выбрать слово "энтропия" (от др. греч. "превращение").
- Энтропия есть чистая потенциальность, "пышное древо множественных вариантов". Если мы попытаемся представить энтропию в виде живого существа, то это существо будет находиться в состоянии суперпозиции (наложения) всех своих возможных состояний. Причем, нам вряд ли удастся разглядеть в нём что-то определённое.
- Например, представьте собаку, заключающую в себе все возможные породы, причём в состоянии чистой потенциальности, т. е. ни одна порода не "высвечивается", да мы и разглядеть толком ни одну породу не можем, да и все собаки всех этих пород во всех возможных состояниях (от мала до велика, помоложе-постарше, с шерстью и без и т. п.). Да и непонятно теперь уже, собака ли это (а может кошка, кенгуру? Никакой информации).
Энтропия и информация
- Информация – множество реализованных возможностей. Накапливать информацию – значит переходить от состояния "мир организован как-нибудь" к состоянию "мир организован вполне определенным образом". Т. е. собирать информацию значит "схлопывать" возможности (знаю, что "так", а не "как-нибудь"). Например, ребёнок уже знает о собаках. Но далее собаки "вообще" превращаются/схлопываются при дальнейшем накоплении информации в ротвейлеров, мопсов, сенбернаров, чихуахуа и т. п.
Рассмотрим энтропию и информацию на примерах
- Энтропия диаметра окружности
Здесь показана энтропия диаметров – множество всех возможных диаметров (их бесконечно много, на рисунке показано несколько). Показан переход к информации: диаметр "схлопывается" до строго определенного диаметра.
- Энтропия нулей и единиц
Квантовый компьютер? Интересно, что традиционный компьютер работает с информацией (конкретным перебором нулей и единиц, операций с ними). А квантовый компьютер работает с энтропией, обрабатывая в данный момент времени все возможные состояния.
Например, если обычный ПК обрабатывает в данный момент 01 (два бита); то квантовый будет одновременно находится во всех четырёх, но как бы и ни в одном из состояний: 00, 01, 10, 11, обрабатывая разом все эти состояния посредством 2 кубитов (аналог бита). Впрочем, это тема для отдельной статьи.
- Энтропия положений телефона на столе
Предположим, вы стоите возле стола с закрытыми глазами и не помните, куда положили телефон. Причём положить вы могли его куда угодно. С закрытыми глазами вы догадываетесь о его возможной дислокации (усматриваете множество возможностей: может ближе к краю, а может к центру и т. д.). Здесь "энтропия" – "телефон лежит как-нибудь" (в принципе) (под определенным углом, на определенном месте стола и т. п.). Все возможности, причем мыслимые одновременно, но ни одна конкретная, ни одна не "выпирает" наружу. Далее вы открываете глаза, смотрите и ухватываете информацию: телефон-то не в мультивселенных пребывает, а лежит вполне определённо, поэтому здесь "информация" – "телефон лежит на столе строго определённым образом".
А что, так можно было?
- Мы видим, что информация работает по принципу: "А что, так можно было?" (назовём это "схлопыванием потенциальности энтропии"). Например, вы узнаёте о новой породе собаки, а значит понимаете, во-первых, что некоторая порода может существовать в принципе (можно было), и к тому же эта порода как-то устроена (дальнейшее схлопывание возможностей и накопление дополнительной и более конкретной информации).
Заключение
Как видим, концептуально в энтропии нет ничего сложного. Хотя, конечно, это математическое и физическое понятие выходит далеко за рамки небольшой статьи на Дзене, и понимание энтропии – дело долгих лекций и кропотливого изучения.
Спасибо за внимание!