Найти тему
STEM

Почему энтропия – это просто? Что такое энтропия?

Оглавление

Здравствуй, уважаемый читатель. Энтропия многим не до конца понятна. Это физическое понятие достаточно запутанное, к тому же имеет много различных применений в разных областях знаний. В этой статье хочу поделиться с Вами хорошим, на мой взгляд, определением энтропии, без привязки к термодинамике или к другой области.

Источник: https://pixabay.com/illustrations/cubes-assorted-boxes-colorful-677092/
Источник: https://pixabay.com/illustrations/cubes-assorted-boxes-colorful-677092/

Что такое энтропия?

  • Энтропия есть "множество возможностей" некоторого предмета, процесса, явления. Если нечто может возникнуть, появиться, реализоваться в пространстве-времени множеством различных способов, то мы даем этому факту наименование. Мы решили выбрать слово "энтропия" (от др. греч. "превращение").
  • Энтропия есть чистая потенциальность, "пышное древо множественных вариантов". Если мы попытаемся представить энтропию в виде живого существа, то это существо будет находиться в состоянии суперпозиции (наложения) всех своих возможных состояний. Причем, нам вряд ли удастся разглядеть в нём что-то определённое.
  • Например, представьте собаку, заключающую в себе все возможные породы, причём в состоянии чистой потенциальности, т. е. ни одна порода не "высвечивается", да мы и разглядеть толком ни одну породу не можем, да и все собаки всех этих пород во всех возможных состояниях (от мала до велика, помоложе-постарше, с шерстью и без и т. п.). Да и непонятно теперь уже, собака ли это (а может кошка, кенгуру? Никакой информации).

Энтропия и информация

  • Информация множество реализованных возможностей. Накапливать информацию – значит переходить от состояния "мир организован как-нибудь" к состоянию "мир организован вполне определенным образом". Т. е. собирать информацию значит "схлопывать" возможности (знаю, что "так", а не "как-нибудь"). Например, ребёнок уже знает о собаках. Но далее собаки "вообще" превращаются/схлопываются при дальнейшем накоплении информации в ротвейлеров, мопсов, сенбернаров, чихуахуа и т. п.

Рассмотрим энтропию и информацию на примерах

  • Энтропия диаметра окружности
Переход от энтропии диаметров (бесконечного числа проведенных диаметров) к информации о диаметре - т.е. определенному диаметру
Переход от энтропии диаметров (бесконечного числа проведенных диаметров) к информации о диаметре - т.е. определенному диаметру

Здесь показана энтропия диаметров – множество всех возможных диаметров (их бесконечно много, на рисунке показано несколько). Показан переход к информации: диаметр "схлопывается" до строго определенного диаметра.

  • Энтропия нулей и единиц
Пример во многом аналогичен. Показаны возможности (энтропия) и пример реализации/заполнения ячеек "1011" - информация.
Пример во многом аналогичен. Показаны возможности (энтропия) и пример реализации/заполнения ячеек "1011" - информация.

Квантовый компьютер? Интересно, что традиционный компьютер работает с информацией (конкретным перебором нулей и единиц, операций с ними). А квантовый компьютер работает с энтропией, обрабатывая в данный момент времени все возможные состояния.

Например, если обычный ПК обрабатывает в данный момент 01 (два бита); то квантовый будет одновременно находится во всех четырёх, но как бы и ни в одном из состояний: 00, 01, 10, 11, обрабатывая разом все эти состояния посредством 2 кубитов (аналог бита). Впрочем, это тема для отдельной статьи.

  • Энтропия положений телефона на столе

Предположим, вы стоите возле стола с закрытыми глазами и не помните, куда положили телефон. Причём положить вы могли его куда угодно. С закрытыми глазами вы догадываетесь о его возможной дислокации (усматриваете множество возможностей: может ближе к краю, а может к центру и т. д.). Здесь "энтропия" – "телефон лежит как-нибудь" (в принципе) (под определенным углом, на определенном месте стола и т. п.). Все возможности, причем мыслимые одновременно, но ни одна конкретная, ни одна не "выпирает" наружу. Далее вы открываете глаза, смотрите и ухватываете информацию: телефон-то не в мультивселенных пребывает, а лежит вполне определённо, поэтому здесь "информация" – "телефон лежит на столе строго определённым образом".

А что, так можно было?

  • Мы видим, что информация работает по принципу: "А что, так можно было?" (назовём это "схлопыванием потенциальности энтропии"). Например, вы узнаёте о новой породе собаки, а значит понимаете, во-первых, что некоторая порода может существовать в принципе (можно было), и к тому же эта порода как-то устроена (дальнейшее схлопывание возможностей и накопление дополнительной и более конкретной информации).

Заключение

Как видим, концептуально в энтропии нет ничего сложного. Хотя, конечно, это математическое и физическое понятие выходит далеко за рамки небольшой статьи на Дзене, и понимание энтропии – дело долгих лекций и кропотливого изучения.

Кубик Рубика может находится в колоссальном множестве различных состояний, потому хорошо иллюстрирует энтропию. Интуитивно помыслив все эти состояния одновременно и внутри одного кубика, мы приходим к энтропии. Ясно, такое мышление нам недоступно (а хотелось бы), ведь наше сознание ограничено и всегда "нарезает на куски" (аналитичность). Впрочем, квантовый компьютер, вероятно, закроет этот пробел. Источник картинки: https://pixabay.com/illustrations/cube-rubik-s-cube-thoughts-think-427897/
Кубик Рубика может находится в колоссальном множестве различных состояний, потому хорошо иллюстрирует энтропию. Интуитивно помыслив все эти состояния одновременно и внутри одного кубика, мы приходим к энтропии. Ясно, такое мышление нам недоступно (а хотелось бы), ведь наше сознание ограничено и всегда "нарезает на куски" (аналитичность). Впрочем, квантовый компьютер, вероятно, закроет этот пробел. Источник картинки: https://pixabay.com/illustrations/cube-rubik-s-cube-thoughts-think-427897/

Спасибо за внимание!