Сначала немного информации из физики (термодинамики). Энтропи́я (от др.-греч. «обращение; превращение») – это широко используемый (с подачи Клаузиуса в 1865 году) в естественных и точных науках термин. При этом в различных сферах знаний (в термодинамике, в статистической физике, в теории информации, в теории управления, в технологии, и т.д.) энтропия трактуется, «расшифровывается» по-своему. То есть существуют разные аспекты, разные точки зрения на понятие «энтропия» (об этом читателю полезно почитать самому в Википедии)...

Энтропия – одно из тех пугающе глубинных понятий, составляющих основу целых областей физики (в данном случае термодинамики), которое, к сожалению, настолько математическое, что его трудно объяснить простым языком. Но мы попробуем. Всякий раз, когда я вижу слово “энтропия”, мне хочется заменить его фразой “подсчет количества способов, которыми я могу перестроить сценарий, оставив его в целом неизменным”...