Ирина Дрозд Энтропия (от греч. ἐντροπία — поворот, превращение) — понятие, впервые введенное в термодинамике для определения меры необратимого рассеивания энергии. Термин широко применяется и в других областях знания: в статистической физике как мера вероятности осуществления какого-либо макроскопического состояния; в теории информации как мера неопределенности какого-либо опыта (испытания), который может иметь разные исходы, в исторической науке, для экспликации феномена альтернативности истории (инвариантности и вариативности исторического процесса)...

Теория вероятности Из двух школ теории вероятностей, частотной и субъективной, вторая утверждает, что теория вероятностей может использоваться для представления неопределенности. Таким образом, с каждым элементом информации или знания связывается величина, называемая «мерой вероятности». Таким образом, каждый элемент e будет представлен как (e, P (e)) , где P (e) - мера вероятности e . Меру его вероятности e можно трактовать: объективист , а именно e рассматривается как событие, а P (e) относится...