300 читали · 4 года назад
Введение в теорию информации
Индонезийские пещеры острова Борнео дают представление о самой примитивной зарегистрированной форме коммуникации. Около 40000 лет назад, ещё до развития письменного языка, физические иллюстрации на стенах пещеры были наиболее систематическим зарегистрированным способом общения...
Энтропия как мера неопределенности
Понятие энтропии впервые было введено Клаузиусом в термодинамике в 1865 году для определения меры необратимого рассеивания энергии, меры отклонения реального процесса от идеального. Таким образом, энтропи́я (от др.-греч. ἐν «в» + τροπή «обращение; превращение») изначально обозначала меру необратимого рассеивания энергии или бесполезности энергии (потому что не всю энергию системы можно использовать для превращения в какую-нибудь полезную работу). Постепенно этот термин из очень специализированного раздела физики перешел во многие другие области знания...