Теория кодирования Шеннона. Количество информации. Энтропия
Энтропия: мера нашего незнания
Энтропия — это слово, которое заставляет задуматься о хаосе и беспорядке. Но за этим термином скрывается одна из самых фундаментальных концепций физики, математики и информатики. Она помогает нам лучше понять, как работает вселенная, как мы воспринимаем информацию и почему некоторые процессы кажутся необратимыми. В статье на Quanta Magazine представлена интересная идея: энтропия — это не просто мера беспорядка, а показатель того, насколько мало мы знаем о системе. Рассмотрим, почему это так и как энтропия связана с познанием...
Энтропия простыми словами. Часть 1
Здравствуйте, дорогие друзья!
Как и обещал, сегодня я расскажу Вам что такое Энтропия максимально простыми словами. Но когда начал писать, понял что коротко не получится и разделил тему на 2 части :)
Начать, наверное, следует с определения. И боюсь, что уже на этом этапе начинаются сложности, поскольку определений у Энтропии множество :-D
Я подберу наиболее понятные определения и тезисы, которые нам понадобятся для нашего понимания, не углубляясь сильно в термодинамику и квантовую механику. На...