Энтропия это отсутствие порядка в системе, степень рассеивания энергии. Чем больше энтропия, тем больше бесполезность выделяемой энергии. Несмотря на то, что энтропию воспринимают как научное понятие, её можно использовать в повседневной жизни. Энтропия в быту. Когда вы регулярно убираете свою квартиру и поддерживаете порядок, вы снижаете энтропию в своем жилище. Например, размещение книг по жанрам на полках — порядок и низкая энтропия. Если же книги разбросаны по всей комнате без определенной системы, это пример высокой энтропии...

Автор рассматривает проблему гипотезы "независимости" при анализе данных, особенно в задачах с размерностью 16 и выше, когда эта гипотеза становится ненадежной, и для ее обхода предлагается использовать энтропийно-корреляционный метод. Он позволяет вычислять энтропию по Шеннону для длинных чисел с зависимыми разрядами, обеспечивая более точные результаты. Александр Иванов Научный консультант АО "Пензенский научно-исследовательский электротехнический институт", д.т.н., профессор Одной из неприятностей для всех тех, кто использует реальные данные, является гипотеза "независимости"...