сообщений, свойства каналов связи и способы кодирования данных. Информации теория формализует сообщения и процессы их формирования, передачи и приёма. Количество информации связывают с уменьшением неопределённости относительно состояния источника. При таком измерении не учитываются смысл сообщения, его полезность и ценность для конкретного получателя. Теория рассматривает как дискретные, так и непрерывные процессы передачи сообщений. Она опирается на теорию вероятностей, математическую статистику и алгебру. Объектом анализа может быть источник сообщений, который случайно выбирает состояния из конечного множества и формирует последовательности символов...