127 прочтений · 5 лет назад
В чем главная суть теории информации?
Современная электронная связь не была бы возможна без работ Клода Шеннона — дальнего родственника Томаса Эдисона. Инженер и математик Клод Шеннон признается отцом теории информации, математической модели, определяющей, каким образом информация может передаваться от отправителя к получателю. Однако изначально Шеннон интересовался главным образом тем, как избавиться от «шумов», которые в его время наполняли собой телефонную связь. Шеннон 31 год проработал в лабораториях Белла, и хотя имя его достойно...
28 прочтений · 4 года назад
Первичное кодирование
Одна и та же информация может быть представлена посредством различных дискретных сообщений и, следовательно, различных алфавитов. B связи с такой возможностью возникает проблема перехода от одного алфавита к другому, причем подобное преобразование не должно приводить к потере информации.        Будем считать, что источник представляет информацию в форме дискретного сообщения, используя для этого алфавит, который в дальнейшем условимся называть первичным. Далее это сообщение попадает в устройство, преобразующее и представляющее его в другом алфавите, — этот алфавит назовем вторичным...