Формулы передачи информации — это формулы для определения основных параметров процесса передачи информационных данных.
Передача информации
Теория информации изучает особенности и главные правила трансляции, сохранения и переработки информации, выраженные в количественных параметрах. Все системы связи предназначены для передачи в течение определённого временного интервала максимального количества достоверной информации от её источника к приёмнику. Достоверность информации при разных методах её трансляции и приёма является основной изучаемой проблемой теории помехоустойчивости. Она даёт возможность определить достоверность трансляции данных при исходных условиях и выявить какие способы передачи информации обеспечат максимальную достоверность.
В теории информации главным считается определение средней скорости трансляции данных и путей достижения максимальной скорости передачи за счёт использования оптимальных методов кодировки. Теория информации даёт возможность оценки эффективности разных каналов связи и определить согласованные условия с точки зрения информации передатчика с каналом и канала с приёмником. Для проработки этих проблем в общем виде требуется сначала взять за основу какую-то обобщённую меру количества информации, которая не зависит от реальной природы подлежащих передаче сообщений. После приёма сообщения о чём-то, изменяются познания об этом событии. Если передаётся сообщение об общеизвестном событии, то это означает практическое отсутствие в нём какой-либо полезной информации. Но если речь идёт о событии, о котором практически нет данных, то такое сообщение насыщено информацией. То есть, объём информации в сообщении о каком-либо событии имеет зависимость от вероятностной его оценки. Вероятностный подход заложен в базовых принципах измерения объёма информации.
Формулы передачи информации
Для фактической оценки информационного объёма, возможно применять какую-нибудь убывающую монотонно функцию вероятности F[P(a)], где Р(а) является вероятностью сообщения а. Самой простой из таких функций будет F = 1 / Р(а), характеризующая уровень неопределённости сообщения. Но более удобно определять количественную меру информации в логарифмических единицах, а именно по следующей формуле:
J(a) = Log k1 /P(a) = –Log K P(a)
Поскольку 0
P(a1,a2,…,an) = P(a1)P(a2)…P(an),
То количество информационных данных этих сообщений будет равно их сумме. Основанием логарифма, которым является k, может быть любое число, но как правило это два. И в этом случае информационный объём, выраженный в двоичных единицах, будет:
J(a) = –Log 2 P(a) двоичных единиц.
Двоичная единица обозначается термином бит. Этот термин происходит от слов двоичная цифра (binary digit). В каналах связи, базирующихся на двоичных единицах, для трансляции сообщений применяется всего пара символов, которые обозначаются как единица и нуль. В подобных системах при не зависящих друг от друга и имеющих равную вероятность символах, когда P(0) = P(1) = 1 / 2, то любой из них обладает одной двоичной единицей информации.
