|
|
|
|
|
|
||
Установим взаимосвязь, которая должна существовать в реальных каналах для обеспечения сколь угодно высокой верности передачи, между средней длиной 
кодовой комбинации, избыточностью кода 
и количеством 
информации, теряемой из-за помех.
Чтобы кодер успевал преобразовать каждый символ сообщения в кодовую комбинацию со средней длиной 
элементарных кодовых сигналов скорость 
передачи сигналов кодером должна быть в 
раз выше скорости 
передачи символов источником. Поэтому для безошибочного кодирования должно выполняться условие
(15)
Кроме этого условия должно выполняться условие отсутствия потерь информации при кодировании:
(16)
Это условие определяет, что среднее количество информации
, которое заключено в одном символе сообщения, должны переносить символов кодовой комбинации. С Учетом (16) избыточность кода для реальных каналов определяется выражением
(17)
Условие теоремы Шеннона для реальных каналов с учетом (14) можно представить в виде неравенства
или иначе
(18)
Из (15) и неравенства (18) получим
(19)
Из неравенства (19) следует практически важный вывод: с ростом среднего количества информации 
теряемой в канале из-за помех, для обеспечения сколь угодно высокой верности передачи информации должна возрастать средняя длина кодовой комбинации.
Аналогичный вывод справедлив и относительно избыточности кода (17). Если 
растет, дробь в правой части (17) уменьшается, а значение 
увеличивается. Можно установить непосредственную связь между 
и 
Так как 
, то неравенство (18) можно представить в виде
. (20)
Разделив обе части неравенства (20) на 
, получим
(21)
С учетом (15), поменяв местами дроби в неравенстве, получим
Левая часть неравенства представляет коэффициент избыточности кода (17). Следовательно, для обеспечения сколь угодно высокой вероятности передачи информации в реальных каналах должно выполняться неравенство
(22)
Таким образом, для обеспечения сколь угодно высокой верности передачи информации в реальных каналах с ростом потерь информации 
из-за помех должны возрастать средняя длина кодовой комбинации и избыточность кода.