Информационная модель канала
ЛЕКЦИЯ № 4
По дисциплине | Теория информации |
Тема № 3 | Информационные модели сигналов систем |
полное наименование темы | |
Занятие № 7 | Передача информации . |
полное наименование занятия |
Цель занятия: дать систематизированные основы научных знаний по информационной модели канала связи, оценке пропускной способности каналов связи различной структуры, в том числе в условиях помех
Изучаемые вопросы:
1. Информационная модель канала
2. Пропускная способность дискретного канала без помех
3. Пропускная способность дискретного канала с помехами
4. Пропускная способность непрерывного канала с помехами
В этом разделе мы переходим к рассмотрению методов кодирования информации.
Вернемся к модели обобщенного канала передачи данных, рассмотренной в подразделе 1.4. Чтобы сосредоточиться на проблемах кодирования, упростим ее и представим в виде рис.4.1.
Рис. 1.1
В этой модели мы будем рассматривать передачу по некоторому абстрактному (виртуальному) каналу передачи кодовых последовательностей.
Источник И передает получателю П дискретные сообщения в алфавите Z (напомним, что в частном случае они могут нести информацию о непрерывном сообщении, предварительно приведенном источником к дискретному виду).
Скорость выработки символов источником Vz = 1/tz, где tz - среднее время, приходящееся на один символ Zi. Hz - энтропия набора символов Zi.
Кодер КДпреобразует алфавит Z, объема n, в алфавит X, объема m, удобный для передачи по каналу (чаще всего X - двоичный алфавит, включающий символы "1" и "0"). Кодер нередко выполняет кодирование в несколько этапов, реализуя в различных сочетаниях сжатие данных, защиту от ошибок передачи и шифрование. В любом случае скорость выработки разрядов кода Vx = 1/tx, где tx- среднее время передачи одного разряда.
В канале передачи КПмогут возникать ошибки с вероятностью ро. (На рисунке показан условный источник помех ИП, который порождает эти ошибки). В связи с этим разряды кода Yj на выходе канала могут отличаться от разрядов Xj на входе.
Таким образом, возникает неопределенность Hx/y - принятому Yj неоднозначно отвечает Xj, а количество переданной с каждым разрядом информации Ixy = Hx - Hx/y. Интересно, что канал можно рассматривать и в другой "проекции": энтропия разрядов на его выходе Hy, а неопределенность по отношению к принятым разрядам Hy/x, при этом количество переданной информации Ixy = Hy - Hy/x.
Наконец, декодер ДК преобразует принятые разряды кода в символы для получателя (из-за ошибок алфавит Z* может не совпадать с Z.
Очевидно, что для эффективного использования канала скорость источника Vz необходимо согласовать с пропускной способностью канала С.
Дальше мы рассмотрим, как определить эту пропускную способность для случаев канала с ошибками и без ошибок, при передаче дискретных и непрерывных сообщений. Результаты, о которых пойдет речь, получены Клодом Шенноном и относятся к классике теории кодирования.