![]() Главная страница Случайная страница КАТЕГОРИИ: АвтомобилиАстрономияБиологияГеографияДом и садДругие языкиДругоеИнформатикаИсторияКультураЛитератураЛогикаМатематикаМедицинаМеталлургияМеханикаОбразованиеОхрана трудаПедагогикаПолитикаПравоПсихологияРелигияРиторикаСоциологияСпортСтроительствоТехнологияТуризмФизикаФилософияФинансыХимияЧерчениеЭкологияЭкономикаЭлектроника |
Метод кодирования равномерным кодом
Чтобы уменьшить избыточность, содержащуюся в ансамбле X источника информации, создается новый ансамбль Y символов, энтропия которой близка к максимальному значению. Затем с помощью элементов ансамбля Y составляются сообщения из ансамбля X. Рассмотрим модель передачи информации с использованием кодера и декодера источника сообщений. Источник генерирует сообщения из ансамбля Существуют различные методы кодирования. Одним из них является метод, когда все элементы
Однако число кодируемых сообщений может быть меньше, чем Пример 3.2. равномерного кодирования приведён в таблице 3.2. Все элементы ансамбля X расположены в первой колонке. Во второй колонке записаны вероятности реализаций соответствующих сообщений
где сообщения,
Для того чтобы закодировать двоичным кодом девять сообщений необходимо четыре двоичных разряда, (
Кодовое дерево, отображающее коды при равномерном кодировании, представлено на рисунке 1.2. Максимальная энтропия ансамбля X, в соответствии с теорией, равна
Энтропия ансамбля X равна Коэффициент избыточности ансамбля X равен
коэффициент сжатия ансамбля X равен
Рассмотрим ансамбль ![]()
Используя формулу полной вероятности, вычисляется вероятность
Вероятность реализации символа «0» равна соответственно
Количество информации, содержащееся в каждом символе ансамбля Y равно соответственно
Энтропия ансамбля Y равна
Соответственно коэффициент сжатия и коэффициент избыточности будут равны
Из cравнения коэффициентов сжатия и коэффициентов избыточности ансамблей X и Y видно, произошло увеличение коэффициента сжатия и уменьшение избыточности ансамбля Y. Относительные величины равны соответственно
|