Статистическое кодирование.

Задание:

Закодировать Ф_И_О методом Шеннона-Фано.

Решение:

Для кодирования методом Шеннона-Фано необходимо записать в столбец символы нашего алфавита в порядке убывания вероятностей.

Кодирование осуществляется пошагово:

1. Делится весь алфавит на две равные части с вероятностями по 0, 5 и в каждой половине ставится символ 1 – в верхней части, 0 – в нижней части.

2. В каждой из полученных частей вновь осуществляем деление на половины с одинаковыми суммарными вероятностями.

3. И т.д.

Количество символов в сообщении

Яшкова_Анастасия_Владмировна составляет 28.

Вероятность появления символа найдем как отношение повторений символа в сообщении к общему количеству символов в сообщении.

N – общее количество символов в сообщении.

В Таблице №2 представлено кодирование методом Шеннона-Фано.

Таблица №2 – кодирование методом Шеннона-Фано.

№	Символ			Кодовые комбинации методом Шеннона-Фано
	А		0.214
	И		0.107
	В		0.071
	Н		0.071
	О		0.071
	С		0.071
	Я		0.071
	«_»		0.071
	Д		0.035
	К		0.035
	Л		0.035
	М		0.035
	Р		0.035
	Т		0.035
	Ш		0.035

Таблица №3-подсчет вероятностей появления «1» и «0» в каждом символе.

№	Символ		Код	Вероятность появление «1» в каждом символе,	Вероятность появление «0» в каждом символе,
	А	0, 1290		0, 3870
	В	0, 0968		0, 1936	0, 0968
	Е, Ё	0, 0968		0, 1936	0, 0968
	И	0, 0968		0, 1936	0, 1936
	Н	0, 0968		0, 0968	0, 2904
	Г	0, 0645		0, 1935	0, 0645
	Л	0, 0645		0, 1290	0, 1290
	О	0, 0645		0, 1290	0, 1290
	«»	0, 0645		0, 0645	0, 1935
	Й	0, 0323		0, 0646	0, 0646
	Д	0, 0323		0, 0646	0, 0969
	К	0, 0323		0, 0323	0, 1292
	Р	0, 0323		0, 0646	0, 0969
	С	0, 0323		0, 0323	0, 1292
	Ч	0, 0323		0, 0323	0, 1292
	Ш	0, 0323			0, 1615

Количество «1» и «0» в кодовых комбинациях:

Средняя вероятность появления «1» и «0»:

Среднее количество информации Н(А), приходящееся на один символ выдаваемых дискретным источником:

Найдем избыточность источника: