![]() Главная страница Случайная страница КАТЕГОРИИ: АвтомобилиАстрономияБиологияГеографияДом и садДругие языкиДругоеИнформатикаИсторияКультураЛитератураЛогикаМатематикаМедицинаМеталлургияМеханикаОбразованиеОхрана трудаПедагогикаПолитикаПравоПсихологияРелигияРиторикаСоциологияСпортСтроительствоТехнологияТуризмФизикаФилософияФинансыХимияЧерчениеЭкологияЭкономикаЭлектроника |
Формула Шеннона. где I - количество информации
где I - количество информации N – количество возможных событий pi – вероятности отдельных событий Количество информации достигает max значения, если события равновероятны, поэтому количество информации можно расcчитать по формуле I=log2N Задача: В корзине лежит 16 шаров разного цвета. Сколько информации несет сообщение, что достали белый шар? т.к. N = 16 шаров, то I = log2 N = log2 16 = 4 бит. Задача: Какое количество информации будет содержать зрительное сообщение о цвете вынутого шарика, если в непрозрачном мешочке находится 50 белых, 25красных, 25 синих шариков 1) всего шаров 50+25+25=100 2) вероятности шаров 50/100=1/2, 25/100=1/4, 25/100=1/4 3)I= -(1/2 log21/2 + 1/4 log21/4 + 1/4 log21/4) = -(1/2(0-1) +1/4(0-2) +1/4(0-2)) = 1, 5 бит
Контрольные вопросы и задания Задание 1. Каким свойством не обладает информация в следующих случаях 1-6:
Задание 2. В алфавите формального (искусственного) языка всего два знака-буквы («+» и «-»). Каждое слово этого языка состоит из двух букв. Максимальное число слов этого языка:
Решение задачи сводится к поиску количества (N) комбинаций строк длиной (i) 2 символа, составленных из 2 знаков. Следовательно, используя формулу 2i = N, получаем 22 = 4. Ответ: 1.
|