Практическая работа по дисциплине "Основы теории информации" по теме "Информационные характеристики источников сообщений и каналов связи""

 

 

 

Определение информационных характеристик источников сообщений

--------------------------

Указания к выполнению практической работы по дисциплине «Основы теории информации»

Практическая работа

Информационные характеристики источников сообщений и каналов связи

Цель работы

Исследование информационных характеристик источника дискретных  сообщений и канала связи без шума.

 Содержание практической работы

Практическая работа содержит четыре задачи. Исходными данными является закон распределения дискретной случайной величины X, который необходимо сформировать на основе таблицы 1 в соответствии с Вашим индивидуальным  номером.

В практической работе необходимо вычислить:

1. Энтропию  источника дискретных сообщений.

2. Избыточность источника дис­кретных сообщений.

3. Скорость создания информации источником дискретных сообщений.

4. Скорость передачи информации и пропускную способность бинарного канала без шума.

 Исходные данные

Формирование исходных данных.  В таблице 1 выберите  строку с номером i, если Ваш номер от 1 до 9.

Если Ваш номер  от 10 до 19, то  выберите столбец с номером j. Здесь j − после­дняя цифра Вашего индивидуального номера.

Если Ваш номер  от 20 до 29, то  выберите строку с номером j. Здесь j − после­дняя цифра Вашего индивидуального номера.

Если Ваш номер  от 30 до 39, то  выберите столбец с номером j. Здесь j − после­дняя цифра Вашего индивидуального номера.

Далее, просуммируйте все числа и разделите каждое из "участвовавших" в суммировании чисел на результат сумми­рования. Полученные данные сведите в таблицу 2. 

Таблица 1. Таблица для формирования исходных данных.  

	0	1	2	3	4	5	6	7	8
0	16	10	4	31	43	36	62	13	31
1	8	45	22	17	23	45	95	82	57
2	6	19	54	26	35	29	13	12	9
3	16	11	39	76	70	51	31	10	12
4	13	8	14	31	95	82	57	21	21
5	15	25	37	29	69	97	74	11	22
6	16	10	16	17	47	73	83	30	6
7	11	39	76	11	31	43	36	62	13
8	15	25	37	15	25	37	15	25	37
9	16	10	37	29	69	16	10	12	9

Таблица 2. Пример закона распределения  случайной величины X.              

	0,011	0,005	…	…	…	…	…	…

После формирования  таблицы 2 выполните проверку следующего условия:

,                                                        (1)

Если условие  (1) не выполняется, то   найдите и исправьте ошибку.

Задачи практической   работы

1. Вычислить энтропию дискретной случайной  величины X.

Энтропия дискретной случайной  величины определяется по формуле

,

где  −  вероятность события .

2. В предположении, что случайная величина Х является математической моделью источника дискретных сообщений, вычислить информационную избыточность этого источника.

Информационная избыточность источника дис­кретных сообщений определяется по формуле

,

где  − максимальная  энтропия источника сообщений.  

3. Вычислите скорость создания информации источником дискретных сообщений при условии, что длительность передачи каждого символа (буквы)  источника одинакова и составляет  

Скорость создания информации источником дискретных  сообщений  определяется по формуле

,

где   − длительность передачи буквы источника.  

4. Определите скорость передачи информации и пропускную способность бинарного канала без шума, если для передачи сообщения источника используется равномерный двоичный код, а длительность передачи элементарной кодовой посылки

Пропускная способность бинарного канала без шума С и скорость передачи информации  при использо­вании равномерного двоичного кода определяется по формулам  

;                             ,

где  - энтропия источника,   − количество элементарных ко­довых посылок, необходимых для передачи одной буквы источника. Для определения  закодируйте буквы источника равномерным двоичным кодом.  

Порядок выполнения работы

1. Сформируйте исходные данные в соответствии с Вашим индивидуальным  номером.

2. Выполните расчеты показателей.

3. Оформите отчет и защитите практическую работу.

Содержание отчета

1. Цель работы.

2. Сформированные в соответствии с Вашим индивидуальным  номером  исходные данные.

3. Результаты решения задач  с необходимыми пояснениями.

4. Анализ полученных результатов.  

5. Выводы по работе.

Контрольные вопросы

1. Какие значения может принимать избыточность источника дис­кретных сообщений?

2. Влияют ли на скорость передачи информации статистические характеристики источника информации?

3. Зависит ли пропускная способность канала связи  от свойств источника информации?