Практическая работа "Измерение информации"

Инструкционно-технологическая карта

Практическая работа

Тема: «Измерение информации».

Цели: научить применять знания по теме «Измерение информации» при решении задач; развивать умение самостоятельно разбирать готовое решение задач, правильно выбирать нужный подход к измерению информации и формулу, вычислительные навыки; воспитывать умение работать самостоятельно.

Краткие теоретические сведения:

Если подбросить монету и проследить, какой стороной она упадет, то мы получим определенную информацию. Обе стороны монеты “равноправны”, поэтому одинаково вероятно, что выпадет как одна, так и другая сторона. В таких случаях говорят, что событие несет информацию в 1 бит.

Если положить в мешок два шарика разного цвета, то, вытащив вслепую один шар, мы также получим информацию о цвете шара в 1 бит.

Задача 1.

Шар находится в одной из четырех коробок. Сколько бит информации несет сообщение о том, в какой именно коробке находится шар.

Имеется 4 равновероятных события (N=4).

По формуле Хартли имеем: 4=2i. Так как 22=2i, то i=2. Значит, это сообщение содержит 2 бита информации.

Задача 2.

Чему равен информационный объем одного символа русского языка?

В русском языке 32 буквы (буква ё обычно не используется), то есть количество событий будет равно 32. Найдем информационный объем одного символа. I=log2 N=log2 32=5 битов (25=32).

Примечание. Если невозможно найти целую степень числа, то округление производится в большую сторону.

Задача 4.

Световое табло состоит из лампочек, каждая из которых может находиться в одном из двух состояний (“включено” или “выключено”). Какое наименьшее количество лампочек должно находиться на табло, чтобы с его помощью можно было передать 50 различных сигналов?

С помощью N лампочек, каждая из которых может находиться в одном из двух состояний, можно закодировать 2N сигналов.

25< 50 <26, поэтому пяти лампочек недостаточно, а шести хватит. Значит, нужно 6 лампочек.

Задача 5.

Метеостанция ведет наблюдения за влажностью воздуха. Результатом одного измерения является целое число от 0 до 100, которое записывается при помощи минимально возможного количества битов. Станция сделала 80 измерений. Определите информационный объем результатов наблюдений.

В данном случае алфавитом является множество чисел от 0 до 100, всего 101 значение. Поэтому информационный объем результатов одного измерения I=log2101. Но это значение не будет целочисленным, поэтому заменим число 101 ближайшей к нему степенью двойки, большей, чем 101. это число 128=27.  Принимаем для одного измерения I=log2128=7 битов. Для 80 измерений общий информационный объем равен 80*7 = 560 битов = 70 байтов.

Задача 6.

Определите количество информации, которое будет получено после подбрасывания несимметричной 4-гранной пирамидки, если делают один бросок.

Пусть при бросании 4-гранной несимметричной пирамидки вероятности отдельных событий будут равны: p1=1/2, p2=1/4, p3=1/8, p4=1/8.

Тогда количество информации, которое будет получено после реализации одного из них, можно вычислить по формуле Шеннона:

I = -[1/2 * log2(1/2) + 1/4 * log2(1/4) + 1/8 * log(1/8) + 1/8 * log(1/8)] = 14/8 битов = 1,75 бита.

Практическая часть.

Задача 3.

Чему равен информационный объем одного символа английского языка?

Задача 7.

В книге 100 страниц; на каждой странице - 20 строк, в каждой строке - 50 символов. Определите объем информации, содержащийся в книге.

Задача 8.

Оцените информационный объем следующего предложения:

Тяжело в ученье – легко в бою!

Решить задачи на содержательный подход

 3. Из папки NEW одновременно было удалено 10 файлов и сообщение о названиях удалённых файлов содержит 80 бит информации. Сколько файлов было всего в папке?

5. В доме 4 подъезда, в каждом из которых по 16 этажей. Какое количество информации содержится в сообщении о том, что Иван живёт на пятом этаже в третьем подъезде?

Самостоятельная работа.

Ответьте на вопросы:

1. Перечислите основные понятия содержательного подхода к измерению информации.

2. Для чего определяется информационный вес 1 символа при алфавитном подходе?

3. Моно ли найти количество информации в сообщении не зная мощности алфавита?

вариант  1 №1  Переведите 1.      500 байт =       бит 5 Кб=         Мб 87 Гб=      байт 7  Мб =   бит 46 байт =  Мб 700000 бит =      Кб №2  Какой объем информации несет в себе сообщение, занимающее три страницы по 25 строк, в каждой строке по 80 символов 32-символьного алфавита? №3 Сообщение, записанное при помощи 32-х символьного алфавита,  содержит 80 символов, а сообщение, записанное с помощью 64-х символьного алфавита  – 70 символов. Сравните объемы информации, содержащейся в этих сообщениях. №4.  Письмо состояло из 30 строк. В каждой строке вместе с пробелами по 48 символов. Письмо содержало 900 байт информации. Какова мощность алфавита (количество символов), которым было написано письмо? №5. В корзине 64  шара. Сколько информации несёт сообщение о том, что достали чёрный шар? №6 Алфавит состоит из 64 букв, какое количество информации несет в себе одна буква такого алфавита?

вариант  2 №1  Переведите 1.      46 Кб=   Гб 23652 Мб =   Кб 555 бит =  байты 7 Гб=   байт 36 Мб =   байт 456238 байт =     Мб №2 Для записи текста использовался 256-символьный алфавит. Каждая страница содержит 30 строк по 70 символов в строке. Какой объем информации содержат 5 страниц текста? №3 Для записи сообщения использовался 64-х символьный алфавит. Каждая страница содержит 30 строк. Все сообщение содержит 8775 байтов информации и занимает 6 страниц. Сколько символов в строке? №4 Телеграфистка в течение пяти минут передавала информационное сообщение со скоростью 20 байт в секунду. Сколько символов содержало данное сообщение, если она использовала алфавит из 32 символов? №5 В коробке лежат 64 цветных карандаша. Сообщение о том, что достали белый карандаш, несёт 4 бита информации. Сколько белых карандашей было в корзине? №6 Алфавит состоит из 128 букв, какое количество информации несет в себе одна буква такого алфавита?