Добавить материал и получить бесплатное свидетельство о публикации в СМИ
Эл. №ФС77-60625 от 20.01.2015
Инфоурок / Информатика / Конспекты / Конспект урока "Различные подходы к измерению информации"

Конспект урока "Различные подходы к измерению информации"

  • Информатика

Поделитесь материалом с коллегами:

Различные подходы к измерению информации

  1. Содержательный подход – в нём:

а) важен субъект, получающий информацию;

б) понятность, новизна информации.


  1. Алфавитный подход – важно:

А) мощность алфавита.

Б) число символов в сообщении.


Пример. Я получили три – 13 символов, каждый несёт 1 байт информации => сумма всей информации равна 13 байт

N – мощность алфавита;

k – количество символов в сообщении;

i – количество информации, которое несёт 1 символ информации;

hello_html_35cd5917.gif

I – количество информации, которое несёт всё сообщение :

hello_html_263253ed.gif

В этих подходах мы считали, что все буквы могут встречаются с равной вероятностью.


  1. Вероятностный подход.


Формула Хартли для равновероятных исходов:

hello_html_42831c4b.gif

Формула Шеннона для разновероятных исходов:

hello_html_m24225c7.gif


Обе используются для нахождения энтропии (вероятности) всего опыта.

Для одного исхода: hello_html_1c17ca7e.gif

Выберите курс повышения квалификации со скидкой 50%:

Автор
Дата добавления 02.12.2015
Раздел Информатика
Подраздел Конспекты
Просмотров123
Номер материала ДВ-220717
Получить свидетельство о публикации
Похожие материалы

Включите уведомления прямо сейчас и мы сразу сообщим Вам о важных новостях. Не волнуйтесь, мы будем отправлять только самое главное.
Специальное предложение
Вверх