Информатика 2 лекция. Загадано число от 0 до 16. вопросы число 8 нет 1 бит информации
 Скачать 5.53 Kb.
|
|
Вероятностный подход - связан с оценкой информациооной емкости сообщения Алфавитный подход — рассматривает не само событие а информацию о нем Вероятностный подход основан на том, что информацию, содержащуюся в сообщении, можно нестрого трактовать в смысле её новизны или, иначе, уменьшению неопределенности наших знаний об объекте (формулы в тетради загнутый листок) Хартли рассматривал информацию как выбор одного сообщения из конечного наперед заданного множества из N равновероятных событий. Загадано число от 0 до 16. вопросы- число >8 ? нет — 1 бит информации число >4 ? нет — 1 бит информации число >2 ? да — 1 бит информации Число = 3 ? нет — 1 бит информации I = log2 N 2^i = N Если вероятности равны то p_i = 1/ N В качестве единицы измерения количества информации при вероятностном подходе условись принять 1 бит — количество информации уменьшающее неопределенность наших знаний в 2 раза. В школьной библиотеке 16 стеллажей с книгами на каждом стеллаже 8 полок- библиотекарь сообщил пете что интересующая его книга находится на 5 стеллаже на 3 сверху полке. Сколько информации передал библиотекарь пете? 7 бит В мешке находится 20 шаров, 15 белых и 5 красных. Какое количество информации будет если вытащить белый шар? Красный шар? Сравните ответы. 1 бит 2 бита В озере обитает 12500 окуней 25000 пескарей а крассей и щук по 6250. Сколько информации мы получим когда поймаем какую либо рыбу? N = 50000 окуни 0.25 пескари 0.5 караси 0.125 щуки 0.125 I= - ( ¼ log2 ¼ + ½ log2 ½ + 2 * 1/8 log2 1/8 ) = - ( ¼ * (-2) + ½ * (-1) + 2 * 1/8 * (-3)) = 1,75 бит. ЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЯЗЬ ПОЙМАН. Алфавитный подход Множество символов используемых для записи сообщения называется алфавитом, полное количество символов в алфавите называется мощностью. Используется формула Хартли I=log_2*N если сообщение состоит из K символов то общее количество информации I_общ= K * I_сим при алфавитном подходе в качестве единицы измерения информации принят 1 бит — минимальная порция информации. 1 байт = 8 бит 1 маш.слово = 2 байта = 8 бит 1 килобайт = 1024 байт = 2^13 бит 1 мегабайт = 1024 килобайт = 2^20 байт = 2^23 бит 1 гигабайт = 1024 мегабайт = 2^20 килобайт = 2^30 байт = 2^33 бит Найти объем информации содержащейся в тексте из 3000 символов написанном на русском и английском алфавите. |