Контрольная Теория информации, 4 задания, номер: 263805

2. Задан дискретный источник информации с распределением вероятности
(p,p/n,1-(1+1/n)p), n – номер варианта. Исследовать зависимость энтропии источника от р.
3. Дана матрица совместных вероятностей
P(X,Y)=(■(1/8+n/300&1/8-n/240&1/8@1/8&0&1/8+n/250@1/8+n/240&1/8-n/250&1/8-n/300))

Определить энтропии Н(Х), H(Y), H(X/Y), H(Y/X), Н(Х/у1), Н (Y/х2), H(X,Y).
4. Задан дискретный постоянный источник с распределением вероятностей P(a)=n/60, P(b)=n/60, P(c)=1-n/30, где n – номер варианта. 1) Построить зависимости скорости равномерного кода от длины кодируемых блоков при нулевой вероятности ошибки. Сопоставить скорости кодов с энтропией источника. 2) Исследовать зависимость скорости равномерного кода от длины кодируемых сообщений при допустимой вероятности ошибки, равной 0.1.
5. Рассматривается постоянный источник X с вероятностями букв (1/(n+3),1/(n+4),1/(n+5),1/(n+6),1-(1/(n+3)+1/(n+4)+1/(n+5)+2/(n+6)) ), где n – номер варианта. Построить коды Хаффмана, Шеннона и Гилберта-Мура для отдельных букв алфавита X, сравнить скорости кодов, а также энтропию источника.

Список литературы
Кудряшов Б. Д. Теория информации: Учебник для вузов. – СПб.: Питер, 2009. – 320 с.
Колесник В. Д., Полтырев Г. Ш. Курс теории информации. – М.: Наука. Главная редакция физико-математической литературы. 1982. – 416 с.
Магомедов М.С. Учебное пособие по дисциплине «Теория информации» для направления «Информационная безопасность», профиля подготовки «Безопасность автоматизированных ». – Махачкала: издательство «Формат», 2011. – 88 с.