信息論與編碼作業(yè)答案(新)超全

1、信息論與編碼作業(yè)答案(新)超全篇一：信息論與編碼姜丹第三版 信息論與編碼_題參考答案 第一章 單符號(hào)離散信源 信息論與編碼作業(yè)是74頁(yè)，1.1的（1）（5），1.3,1.4,1.6,1.13,1.14還有證明熵函數(shù)的連續(xù)性、擴(kuò)展性、可加性 1.1同時(shí)擲一對(duì)均勻的子，試求： (1)“2和6同時(shí)出現(xiàn)”這一事件的自信息量； (2)“兩個(gè)5同時(shí)出現(xiàn)”這一事件的自信息量； (3)兩個(gè)點(diǎn)數(shù)的各種組合的熵； (4)兩個(gè)點(diǎn)數(shù)之和的熵； (5)“兩個(gè)點(diǎn)數(shù)中至少有一個(gè)是1”的自信息量。 解： 11 樣本空間：N636 n12 I(a)logP14.17bitN36n1 (2)P2log36 (3)信源空間： 6l

2、og36H(x) 2436636836 logloglog36362363364 1036636 log3.71bit 365366n1136 (5) P3logH(x)A落入任一格的概率:P(ai)I(ai)logP(ai)H(a)log481 48 (2)log47 P(bi)logP(bi)5.55bit i47i4847 H(ABi)log(4811.14bit 1.3從大量統(tǒng)計(jì)資料知道,男性中紅綠色盲的發(fā)病率為7%,女性發(fā)病率為0.5%.如果你問(wèn)一位男士：“你是否是紅綠色盲？”他的回答可能是：“是”，也可能“不是”。問(wèn)這兩個(gè)回答中各含有多少信息量？平均每個(gè)回答中各含有多少信息量？如果

3、你問(wèn)一位女士，則她的答案中含有多少平均信息量？ 解： 對(duì)于男士: 回答“是”的信息量：I(my)logP(my)log7%0.105bit平均每個(gè)回答信息量：H(m)P(my)P(mn)-7%log93%logP(wy)logP(wn) log0.5%-99.5%0.0454bit 1.4某一無(wú)記憶信源的符號(hào)集為0，1，已知p0 23 。 （1） 求符號(hào)的平均信息量； （2） 由1000個(gè)符號(hào)構(gòu)成的序列，求某一特定序列（例如有m個(gè)“0”,（1000-m）個(gè)“1”） 的自信量的表達(dá)式； （3） 計(jì)算（2）中序列的熵。 解： 1122 （1）H(x)p0logp0loglog(1000(10001

4、000H(X)0.918p0logp01m 1000 im)2 logX： x p(ai)logp(ai) i0.19log0.190.18log0.180.3log0.3 2.7252.585 不滿(mǎn)足信源熵的極值性， 這是因?yàn)樾旁挫氐淖畲笾凳窃?的約束條件下求得的，但是本題中 ip i1.18不滿(mǎn)足信源熵最大值成立的約束條件，所以H(X)log10110 每幀圖像的熵是： H(X)10553.322106 bit/frame r(frame/s)30106107 bit/s 1.7設(shè)某彩電系統(tǒng)，除了滿(mǎn)足對(duì)于黑白電視系統(tǒng)的上述要求外，還必須有30個(gè)不同的色彩度。試證明傳輸這種彩電系統(tǒng)的信息率要

5、比黑白系統(tǒng)的信息率大2.5倍左右。 證: 增加30個(gè)不同色彩度,在滿(mǎn)足黑白電視系統(tǒng)要求下,每個(gè)色彩度需要10個(gè)亮度,所以每個(gè)像素需要用30300bit量化 log300bit/pels i H(x1)log300 2.477彩色電視系統(tǒng)每個(gè)像素信息量比黑白電視系統(tǒng)大2.5倍作用,所以傳輸相同的圖形,彩色電視系統(tǒng)信息率要比黑白電視系統(tǒng)高2.5倍左右. 1.8每幀電視圖像可以認(rèn)為是由3105個(gè)像素組成，所以像素均是獨(dú)立變化，且每像素又取128個(gè)不同的亮度電平，并設(shè)亮度電平是等概出現(xiàn)。問(wèn)每幀圖像含有多少信息量？若現(xiàn)在有一個(gè)廣播員，在約10000個(gè)漢字中選1000個(gè)字來(lái)口述這一電視圖像，試問(wèn)若要恰當(dāng)?shù)?/p>

6、描述此圖像，廣播員在口述中至少需要多少漢字？ 解: 每幀圖象所含信息量: H(X)1053log128106bit/symble1000 每個(gè)漢字所包含信息量:H(c)logp每個(gè)漢字所出現(xiàn)概率pnH(c)H(X)2.16.322log0.1105個(gè)漢字 1.9給定一個(gè)概率分布(p1,p2,.,pn)和一個(gè)整數(shù)m，0n。定義qm 1 m H(p1,p2,.,pn)qmlog(n0)為凸函數(shù)，如下： loge 又xf(x)xlogx)0)為凸函數(shù)。 x(H(p1,p2,.,pn) implogp i n i 由凸函數(shù)的性質(zhì)，變量函數(shù)的平均值小于變量的算術(shù)平均值的函數(shù)，可得： mpilogpi(n

7、mmf(p) i n nm)f( i1 m )(nmp n i nmp n i nm 即plogp i n i qmlogqmm) 當(dāng)且僅當(dāng)pmpm.H(p1,p2,.,pn) m pilogpiqmlog(n1 i1 iH(p1,p2,.,pm,qm)qmlogqm iH(p1,p2,.,pn)qmlog(n12pn時(shí)等式成立。 1.10找出兩種特殊分布: p1p2p3pn，p1p2p3pm,使H(p1,p2,p3,pn)=H(p1,p2,p3,pm)。解：n m H(p1,p2,.,pn)H(q1,q2,.,qm)1 i?1 篇二：信息論與編碼課程大作業(yè) 信息論與編碼課程大作業(yè) 1、 以下面方向?yàn)轭}，寫(xiě)一份：(題目可以自己定義,只要內(nèi)容在以 下范圍之內(nèi)) a) 信息理論方法的應(yīng)用 b) 信息率失真函數(shù)與有損數(shù)據(jù)壓縮技術(shù) c) 信源編碼及其發(fā)展動(dòng)態(tài) d) 論信源編碼與信道編碼 e) 論現(xiàn)代密碼體制 f) 論通信與香農(nóng)三大定理的關(guān)系 2、 論文格式要求 a) 按題目、名字學(xué)號(hào)、摘要、關(guān)鍵詞、正文、結(jié)