《信息論與編碼》答案-第四章(word文檔良心出品)

1、信息論與編碼第四章信息率失真函數(shù) 習(xí)題答案4.1解：依題意可知：失真矩陣：q，轉(zhuǎn)移概率卩(口|目)=毎名110j二1-總平均失真：2 2D=SS P佝)p(bj|ai)d(a,bj)y y= 1/2x(1 s)x 0+ 1/2x sx1 +1/2X sx1 +1/2x (1 s) x 0 = s 4.2解:依題意可知：失真矩陣：d =0，2 0Dmin =送 P(Xi)mind(x ,yj) =1/2 咒0+1/2咒 0 =0ijDmax = min Dmin S p(Xi)d(Xi, yj) =1/20+1/21 =1/2(1/2咒 2+1/2% 0 =1 舍去)j i當(dāng) Dmin =0，R

2、(Dmin)=R(0)=H(X)=log2=1bit1 0l因?yàn)闆]有失真，此時(shí)的轉(zhuǎn)移概率為P 【0 1J當(dāng) Dmax=1/2，R(Dmax) =0因?yàn)槿〉氖堑诙械腄max值，所以輸出符號(hào)概率：p(bj=0, p(b2)=1,ajTb2,a2Tb?,因此編碼器的轉(zhuǎn)移概率為 P110 14.3解:DmaxDmin11113p( Xi)d(Xi,yj) =-x1 +-X1 +-X1 +-x0=-444441111=2 p(Xi)mind(Xi,yj) =-x0 + -x0+-x0+-x0 = 0ij4444=0，R(Dmin)=R(0) =H(X) =log4=2bit00= min Dj = m

3、in 送 jj i當(dāng) Dmin因?yàn)闆]有失真，此時(shí)的轉(zhuǎn)移概率為100L0001001所以取輸出符號(hào)概當(dāng) Dmax =3/4，R(Dmax) =O 因?yàn)槿魏我涣械?D max值均為3/4，率：p(b1) =1, p(b2)=0, p(b3)=0, p(b4)=0，即 a1T bi,a2T b1,a3T b1,a ? bi 因此編碼器的轉(zhuǎn)移概率為 P =卩11L10000000000004.4解:依題意可知：失真矩陣:0 11/41d = I，1 0 1/4”Dminp(Xi)mi nd(Xi,yj) =1/2x 0+ 1/2x0 =0ijDmax = min Dmin 送 p(xjd(Xi, yj

4、) = min(1/2x 1/4+1/2 1/4) =1/4(其它 2個(gè)均為 1/2) j i當(dāng) Dmin =0，R(Dmin)=R(0)=H(X)=log2=1bit1 0 of因?yàn)闆]有失真，此時(shí)的轉(zhuǎn)移概率為P =1o 1 0當(dāng) Dmax=1/4，R(Dmax) =0:p(bi) =0, P(b2)= 0, p(b3)= 3，111因?yàn)槿〉氖堑谌械腄max值為1/4,所以取輸出符號(hào)概率0 0即印T b3,a2 T b3因此編碼器的轉(zhuǎn)移概率為P =也 04.5解:依題意可知：失真矩陣：d=；補(bǔ)，轉(zhuǎn)移概率為：p=； 1打n mD 2 p(Xi) p(yj |xi)d( ,yjpx 1x 0 +

5、 px0x1 +(1 _ p)x qx 1 + (1 p)x (1 _q)x 0 i =1 j =1= q%(1- p) Dmin =藝 p(Xi) mijind(Xi,yj) = p咒0 + (1 p)X0=0i因?yàn)镽(D)是D的遞減函數(shù)，所以max( R(D) = R(Dmin) = H ( p) - H (Dmin) = - plog p - (I - p )log(1 - p)當(dāng)q =0時(shí)可達(dá)到max(R(D)，此時(shí)D = 0 Dmax = mi nDj-miji nS p(Xi)d(Xi，y)=px0 + p 廠=p(另一個(gè) 1 p更大，舍去)因?yàn)镽(D)是D的遞減函數(shù)，所以min(

6、 R(D) =R(Dmax) =H (p) H(Dmax) =0當(dāng)q =1時(shí)可達(dá)到min( R(D)，此時(shí)D =1 - p(圖略，見課堂展示) 4.6解：依題意可知：失真矩陣：d = 0 q,信源U 1=01 m 0 1LP (u)L1/2 1/2Dmin =5： p(Xi)mi nd(Xi,yj) =1/2 咒 0+1/2 咒 0=0,ijDmax =min Dj -mi n p (xJdX, y)=mi n(1/2x0 +1/2 咒叫1/2x 處 + 1/2咒0,1/2天1 + 1/2咒1) j i=min處嚴(yán),1=1(另二個(gè)處，舍去)0D 1因?yàn)槎雀判旁绰适д婧瘮?shù)：R(D) =1 n n H 僅 la丿其中n = 2,a =1 ,所以率失真函數(shù)為:R(D) =1 -D4.7解：失真矩陣為01L1超麻煩!1 101，按照P81頁(yè)方法求解(例4-5是二元輸入和輸入，本題是三元輸入和輸入,0明天再算好發(fā)送過來噢)4.8信息率失真函數(shù) R(D)物理意義： R(D)是信源給定的情況下，在可容忍的失真度內(nèi)再現(xiàn)信源消息所必須獲得的最小平均信 息量； R(D)是反映給定信源可壓縮的程度；R(D) R(D)求出后，就與選擇的試驗(yàn)信道無(wú)關(guān)，而只是信源特性的參量，不同的信源，其 是不同的。R(D)函數(shù)的性質(zhì)：性質(zhì)1 : R(D)在定義域