信息論與編碼期末考試測試

1、信息論與編碼期末考試測試 信息論與編碼期末考試測試 選擇題（10 分，每小題 2 分） 1、設(shè)有一個離散無記憶信源 x，其符號數(shù)為 n,則有（ ）成立。 a、 ; b、 ; c、 ; d、以上結(jié)論都不對。 2、設(shè)有一個離散無記憶信道，其信道矩陣為 ，則信道容量是（ ）。 ; b、 ； c、 ； d、 。 3、若一離散無記憶信源的符號熵為 ,對信源符號進(jìn)行 m 元變長編碼，一定存在一種無失真編碼方法，其碼字平均長度 滿足（ ）。 a、 ； b、 ； c、 ； d、 。 4、設(shè) x 是一個離散無記憶信源， 、 、 分別是其 2、3、4 次擴(kuò)展信源。由變長無失真信源編碼定理知，對上述 4 個信源進(jìn)行

2、二元香農(nóng)變長編碼，則對（ ）進(jìn)行編碼時，編碼效率最高。 a、 ； b、 ； c、 ； d、 。 5、關(guān)于信息率失真函數(shù) ，下列說法正確的是（ ）。 a、 函數(shù)表示信源 x 和允許的失真度 d 給定的情況下，需要由信源傳送給信宿的最小信息率； 2( ) log h x n £2( ) log h x n ³2( ) 2log h x n £úúúûùêêêëé=2 / 1 6 / 1 3 / 13 / 1 2 / 1 6 / 16 / 1 3 / 1 2 / 1p21

3、 1 1log 3 ( , , )2 3 6h -21 1 1log 3 ( , , )3 6 2h -21 1 1log 5 ( , , )2 3 6h -21 1 1log 6 ( , , )3 6 2h -( ) h xk2 2( ) ( )1log logh x h xkm m+ > ³2 2( ) ( )1log logh x h xkm m- < £2( )1logh xkm+ <2( )logh xkm£2x3x4xx2x3x4x( ) r d( ) r d b、 函數(shù)表示信源和允許的失真度 d 給定的情況下，需要由信源傳送給信宿的

4、最大信息率； c、 函數(shù)的取值范圍是（-，0）； d、以上說法都不對。 填空題（20 分，每空 2 分） 1、 線性循環(huán)碼中，生成多項式 的最高項次數(shù)為_ ，校驗多項式 的最高項次數(shù)為_ ， 和 滿足_ 的關(guān)系，若其最小碼距 ，則能檢錯的位數(shù)為 ，能糾錯的位數(shù)為 。 2、若有一離散無記憶平穩(wěn)信道，其容量為 ，輸入序列長度為 l ,只要待信息率 ，總可以找到一種編碼，當(dāng) 足夠長時，譯碼差錯概率 ， 為任意大于零的正數(shù)。反之，當(dāng) 時，任何編碼的 必大于零，且當(dāng) 時， 。 3、由數(shù)據(jù)處理定理，若隨機(jī)變量 構(gòu)成一個馬爾可夫鏈，則下列平均互信息量滿足 。(填,=,或) 4、設(shè)一離散平穩(wěn)無記憶信源的輸出隨

5、機(jī)變量序列為 ,若該信源的信息率失真函數(shù)是 ,并選定有限失真函數(shù)。對于任意允許平均失真度 ,和任意小的 ，當(dāng)信息率 ，只要信源序列長度 足夠長，一定存在一種編碼方式，使譯碼后的平均失真度 。 三、（15 分）設(shè)信源 ，通過某信道，接受符號集為，信道轉(zhuǎn)移矩陣（ ）為 ，求： （要求：計算結(jié)果保留三位小數(shù)，單位是：比特/符號。）試求： ( ) r d( ) r d( , ) n k ( ) g x( ) h x ( ) g x ( ) h xdcr c lep e < e r cepl ® ¥ 1ep ®, , x y z( ; ) i x y ( ; ) i

6、x z1 2( )lx x x x =( ) r d0 d ³ 0 e > r ( ) r dl dd e +1 21 3( )4 4x xxp xì üé ù ï ï= íýê úë ûï ïî þ 1 2y y y = ( / )ij j ia p y x =1 00 1é ùê úë û ；（4 分） 求聯(lián)合熵 、信道疑義度 和噪聲熵 ；（4 分） 接收到

7、 后所獲得的平均互信息量是多少；（2 分） 若改變信源的概率分布，則收到 后能獲得的最大信息量是多少，并且求出此時信源的概率分布。（5 分） 四、（13 分）二階馬爾可夫信源如圖所示，信源符號集 。 求（1）平穩(wěn)后狀態(tài)的概率分布 p ；（7 分）（2）信源熵 h 。（6 分） 要求熵的單位?。罕忍?符號，并保留小數(shù)點后兩位數(shù)字。 ( ), ( ) h x h y( ) h xy ( / ) h x y ( / ) h y xyy0,1 x =01 10 11 00 0.75 0.5 0.25 0.75 0.5 0.5 0.5 0.25 五 、（ 10 分 ） 設(shè) 有 一 個 離 散 無 記 憶

8、 信 道 ， 其 信 道 矩 陣，求信道容量 c c 。 （要求保留四位小數(shù)，單位取為：比特/符號） 六、（10 分）在 rsa 公鑰密碼系統(tǒng)中，如果截取了發(fā)送給其他用戶的úûùêëé=8 / 1 8 / 1 2 / 1 4 / 18 / 1 8 / 1 4 / 1 2 / 1p 密文 ,如果此用戶的公鑰為 ，請解密出明文，寫出具體過程。 七、信源編碼（12 分） 有無記憶信源 和 。 對 編二進(jìn)制最優(yōu)哈夫曼碼，計算平均碼長和編碼效率；（3 分） 對 編最優(yōu)二進(jìn)制哈夫曼碼的平均碼長和編碼效率；（6 分） 比較（1）、（2）中平均碼長和

9、編碼效率的變化，說明對擴(kuò)展信源進(jìn)行編碼對平均碼長和編碼效率的影響。（3 分） 10 c = 7, 55 e n = =1 23 1( )4 4x xxp xì üæ ö ï ï= íý ç ÷è øï ïî þ2 1 1 1 2 2 1 2 229 3 3 1( )16 16 16 16x x x x x x x xxp xì üæ öï ï= íý 

10、31; ÷è ø ï ïî þ1 2 3 49 3 3 116 16 16 16a a a a ì üï ï= íýï ïî þx2x 信道編碼（10 分） 現(xiàn)有二元（7,4）線性循環(huán)碼，生成多項式為 1、寫出相應(yīng)的校驗多項式 ；（2 分） 2、求最小碼字距離 、最大檢錯能力 和最大糾錯能力 ；（3 分） 3、現(xiàn)有消息序列為 及編碼電路如下，試填寫下列表格。（5 分） 時鐘節(jié)拍 輸入消息 移位寄存器狀態(tài) 輸出碼字 說明 3 2( ) 1 g x x x = + +( ) h xdmaxlmaxt3 2 1 0( ) (1001) m