信息論與編碼(2012-2013下期)試題A答案.doc

3、 （5）居住在某地區(qū)的女孩中有25%是大學(xué)生，在女大學(xué)生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占總數(shù)的一半。 假如我們得知“身高1.6米以上的某女孩是大學(xué)生”的消息，問獲得多少信息量？ 解：設(shè)A表示“大學(xué)生”這一事件，B表示“身高1.60以上”這一事件，則 P(A)=0.25 p(B)=0.5 p(B|A)=0.75 （2分）故 p(A|B)=p(AB)/p(B)=p(A)p(B|A)/p(B)=0.75*0.25/0.5=0.375 （2分） I(A|B)=-log0.375=1.42bit （1分）四、（5）證明：平均互信息量同信息熵之間滿足I(X;Y)=H(X)+H(Y)-H(XY)證明： （2分）同理 （1分）則 因為 （1分）故即 （1分）五、（18）.黑白氣象傳真圖的消息只有黑色和白色兩種，求：1） 黑色出現(xiàn)的概率為0.3，白色出現(xiàn)的概率為0.7。給出這個只有兩個符號的信源X的數(shù)學(xué)模型。假設(shè)圖上黑白消息出現(xiàn)前后沒有關(guān)聯(lián)，求熵；2） 假設(shè)黑白消息出現(xiàn)前后有關(guān)聯(lián)，其依賴關(guān)系為 ，求其熵。3）分別求上述兩種信源的冗余度，比較它們的大小并說明其物理意義。解：1）信源模型為 （1分） （2分） 2）由題意可知該信源為一階馬爾科夫信源。 （2分）由 （4分）得極限狀態(tài)概率 （2分） （3分）3） （1分） （1分）。說明：當(dāng)信源的符號之間有依賴時，信源輸出消息的不確定性減弱。而信源冗余度正是反映信源符號依賴關(guān)系的強(qiáng)弱，冗余度越大，依賴關(guān)系就越大。（2分）六、（18）.信源空間為，試分別構(gòu)造二元香農(nóng)碼和二元霍夫曼碼，計算其平均碼長和編碼效率（要求有編碼過程）。七（6）.設(shè)有一離散信道，其信道傳遞矩陣為，并設(shè)，試分別按最大后驗概率準(zhǔn)則與最大似然譯碼準(zhǔn)則確定譯碼規(guī)則， 并計算相應(yīng)的平均錯誤概率。 1）（3分）最小似然譯碼準(zhǔn)則下，有， 2）（3分）最大后驗概率準(zhǔn)則下，有，八（10）.二元對稱信道如圖。1）若，求、和； 2）求該信道的信道容量。 解：1）共6分 2）， （3分）此時輸入概率分布為等概率分布。（1分）九、（18）設(shè)一線性分組碼具有一致監(jiān)督矩陣1）求此分組碼n=?,k=?共有多少碼字？2）求此分組碼的生成矩陣G。3）寫出此分組碼的所有碼字。4）若接收到碼字（101001），求出伴隨式并給出翻譯結(jié)果。解：1）n=6,k=3,共有8個碼字。（3分）2）設(shè)碼字由得 （3分） 令監(jiān)督位為，則有 （3分）生成矩陣為 （2分）3）所有碼字為000000，001101，010011，011110，100110，101011，110101，111000。（4分）