《信息與編碼理論》 試卷及答案 試卷（三）

《信息論與編碼》試卷第1頁（共3頁）專業(yè)班級：專業(yè)班級：姓名：學(xué)號：…………密………………封………………線…………專業(yè)班級：姓名：學(xué)號：…………密專業(yè)班級：姓名：學(xué)號：…………密………………封………………線…………考試方式本試卷考試分?jǐn)?shù)占學(xué)生總評成績比例總得分閉卷60%分?jǐn)?shù)40得分一、簡答題。試畫出通信系統(tǒng)的模型框圖，并分析信源編碼和信道編碼的作用。（本小題8分）試比較消息、信號這兩個概念的區(qū)別和聯(lián)系。（本小題8分）如何理解“信息在數(shù)量上等于通信前后‘不確定性’減少的量”這句話的含義。（本小題8分）什么是最大后驗概率譯碼準(zhǔn)則？什么是極大似然譯碼準(zhǔn)則？兩者在什么情況下等價？（本小題8分）簡述信道容量的定義。（本小題8分）分?jǐn)?shù)24得分二、證明題。1.線性分組碼中任意兩個碼字之和仍為一個碼字。（本小題8分）2.線性分組碼中任意碼字是生成矩陣行向量的線性組合。（本小題8分）3.對于對稱信道，當(dāng)輸入分布為等概分布時，輸出分布必能達(dá)到等概分布。（本小題8分）分?jǐn)?shù)36得分三、計算題。1.（本小題12分）通過一定的編碼方法得到如下碼集：{000,10,00,11};請回答下面問題：（1）此碼的碼長分布是否滿足Kraft-McMillan不等式？（2）此碼是否是即時碼？如果不是，請說明理由。（3）此碼是否是唯一可譯碼？如果不是，請說明理由。2.（本小題12分）設(shè)（n，k）線性分組碼的生成矩陣為，求：

（1）此（n，k）碼的n=？k=？，寫出此（n，k）碼的所有碼字。

（2）求其對應(yīng)的校驗矩陣H。

（3）此碼的最小碼距是多少？能糾幾位錯？

（4）現(xiàn)譯碼器接收到兩個碼序列、，分別求出采用伴隨式譯碼得到的譯碼結(jié)果。3.（本小題12分）設(shè)信源通過一離散無記憶信道信道，信宿接收到的符號記為，信道轉(zhuǎn)移概率如圖所示。試求：（1）該信道的轉(zhuǎn)移概率矩陣；（2）信源X中，消息和分別含有的自信息量；（3）信宿Y的概率分布；（4）收到消息后獲得的關(guān)于消息的互信息量；（5）信道疑義度；（6）平均互信息量I(X;Y)。《信息與編碼理論》試卷（三）參考答案與評分標(biāo)準(zhǔn)一、簡答題。信宿譯碼器信道編碼器信源試畫出通信系統(tǒng)的模型框圖，并分析信源編碼和信道編碼的作用。（本小題8分）信宿譯碼器信道編碼器信源噪聲源噪聲源（4分）信源編碼的作用是壓縮信源的冗余度，提高信息傳輸率，進而提高通信系統(tǒng)的有效性。（2分）信道編碼通過在信息碼元后添加一些監(jiān)督碼元，使之具有檢錯糾錯能力，從而提高通信系統(tǒng)的可靠性。（2分）2.試比較消息、信號這兩個概念的區(qū)別和聯(lián)系。（本小題8分）答：用文字、符號、數(shù)據(jù)、語言、音符、圖片、圖像等能夠被人們感覺器官所感知的形式，把客觀物質(zhì)運動和主觀思維活動的狀態(tài)表達(dá)出來，就稱為消息。（4分）信號是表示消息的物理量，包括電信號、光信號等。信號中攜帶著消息，信號是消息的載體。（4分）3.如何理解“互信息在數(shù)量上等于通信前后‘不確定性’減少的量”這句話的含義。（本小題8分）答：通信的根本問題是精確或者近似的確定信源所選擇的消息。通信前，信源發(fā)送信源空間中的哪個消息存在著不確定性。（4分）信宿收到消息后，信源的不確定性得到了部分或者全部消除，收信者就得到了信息，這個信息就是互信息。因此，互信息在數(shù)量上等于通信前后‘不確定性’減少的量。（4分）什么是最大后驗概率譯碼準(zhǔn)則？什么是極大似然譯碼準(zhǔn)則？兩者在什么情況下等價？（本小題8分）答：最大后驗概率譯碼規(guī)則：令，，而應(yīng)滿足條件稱滿足上述條件的譯碼函數(shù)對應(yīng)的譯碼規(guī)則為最大后驗概率譯碼規(guī)則。（3分）極大似然譯碼準(zhǔn)則：（5分）簡述信道容量的定義。（本小題8分）答：在信道確定的情況下，平均互信息I(X;Y)是信源概率分布P(X)的上凸函數(shù)。（3分）因此，必然存在一種信源概率分布使信息傳輸率I(X;Y)最大。（3分）定義這個最大的信息傳輸率為信道容量（2分）二、證明題。1.線性分組碼中任意兩個碼字之和仍為一個碼字。（本小題8分）2.線性分組碼中任意碼字是生成矩陣行向量的線性組合。（本小題8分）證明：3.對于對稱信道，當(dāng)輸入分布為等概分布時，輸出分布必能達(dá)到等概分布。（本小題8分）三、計算題。1.（本小題12分）通過一定的編碼方法得到如下碼集：{000,10,00,11};請回答下面問題：（1）此碼的碼長分布是否滿足Kraft-McMillan不等式？（2）此碼是否是即時碼？如果不是，請說明理由。（3）此碼是否是唯一可譯碼？如果不是，請說明理由。答：（1）此碼的碼長分布滿足Kraft-McMillan不等式。（4分）（2）此碼不是即時碼，因為00是000的前綴。（4分）（3）此碼不是唯一可譯碼，因為碼符號序列000000可以譯為00，00,00.也可以譯為000,000.（4分）2.（本小題12分）設(shè)（n，k）線性分組碼的生成矩陣為，求：

（1）此（n，k）碼的n=？k=？，寫出此（n，k）碼的所有碼字。

（2）求其對應(yīng)的校驗矩陣H。

（3）此碼的最小碼距是多少？能糾幾位錯？

（4）現(xiàn)譯碼器接收到兩個碼序列、，分別求出采用伴隨式譯碼得到的譯碼結(jié)果。答：（1）n=5k=2.所有碼字為：C1=00000,C2=01101,C3=10111,C4=11010.（3分）(2)校驗矩陣（3分）(3)此碼的最小碼距是3,能糾1位錯.（3分）(4)現(xiàn)譯碼器接收到碼序列,則伴隨式，錯誤圖案為,采用伴隨式譯碼得到的譯碼結(jié)果現(xiàn)譯碼器接收到碼序列,則伴隨式，錯誤圖案為,采用伴隨式譯碼得到的譯碼結(jié)果.（3分）3.（本小題12分）設(shè)信源通過一離散無記憶信道信道，信宿接收到的符號記為，信道轉(zhuǎn)移概率如圖所示。試求：（1）該信道的轉(zhuǎn)移概率矩陣；（2）信源X中，消息和分別含有的自信息量；（3）信宿Y的概率分布；