大學試題(計算機科學)-信息論與編碼筆試（2018-2023年）真題摘選含答案

長風破浪會有時，直掛云帆濟滄海。大學試題(計算機科學)-信息論與編碼筆試（2018-2023年）真題摘選含答案（圖片大小可自由調整）卷I一.參考題庫(共30題)1.率失真函數(shù)沒有最大值。2.有一信源發(fā)出恒定寬度，但不同幅度的脈沖，幅度值處在a1和a2之間，此信源連至某信道，信道接收端接收脈沖的幅度y處在b1和b2之間。已知隨機變量X和Y的聯(lián)合概率密度函數(shù)： 試計算h（X），h（Y），h（XY）和I（X；Y）。3.簡述平均互信息量的性質及理解。4.假設每個消息的發(fā)出都是等概率的，四進制脈沖所含信息量是二進制脈沖的（）倍。5.現(xiàn)有一幅已離散量化后的圖像，圖像的灰度量化分成8級，見下表。表中數(shù)字為相應像素上的灰度級。 另有一無損無噪二元信道，單位時間（秒）內傳輸100個二元符號。 （1）現(xiàn)將圖像通過給定的信道傳輸，不考慮圖像的任何統(tǒng)計特性，并采用二元等長碼，問需要多長時間才能傳完這幅圖像？ （2）若考慮圖像的統(tǒng)計特性（不考慮圖像的像素之間的依賴性），求此圖像的信源熵H（S），并對灰度級進行霍夫曼最佳二元編碼，問平均每個像素需用多少二元碼符號來表示？這時需多少時間才能傳送完這幅圖像？ （3）從理論上簡要說明這幅圖像還可以壓縮，而且平均每個像素所需的二元碼符號數(shù)可以小于H（S）比特。6.某氣象員報告氣象狀態(tài)，有四種可能的消息：晴、去、雨和霧。若每個消息是等概率的，那么發(fā)送每個消息最少所需的二元脈沖數(shù)是多少？又若四個消息出現(xiàn)的概率分別為問在此情況下消息所需的二元脈沖數(shù)是多少？如何編碼？7.二進制通信系統(tǒng)使用符號0和1，由于存在失真，傳輸時會產生誤碼，用符號表示下列事件，u0：一個0發(fā)出u1：一個1發(fā)出v0：一個0收到v1：一個1收到則已知收到的符號，被告知發(fā)出的符號能得到的信息量是（）。A、H（U/V）

B、H（V/U）

C、H（U，V）

D、H（UV）8.信道散布度9.率失真函數(shù)的最小值是0。10.常用的檢糾錯方法有（）、反饋重發(fā)和混合糾錯三種。11.每幀電視圖像可以認為是由3×105個像素組成，所以像素均是獨立變化，且每一像素又取128個不同的亮度電平，并設亮度電平等概率出現(xiàn)。問每幀圖像含有多少信息量？若現(xiàn)有一廣播員在約10000個漢字的字匯中選1000個來口述此電視圖像，試問廣播員描述此圖像所廣播的信息量是多少（假設漢字是等概率分布，并且彼此無依賴）？若要恰當?shù)孛枋龃藞D像，廣播員在口述中至少需用多少漢字？12.信息論是應用近代數(shù)理統(tǒng)計方法研究信息的傳輸、存儲與處理的科學，故稱為（）；1948年香農在貝爾雜志上發(fā)表了兩篇有關的“通信的數(shù)學理論”文章，該文用熵對信源的（）的度量，同時也是衡量（）大小的一個尺度；表現(xiàn)在通信領域里，發(fā)送端發(fā)送什么有一個不確定量，通過信道傳輸，接收端收到信息后，對發(fā)送端發(fā)送什么仍然存在一個不確定量，把這兩個不確定量差值用（）來表示，它表現(xiàn)了通信信道流通的（），若把它取最大值，就是通信線路的（），若把它取最小值，就是（）。13.簡述信源的符號之間的依賴與信源冗余度的關系。14.離散平穩(wěn)有記憶信源符號序列的平均符號熵隨著序列長度L的增大而增大。15.簡述費諾編碼的編碼步驟。16.糾錯編碼中，下列哪種措施不能減小差錯概率（）。A、增大信道容量B、增大碼長C、減小碼率D、減小帶寬17.對于具有歸并性能的無燥信道，當信源等概率分布時（p（xi）=1/n），達到信道容量。18.考慮GF（2）上的下列生成矩陣 用此矩陣生成所有可能的碼字。19.按照不同的編碼目的，編碼可以分為三類：分別是（）、（）和（）。20.假設是一個二元碼，它的奇偶校驗矩陣為H。證明由C通過添加整體奇偶校驗比特得到的擴展碼C1的奇偶校驗矩陣為 21.率失真函數(shù)的下限為（）。A、H（U）B、0C、I（U；V）D、沒有下限22.信源與信道達到匹配的含義以及如何實現(xiàn)？信道剩余度的概念及計算？23.簡述失真函數(shù)、平均失真度的定義及其含義。24.考慮下圖所示的二元編碼器。 給出該編碼器的生成矩陣G。25.請給出連續(xù)信源分別為均勻分布、高斯分布和指數(shù)分布時信源的相對熵。26.生成多項式為的碼在GSM中作檢錯和糾錯標準。 （1）這個碼能糾多少個隨機錯誤？ （2）這個碼能糾多少個突發(fā)錯誤？27.連續(xù)信源和離散信源都具有可加性。28.已知（8，5）線性分組碼的生成矩陣為 （1）證明該碼為循環(huán)碼； （2）求該碼的生成多項式g（x），一致校驗多項式h（x）和最小碼距d。29.簡述幾種信息分類的準則和方法。30.設C={000000，001011，010110，011101，100111，101100，110001，111010}是一個二元線性分組碼，則該碼最多能檢測出3個隨機錯誤。卷I參考答案一.參考題庫1.參考答案:錯誤2.參考答案: 3.參考答案:4.參考答案:25.參考答案: 6.參考答案: 7.參考答案:A8.參考答案: 表示在已知X后，對于輸出Y尚存的平均不確定性；9.參考答案:正確10.參考答案:前向糾錯11.參考答案: 12.參考答案:3;4;5;6;7;8;913.參考答案: 當信源的符號之間有依賴時，信源輸出消息的不確定性減弱。而信源冗余度正是反映信源符號依賴關系的強弱，冗余度越大，依賴關系就越大。14.參考答案:錯誤15.參考答案: 費諾編碼的步驟： 1）信源符號以概率遞減的次序排列起來； 2）將排列好的信源符號按概率值劃分成兩大組，使每組的概率之和接近于相等，并對每組各賦予一個二元碼符號“0”和“1”； 3）將每一大組的信源符號再分成兩組，使劃分后的兩個組的概率之和接近于相等，再分別賦予一個二元碼符號； 4）依次下去，直至每個小組只剩一個信源符號為止 5）信源符號所對應的碼字即為費諾碼。16.參考答案:D17.參考答案:錯誤18.參考答案: 此矩陣生成的碼為：{00000，01010，10011，11001，10100，11110，00111，01101}19.參考答案:信源編碼;信道編碼;安全編碼20.參考答案: 根據(jù)題意，擴展碼C1為： 即擴展碼C1的奇偶校驗矩陣為Hi。 證畢。21.參考答案:B22.參考答案:23.參考答案:24.參考答案: 由圖可知： 故該編碼器的生成矩陣G為； 將5個矩陣代入矩陣G中既可。25.參考答案: 26.參考答案: 又經(jīng)過嘗試我們得到分組長度是滿足g（x）且能整除x23-1的最小整數(shù)，n=75， 可以糾的突發(fā)錯誤最多為t=12個；能糾的隨機錯誤為x=5個。27.參考答案:正確28.參考答案: （1）生成矩陣作初等行變換：第5行加到第4行，第4行加到第3行，第3行加到第2行，第2行和第5行加到第1行。得 （2）生成多項式為，一致校驗多項式為 一致校驗矩陣為 該矩陣的任意1列線性無關，但存在某2列線性相關，故最小碼距為2。29.參考答案: 狹義信息論、一般信息論、廣義信息論30.參考答案:錯誤卷II一.參考題庫(共30題)1.平均失真度2.考慮下圖所示的Z型信道。 （1）求獲得信道容量所需要的輸入概率。 （2）若將N個這樣的信道相級聯(lián)，證明聯(lián)合信道可以用一個信道轉移概率為pN的等價Z信道表示。 （3）當N→∞時聯(lián)合信道的容量是什么？ 3.設多項式 為GF（2）上分組長度為15的一個循環(huán)碼的生成多項式。試求奇偶校驗矩陣H。4.請給出失真函數(shù)、平均失真度、保真度準則、信息率失真函數(shù)的定義。5.信源的消息通過信道傳輸后的誤差或失真越大道傳輸消息所需的信息率（）。6.簡述連續(xù)信源的熵的定義。7.簡述馬爾可夫信源的定義及其極限熵。8.（）是香農信息論最基本最重要的概念9.若分組碼H陣列列線性無關數(shù)為n，則糾錯碼的最小距離dmin為（）。10.構造C={00000，10101，01010，11111}的生成矩陣。因為這個G不是唯一的，給出另一個能生成這個碼字集合的生成矩陣。11.兩個實驗X和Y，X={x1x2x3}，Y={y1y2y3}，l聯(lián)合概率為。 （1）如果有人告訴你X和Y的實驗結果，你得到的平均信息量是多少？? （2）如果有人告訴你Y的實驗結果，你得到的平均信息量是多少？? （3）在已知Y實驗結果的情況下，告訴你X的實驗結果，你得到的平均信息量是多少？12.設有一離散信道，其信道傳遞矩陣為 并設試分別按最小錯誤概率準則與最大似然譯碼準則確定譯碼規(guī)則，并計算相應的平均錯誤概率。13.糾錯碼的檢、糾錯能力是指（）。14.同時擲出兩個正常的骰子，也就是各面呈現(xiàn)的概率都為1/6，求：? （1）“3和5同時出現(xiàn)”這事件的自信息；? （2）“兩個1同時出現(xiàn)”這事件的自信息；? （3）兩個點數(shù)的各種組合（無序）對的熵和平均信息量；? （4）兩個點數(shù)之和（即2，?3，?…?，?12構成的子集）的熵；? （5）兩個點數(shù)中至少有一個是1的自信息量。15.設信源求此信源的熵，并解釋為什么H（X）>log6，不滿足信源熵的極值性。16.什么是限失真信源編碼？17.一副充分洗亂了的牌（含52張牌），試問 （1）任一特定排列所給出的信息量是多少？ （2）若從中抽取13張牌，所給出的點數(shù)都不相同，能得到多少信息量？18.平穩(wěn)信源19.如果所有碼字都配置在二進制碼樹的葉節(jié)點，則該碼字為（）碼。20.用rH來表示二元漢明碼的碼率，求。21.一副充分洗亂了的牌（含52張牌），試問（1）任一特定排列所給出的信息量是多少？（2）若從中抽取13張牌，所給出的點數(shù)都不相同能得到多少信息量？22.無記憶信道23.設二元霍夫曼碼為（00，01，10，11）和（0，10，110，111），求出可以編得這樣霍夫曼碼的信源的所有概率分布。24.在圖片傳輸中，每幀約2.25×106個像素，為了能很好地重現(xiàn)圖像，需分16個亮度電平，并假設亮度電平等概率分布。試計算每秒鐘傳送30幀圖片所需信道的帶寬（信噪功率比為30dB）。25.對于離散無記憶強對稱信道，信道矩陣為： 試證明對于此信道，最小距離譯碼準則等價于最大似然譯碼準則。26.一個隨即變量x的概率密度函數(shù)P（x）=x/2，，則信源的相對熵為（）。A、0.5bit

B、0.72bit

C、1bit

D、1.44bit27.消息（或稱為符號）28.設兩連續(xù)隨機變量X和Y，它們的聯(lián)合概率密度是均值為零，協(xié)方差矩陣為C的正態(tài)分布，，在下列幾種情況下，計算I(X;Y)： （1）ρ＝1； （2）ρ＝0； （3）ρ＝－1。29.信源編碼30.簡述游程編碼相關定義與步驟。卷II參考答案一.參考題庫1.參考答案: 定義平均失真度為失真函數(shù)的數(shù)學期望，及d（xi，yi）在X和Y得聯(lián)合概率空間P（XY）中的統(tǒng)計平均值：D=E[D（xi，yi）]，起是在平均的意義上，從總體上對整個系統(tǒng)失真情況的描述。2.參考答案: 級聯(lián)信道的信道容量為每一次使用該信道時的最大平均互信息。其中最大值是在所有可能的輸入概率上求得的即： 3.參考答案: 由于已知分組長度為15，設奇偶校驗多項式為h（x），則有： 其中，上式為取模運算。 故，對應的奇偶校驗矩陣為： 4.參考答案: 5.參考答案:也越小6.參考答案:連續(xù)信源的不確定度應為無窮大，是相對熵，或叫差熵。在取兩熵之間的差時才具有信息的所有特性。7.參考答案:8.參考答案:熵9.參考答案:1010.參考答案: 11.參考答案:12.參考答案: 13.參考答案:檢測、糾正錯誤碼元的數(shù)目14.參考答案:15.參考答案: 16.參考答案: 有失真信源編碼的中心任務：在允許的失真范圍內把編碼的信息率壓縮到最小。17.參考答案: （1）log252 （2）任取13張，各點數(shù)不同的概率為，信息量：9.4793（比特/符號）18.參考答案: 概率分布函數(shù)與時間起點無關，平穩(wěn)信源是有記憶的，記憶的長度有限。19.參考答案:唯一可譯20.參考答案: 根據(jù)二元漢明碼的性質可知： 其中m是任意正整數(shù)。 則由碼率的定義可知： 21.參考答案: 22.參考答案: 在某一時刻信道的輸出消息僅與當時的信道輸入消息有關，而與前面時刻的信