2024年大學試題(計算機科學)-信息論與編碼筆試歷年真題薈萃含答案

2024年大學試題(計算機科學)-信息論與編碼筆試歷年真題薈萃含答案（圖片大小可自由調(diào)整）答案解析附后卷I一.參考題庫(共25題)1.簡述香農(nóng)第一編碼定理的物理意義？2.平均失真度的下限取0的條件是失真矩陣的（）。3.信息率失真函數(shù)R（D）是在平均失真不超過給定失真限度D的條件下，信息率容許壓縮的最小值。4.現(xiàn)有一幅已離散量化后的圖像，圖像的灰度量化分成8級，見下表。表中數(shù)字為相應(yīng)像素上的灰度級。 另有一無損無噪二元信道，單位時間（秒）內(nèi)傳輸100個二元符號。 （1）現(xiàn)將圖像通過給定的信道傳輸，不考慮圖像的任何統(tǒng)計特性，并采用二元等長碼，問需要多長時間才能傳完這幅圖像？ （2）若考慮圖像的統(tǒng)計特性（不考慮圖像的像素之間的依賴性），求此圖像的信源熵H（S），并對灰度級進行霍夫曼最佳二元編碼，問平均每個像素需用多少二元碼符號來表示？這時需多少時間才能傳送完這幅圖像？ （3）從理論上簡要說明這幅圖像還可以壓縮，而且平均每個像素所需的二元碼符號數(shù)可以小于H（S）比特。5.對于均值為0，平均功率受限的連續(xù)信源，信源的冗余度決定于平均功率的限定值P和信源的熵功率（）。6.離散無記憶N次擴展信源通過離散無記憶N次擴展信道的平均失真度是單符號信源通過單符號信道的平均失真度的（）倍。7.如某線性分組碼的最小漢明距dmin=4，則該碼最多能檢測出（）個隨機錯，最多能糾正（）個隨機錯。8.信道的輸出僅與信道當前輸入有關(guān)，而與過去輸入無關(guān)的信道稱為（）信道。9.設(shè)某彩電系統(tǒng)，除了滿足對于黑白電視系統(tǒng)的上述要求外，還必須有30個不同的色彩度。試證明傳輸這種彩電系統(tǒng)的信息率要比黑白系統(tǒng)的信息率大2.5倍左右。10.信源X的概率分布為P（X）={1/2，1/3，1/6}，信源Y的概率分布為P（Y）={1/3，1/2，1/6}，則信源X和Y的熵相等。11.某離散無記憶信源X，其符號個數(shù)為n，則當信源符號呈（）分布情況下，信源熵取最大值（）。12.率失真函數(shù)的下限為（）。A、H（U）B、0C、I（U；V）D、沒有下限13.人們研究信息論的目的是為了（）、（）、（）地交換和利用各種各樣的信息。14.簡述連續(xù)信源的熵的定義。15.限平均功率最大熵定理指出對于相關(guān)矩陣一定的隨機矢量X，當它是正態(tài)分布時具有最大熵。16.設(shè)信道輸入是連續(xù)型隨機序列X1X2...XN，輸出也是連續(xù)型隨機序列Y1Y2...YN，信道傳遞概率密度為p（y|x）。試證明： （1）當信源是無記憶時，有 （1）當信源是無記憶時，有 17.卷積碼是一種特殊的線性分組碼。18.事物的不確定度是用時間統(tǒng)計發(fā)生（）來描述的。19.考慮由下列定義的碼率為2/3的卷積碼： 這個碼用到格雷編碼（每個符號被賦值3比特，這樣一來兩個相連符號的碼只在一個比特位不同）的8-PSK信號集。該TCM方案的吞吐量為2bit/s/Hz。在該編碼器的網(wǎng)格圖中有多少狀態(tài)？20.給定語音信號樣值X的概率密度為，求Hc（X），并證明它小于同樣方差的正態(tài)變量的連續(xù)熵。21.居住某地區(qū)的女孩子有是大學生，在女大學生中有是身高160厘米上的，而女孩子中身高160厘米以上的占總數(shù)的一半。假如我們得知“身高160厘米以上的某女孩是大學生”的消息，問獲得多少信息量？22.找出所有分組長度為5的二元循環(huán)碼，求出每個碼的最小距離。23.試證明兩連續(xù)隨機變量之間的平均互信息I（X；Y）是輸入隨機變量X的概率密度函數(shù)p（x）的型凸函數(shù)。24.在實際的游程編碼過程中，對長碼一般采?。ǎ┨幚淼姆椒ā?5.簡要說明下面幾種譯碼準則： （1）最優(yōu)譯碼準則； （2）最大似然譯碼準則卷II一.參考題庫(共25題)1.對信源編碼器有些什么基本要求？編碼效率的定義？如何提高編碼效率？2.算術(shù)編碼是一種無失真的分組信源編碼，其基本思想是將一定精度數(shù)值作為序列的編碼，是以另外一種形式實現(xiàn)的最佳統(tǒng)計匹配編碼。3.把n個二元對稱信道串接起來，每個二元對稱信道的錯誤傳遞概率為p。證明這n個串接信道可以等效于一個二元對稱信道，其錯誤傳遞概率為： 4.試求以下各信道矩陣代表的信道的容量： 5.信息的（）是建立信息論的基礎(chǔ)。6.考慮下圖所示的二元編碼器 （1）構(gòu)造該編碼器的網(wǎng)格圖。 （2）記下該編碼器的k0，n0，v，m，R。 （3）該碼的d*和dfree的值是多少？ 7.考慮一個信源概率為{0.30，0.25，0.20，0.15，0.10}的DMS。求信源熵H（X）。8.考慮GF（2）上的下列生成矩陣 構(gòu)造該碼的標準陣列。9.簡述信源輸出值受限的最大連續(xù)熵定理。10.在圖片傳輸中，每幀約2.25×106個像素，為了能很好地重現(xiàn)圖像，需分16個亮度電平，并假設(shè)亮度電平等概率分布。試計算每秒鐘傳送30幀圖片所需信道的帶寬（信噪功率比為30dB）。11.當p（xi）、p（yj/xi）和d（xi，yj）給定后，平均失真度是一個隨即變量。12.證明離散平穩(wěn)信源有，試說明等式成立的條件。13.前向糾錯（FEC）14.什么是限失真信源編碼？15.互信息I（X；Y）與信息熵H（Y）的關(guān)系為：I（X；Y）（）（大于、小于或者等于）H（Y）。16.設(shè)有一個信源，它產(chǎn)生0，1序列的信息。它在任意時間而且不論以前發(fā)生過什么符號，均按p（0）=0.4，p（1）=0.6的概率發(fā)出符號。 （1）試問這個信源是否是平穩(wěn)的？ （2）試計算及； （3）試計算H（X4）并寫出X4信源中可能有的所有符號。17.根據(jù)樹圖法構(gòu)成規(guī)則，（）A、在樹根上安排碼字B、在樹枝上安排碼字C、在中間節(jié)點上安排碼字D、在終端節(jié)點上安排碼字18.簡述馬爾可夫信源的定義及其極限熵。19.信息的重要性質(zhì)有哪些？20.一個四元對稱信源，接收符號Y={0，1，2，3}，其失真矩陣為，求Dmax和Dmin。21.為了使電視圖象獲得良好的清晰度和規(guī)定的對比度，需要用5×105個像素和10個不同的亮度電平，并設(shè)每秒要傳送30幀圖象，所有的像素是獨立的，且所有亮度電平等概出現(xiàn)。求傳輸此圖象所需要的信息率（bit/s）。22.已知一個高斯信道，輸入信噪比（比率）為3。頻帶為3kHz，求最大可能傳送的信息率。若信噪比提高到15，理論上傳送同樣的信息率所需的頻帶為多少？23.有兩個二元隨機變量X和Y，它們的聯(lián)合概率為P[X=0，Y=0]=1/8，P[X=0，Y=1]=3/8，P[X=1，Y=1]=1/8，P[X=1，Y=0]=3/8。定義另一隨機變量Z=XY，試計算： （1）H（X），H（Y），H（Z），H（XZ），H（YZ），H（XYZ）； （2）H（X/Y），H（Y/X），H（X/Z），H（Z/X），H（Y/Z），H（Z/Y），H（X/YZ），H（Y/XZ），H（Z/XY）； （3）I（X；Y），I（X；Z），I（Y；Z），I（X；Y/Z），I（Y；Z/X），I（X；Z/Y）。24.設(shè)多項式 為GF（2）上分組長度為15的一個循環(huán)碼的生成多項式。將生成矩陣寫成系統(tǒng)型。25.信源X的概率分布為P（X）={1/2，1/3，1/6}，對其進行哈夫曼編碼得到的碼是唯一的。卷III一.參考題庫(共25題)1.設(shè)有一批電阻，按阻值分70%是2kΩ，30%是5kΩ；按功耗分64%是1/8W，其余是1/4W?，F(xiàn)已知2kΩ阻值的電阻中80%是1/8W。問通過測量阻值可以平均得到的關(guān)于瓦數(shù)的信息量是多少？2.簡述信息傳輸速率R的定義、信道轉(zhuǎn)移概率、信道矩陣和信道容量C的定義、幾種離散無噪信道的C。3.單符號離散信源一般用隨機變量描述，而多符號離散信源一般用（）描述。4.多用戶信道的信道容量不能用一個數(shù)來代表。5.編碼效率6.率失真函數(shù)沒有最大值。7.黑白傳真機的消息元只有黑色和白色兩種，即X={黑，白}，一般氣象圖上，黑色的出現(xiàn)概率p（黑）＝0.3，白色出現(xiàn)的概率p（白）＝0.7。? （1）假設(shè)黑白消息視為前后無關(guān)，求信源熵H（X），并畫出該信源的香農(nóng)線圖? （2）實際上各個元素之間是有關(guān)聯(lián)的，其轉(zhuǎn)移概率為：P（白|白）＝0.9143，P（黑|白）＝0.0857，P（白|黑）＝0.2，P（黑|黑）＝0.8，求這個一階馬爾可夫信源的信源熵8.若有兩個串接的離散信道，它們的信道矩陣都是 并設(shè)第一個信道的輸入符號X∈{a1，a2，a3，a4}是等概率分布，求I（X；Z）和I（X；Y）并加以比較。9.一個隨機事件發(fā)生某一結(jié)果后所帶來的信息量稱為自信息量，定義為（）。10.糾錯碼的檢、糾錯能力是指（）。11.輸出對稱矩陣12.簡述加密編碼中熵的概念、疑義度及其含義。13.簡述Shannon第二定理（信道編碼定理）及其含義。14.香農(nóng)信源編碼方法在進行編碼時不需要預先計算每個碼字的長度。15.有一個一階平穩(wěn)馬爾可夫鏈X1，X2，……Xr……，各Xr取值于集合A={a1，a2，a3}。已知起始概率p（Xr）為p1=1/2，p2=p3=1/4，轉(zhuǎn)移概率如下。 （1）求（X1，X2，X3）的聯(lián)合熵和平均符號熵。 （2）求這個鏈的極限平均符號熵。 （3）求H0，H1，H2和它們所對應(yīng)的冗余度。16.離散平穩(wěn)有記憶信源符號序列的平均符號熵隨著序列長度L的增大而增大。17.循環(huán)碼的碼集中的任何一個碼字的循環(huán)移位仍是碼字。18.考慮GF（2）上的下列生成矩陣 寫出這個碼能檢測的所有錯誤模式。19.請給出最佳自由距離卷積碼的定義并簡要說明如何獲得具有最佳自由距離的卷積碼。20.一個平均功率受限制的連續(xù)信道，其通頻帶為1MHZ，信道上存在白色高斯噪聲。 （1）已知信道上的信號與噪聲的平均功率比值為10，求該信道的信道容量；? （2）信道上的信號與噪聲的平均功率比值降至5，要達到相同的信道容量，信道通頻帶應(yīng)為多大？? （3）若信道通頻帶減小為0.5MHZ時，要保持相同的信道容量，信道上的信號與噪聲的平均功率比值應(yīng)等于多大？21.單符號離散信源的自信息和信源熵都是一個確定值。22.根據(jù)碼字所含的碼元的個數(shù)，編碼可分為（）編碼和（）編碼。23.將正弦信號輸入采樣頻率為4kHz采樣保持器后通過增量調(diào)制器，設(shè)該調(diào)制器的初始量化dq0，量化增量Δ=0.125。試求在半個周期內(nèi)信號值的增量調(diào)制編碼ci和量化值。24.簡述漢明距離和漢明重量的定義、錯誤圖樣的定義。25.設(shè)有兩個信源X和Y如下： （1）分別用霍夫曼碼編成二元變長惟一可譯碼，并計算其編碼效率； （2）分別用香農(nóng)編碼法編成二元變長惟一可譯碼，并計算編碼效率； （3）分別用費諾編碼方法編成二元變長惟一可譯碼，并計算編碼效率； （4）從X、Y兩種不同信源來比較這三種編碼方法的優(yōu)缺點。卷I參考答案一.參考題庫1.參考答案: 無失真信源編碼，編碼后盡可能等概率分布，使每個碼元平均信息量最大。從而使信道信息傳輸率R達到信道容量C，實現(xiàn)信源與信道理想的統(tǒng)計匹配。2.參考答案:每一行至少有一個零元素3.參考答案:正確4.參考答案: 5.參考答案:之比6.參考答案:N7.參考答案:3；18.參考答案:無記憶9.參考答案: 10.參考答案:正確11.參考答案:等概；log（n）12.參考答案:B13.參考答案:高效；可靠；安全14.參考答案:連續(xù)信源的不確定度應(yīng)為無窮大，是相對熵，或叫差熵。在取兩熵之間的差時才具有信息的所有特性。15.參考答案:正確16.參考答案: 17.參考答案:錯誤18.參考答案:概率的對數(shù)19.參考答案: 由此多項式矩陣，可以構(gòu)造編碼器，TCM方案如下： 自然映射： 在該編碼器的網(wǎng)格圖中有4個狀態(tài)。20.參考答案:21.參考答案: 設(shè)事件A表示女大學生，事件C表示160CM以上的女孩，則問題就是求p（A〡C）， 獲得1.415比特/符號信息量。22.參考答案: 要找到分組長度為5的所有2元循環(huán)碼，首先要分解x5-1 在GF（2）中，是既約的，所求的循環(huán)碼為： 定義在R5中的多項式i（x）=24=16個，信息多6yj多項式在下表中列出： 23.參考答案: 24.參考答案:截斷25.參考答案:卷II參考答案一.參考題庫1.參考答案:2.參考答案:錯誤3.參考答案: 4.參考答案: 一一對應(yīng)的無噪無損信道，信道容量log24=2比特/信道符號， 歸并性能的有損無噪信道，信道容量log23=1.585比特/信道符號， 擴展性能的有噪無損信道，信道容量log23=1.585比特/信道符號。5.參考答案:可度量性6.參考答案: 7.參考答案: 故得其信源熵H(X)為2.228bit。8.參考答案: 該碼的標準陣列 9.參考答案:限峰功率最大熵定理：對于定義域為有限的隨機變量X，當它是均勻分布時，具有最大熵。10.參考答案: 11.參考答案:錯誤12.參考答案: 13.參考答案: 是指差錯控制過程中是單向的，無須差錯信息的反饋。14.參考答案: 有失真信源編碼的中心任務(wù)：在允許的失真范圍內(nèi)把編碼的信息率壓縮到最小。15.參考答案:小于16.參考答案: （1）是平穩(wěn)信源。 （2）信源熵H（X）=-0.4log20.4-0.6log20.6=0.971比特/信源符號，H（X2）=2H（X）=1.942比特/信源符號，由題設(shè)知道這個信源是無記憶信源，因此條件熵