信息論與編碼習(xí)題課件

1、第3章復(fù)習(xí)信道參數(shù)：用轉(zhuǎn)移概率表示信道信道模型二進制離散信道BSC離散無記憶信道DMC波形信道11信道容量信道上每傳送一個符號(每使用一次信道)所能攜帶的比特數(shù)，即比特/信道符號(bits/symbol或bits/channel use)。如果已知信道符號傳送周期是T秒，此時Ct=C /T，比特/秒(bits/s)22DMC信道的容量對稱DMC信道的容量：當(dāng)信道輸入符號等概分布時，可達到其信道容量 BSC信道的容量：m2準(zhǔn)對稱信道的容量33帶限波形信道的容量條件：信道帶寬W受限噪聲為加性高斯白噪聲（均值為零，功率譜密度為N0）輸入信號平均功率受限PS若輸入信號是平均功率受限的高斯白噪聲信號，可

2、達信道容量香農(nóng)公式：香農(nóng)限：1.6dB44習(xí)題設(shè)二元對稱信道的傳遞矩陣為 (1) 若P(0) = 3/4, P(1) = 1/4，求H(X), H(X/Y), H(Y/X)和I(X;Y)；(2) 求該信道的信道容量及其達到信道容量時的輸入概率分布；某信源發(fā)送端有2個符號Xi ，i1，2； ，每秒發(fā)出一個符號。接受端有3種符號yj ，j1，2，3，轉(zhuǎn)移概率矩陣為 （1）計算接受端的平均不確定度；（2）計算由于噪聲產(chǎn)生的不確定度 ；（3）計算信道容量。其最佳輸入分布為解：第6章信道編碼復(fù)習(xí)概念：差錯符號、差錯比特差錯圖樣：隨機差錯、突發(fā)差錯 糾錯碼分類：檢和糾錯碼、分組碼和卷積碼、線性碼與非線性碼

3、 、糾隨機差錯碼和糾突發(fā)差錯碼 30矢量空間與碼空間n維n重空間有相互正交的n個基底選擇k個基底構(gòu)成k維n重碼空間C選擇另外的(n-k)個基底構(gòu)成空間HC和H是對偶的，正交的 CHT0, GHT=031 n維n重空間V k維k重 k維n重 n-k維 信息組 碼空間 n重H 空間m C有擾離散信道的編碼定理 若傳信率RC，就不可能有任何一種編碼能使差錯概率任意小。 32差錯控制的途徑 從公式 增大碼長N增大可靠性函數(shù)E(R)：加大信道容量C 減小碼率(傳信率)R。從概念上利用冗余度（增強相關(guān)性）噪聲均化(隨機化) 33最優(yōu)譯碼與最大似然譯碼 最佳譯碼 Max P(ci /r)，性能優(yōu)，實現(xiàn)難最大

4、似然譯碼 Max P(r / ci)，性能次優(yōu)，實現(xiàn)容易最佳譯碼等同最大似然譯碼：碼集的碼字以相同概率發(fā)送接收碼等概分布34線性分組碼 線性分組碼基本概念 碼元、碼字、碼集重量、重量分布、恒重碼線性碼（封閉性）基底、矢量正交、矢量空間正交、對偶空間、線性相關(guān)、線性無關(guān)35生成矩陣和校驗矩陣 生成矩陣G：CmG校驗矩陣H：CHT0系統(tǒng)形式：GIk|P，HPT|In-k差錯圖案E=R-C，伴隨式SRHTEHT標(biāo)準(zhǔn)陣列譯碼表36碼距與糾、檢錯能力 碼的總體性能取決于碼距的分布特性（重量譜），而糾、檢錯能力取決于其中的最小者dmin ，dmin = min w (C i ) 檢、糾錯能力：可檢dmin

5、1個差錯可糾t= INT(dmin1)/2個差錯校驗矩陣H中有（dmin-1)列線性無關(guān) dmin (n-k+1)，極大最小距離碼 37特殊的線性分組碼完備碼漢明碼： t=1，(2m-1，2m-1-m)高萊（Golay）碼：二進制（23，12）線性碼，其最小距離dmin7，糾錯能力t=3 38循環(huán)碼循環(huán)碼用多項式表示： C(x)=m(x)g(x)生成多項式： xn+1g(x)h(x)校驗多項式：C(x)h(x)=0 mod(xn+1)g(x)x n-k + gn-k-1 x n-k-1+ g1 x +1 系統(tǒng)循環(huán)碼：C(x) = xn-k m(x) + r (x)， r (x) = xn-k m