信息傳輸基礎10課件

1、5 預測編碼預測編碼利用條件概率編碼利用條件概率編碼主要內(nèi)容1DPCM基本原理2語言信號預測編碼3活動圖像預測編碼已有樣本值現(xiàn)時的系統(tǒng)輸出現(xiàn)時的系統(tǒng)輸出采用線性或非線性預測函數(shù)，最小均方誤差為準則預測編碼的基本概念5.1 DPCM的基本原理對于具有對于具有M 種取值的符號序列種取值的符號序列xk, ,其第其第L個符號的熵滿足個符號的熵滿足: :log 2 M H(xL) H(xL|xL-1) H(xL|xL-1, xL-2) H(xL|xL-1, xL-2, , x1) H知道前面的符號知道前面的符號 xL(kL) , 再猜后續(xù)符號再猜后續(xù)符號 xL , 則則知道得越多知道得越多, ,熵越小。

2、熵越小。意味著該信源的不確定度減小意味著該信源的不確定度減小, ,數(shù)碼率自然降低。數(shù)碼率自然降低。基礎理論：數(shù)據(jù)源不可能用一個數(shù)學模型完全表示，并使得源的數(shù)據(jù)源不可能用一個數(shù)學模型完全表示，并使得源的輸出始終和該模型的輸出完全一致，精確預測輸出始終和該模型的輸出完全一致，精確預測(或產(chǎn)或產(chǎn)生生)這些數(shù)據(jù)。這些數(shù)據(jù)。實際上實際上實際情況中只能爭取設計最好的預測器，以某種最小化的誤差實際情況中只能爭取設計最好的預測器，以某種最小化的誤差對下一個取樣值進行預測。對下一個取樣值進行預測。發(fā)展歷史發(fā)展歷史1952年，Bell實驗室的B.M.Oliver 等人開始線性預測編碼理論研究。同年同年，該實驗室的

3、，該實驗室的C.C.Culter取得了取得了DPCM (Differential Pulse Code Modulation, 差分脈沖編碼調(diào)制差分脈沖編碼調(diào)制)系統(tǒng)的專利，系統(tǒng)的專利，奠定了真正實用的預測編碼系統(tǒng)的基礎奠定了真正實用的預測編碼系統(tǒng)的基礎。預測編碼技術： 從過去的符號樣本來預測下一個符號樣本的值。根據(jù)：認為在信源符號之間存在相關性。如果符號的預測值與符號的實際值比較接近，它們之間的差值幅度的變化就比原始信源符號幅度值的變化小，因此量化這種差值信號時就可以用比較少的位數(shù)來表示差值。DPCM的基礎 對預測的樣本值與原始的樣本值之差差進行編碼。DPCM系統(tǒng)圖5.1 DPCM系統(tǒng)原理框

4、圖量化器預測器編碼器xk-ekkxkekxSk信 道解碼器預測器kekx接收端發(fā)送端5.2 最佳線性預測含有量化器的DPCM系統(tǒng)：帶反饋的非線性系統(tǒng)，難以對預測器和量化器進行嚴格的全局優(yōu)化設計。常用的簡化方法：分別討論，得到局部最優(yōu)解。DPCM系統(tǒng)的核心問題：預測器的設計線性預測：1( ) , Nkiiixa k xkN時不變線性預測：1 Nkik iixa x簡化，令ai(k) = ai 與 k無關,用原始取樣值代xi替量化恢復值xi(5.2-1)1 Nkkkkik iiexxxax差值信號:(5.2-2)為了使預測誤差在某種測度下最小,就要按照一定的準則,對線性預測系數(shù)進行優(yōu)化。 MMSE

5、線性預測最小均方誤差準則(MMSE)22() ekkExx使得預測誤差的均方值 最小。將式(5.2-1)之 帶入, 得到:kx(5.2-3)最小誤差 必須與預測采用的所有數(shù)據(jù)正交。min()kkxx當N 給定后，e2是依賴預測系數(shù)ai的函數(shù)，使MSE最小，e2對ai求導等于0，有 ：22()0, 1,2,ekkkiixExxiNaa因此：()0, 1,2,kkk iExxxiN得到：( , )ijR i jE x x(5.2-4)定義數(shù)據(jù)的自相關函數(shù)：1( ,)(,), 1,2,NjjR k k ia R kj k iiN (5.2-5)自相關函數(shù)滿足：(,)(,)R ki kjR kj ki

6、(5.2-6)當xi廣義平穩(wěn)時，有：(,)()()(|)R k i kjR j iR ijR ij(5.2-7)自相關矩陣為實對稱的Toeplitz矩陣, 因為是正定矩陣, 故可逆，可解得N個預測系數(shù)使均方誤差最小。12(0)(1)(1)(1)(1)(0)(2)(2)(1)(2)(0)( )NaRRR NRaRRR NRaR NR NRR N將式(5.2-6)和式(5.2-7)代入式(5.2-5), 并用矩陣表示有:(5.2-8)() 2() 1 () 0() 2() 1() 2() 0() 1() 1 () 0(1121NRRRRNRNRNRRRNRRRaaaN最小均方誤差為 :2min1(

7、0)( )NeiiRa R i(5.2-10)最佳預測條件下必然有ek的方差e2小于xi的方差R(0), 甚至可能e2 R(0) 意味著誤差序列ek的相關性弱于原始信號序列xi的相關性,甚至可能弱很多。 如果xi是各態(tài)歷經(jīng)的且N足夠大，則R(k)可用下式估計:11( )Nii kiR kx xN(5.2-9) R(i)越大(即xi的相關性越大),方差e2越小, 所能達到的壓縮比就越大; R(i)=0(即xi的互不相關),方差e2min=R(0)大, 此時利用預測起不到數(shù)據(jù)壓縮的目的。利用條件概率進行預測，傳送去除了大部分相關性的誤差序列ek，有利于壓縮數(shù)據(jù)。例5-1令N=1，a1=1，即有：

8、，則11kkxa x(1)= 2 1(0)2(1) (0)(0)RRRR其中 =R(1)/R(0) 為信號的自相關系數(shù)。 顯然只要0.51, 就可使e2 12后, R()就 很小了,意味著清音的關聯(lián)長度主要在12個 樣值以內(nèi)。LPC聲碼器的主要實現(xiàn)步驟如下: 把語音每80或160個樣值(1020ms)分成一段(LPC中稱為一 幀), 每幀計算一次參數(shù); 在 =2080的范圍內(nèi)計算R( ), 利用R( )兩個峰值的間隔找 出基音周期 , 清音固定使用N個預測系數(shù)a1, a2 , , aN , N=810; 按5.2節(jié)的MMSE準則計算最佳線性預測系數(shù)a1, a2 , , aN ; 將全部預測參數(shù)

9、a1, a2 , , aN , 連同預測誤差ek進行量化,編碼。可用圖5.1的基本DPCM系統(tǒng)實現(xiàn), 差別僅在于預測器參數(shù)每幀更新一次并傳至收端。由于即要傳送N+1個參數(shù),又要傳送預測誤差, 一般用于9.619.2 kb/Sde 中速語音編碼。脈沖序列發(fā)生器隨機噪聲發(fā)生器聲道模擬濾波器增益G有聲無聲合成語音ykuka1 a2 , aN基音周期 圖5.6 LPC聲碼器語音合成框圖(二元激勵模型)為進一步降低碼率，我們不傳誤差只傳參數(shù)，由收端利用這些參數(shù)自己合成話音，如圖5.6所示。對計算出來各種參數(shù)G , , a1, a2 , , aN(模擬量), 進行二次量化, 再編碼。實用中還希望總碼率盡量

10、靠近1502n (n=0,1,2, )b/s的典型碼率。NikikikuGyay1LPC聲碼器輸出的合成語音可表示為：(5.3-2) 技術與標準化進展保留了參數(shù)法的聲道模型，但同時也傳送預測誤差，供收端去優(yōu)化聲道模型的激勵源，以提高合成語音的自然度。關鍵是：如何高效地傳送誤差信息?；旌暇幋a器：1980年提出，提出的算法： 殘差(余數(shù))激勵線性預測編碼(RELP); 多脈沖激勵線性預測編碼(MP-LPC，1982年提出); 碼激勵線性預測編碼(CELP,1984年提出); 多帶激勵(MBE)聲碼器(頻域進行);ITU的有關語音信號壓縮編碼標準,見表5.1ITU建議制定時間碼率(kp/s)編碼算法說 明G.711197264(56)PCM(/A)3kHz語音帶寬, 8kHz取樣G.7211984/198632ADPCM3kHz語音帶寬, 8kHz取樣G.722198664/56/48SBC-ADPCM7kHz語音帶寬, 16kHz取樣G.723198640/32/24ADPCM(CDME建議)G.723.16.3/5.27MP-MLQ/ACELP算法復雜度:14.6/16 MIPSG.726199