現(xiàn)代信號處理_11

1、1第四章 自適應(yīng)信號處理鄭寶玉2v隨機(jī)信號的最優(yōu)預(yù)測和濾波隨機(jī)信號的最優(yōu)預(yù)測和濾波v最優(yōu)濾波理論與最優(yōu)濾波理論與維納濾波器維納濾波器v橫向橫向LMSLMS自適應(yīng)數(shù)字濾波器自適應(yīng)數(shù)字濾波器v橫向橫向RLS RLS 自適應(yīng)數(shù)字濾波器自適應(yīng)數(shù)字濾波器v自適應(yīng)格型濾波器自適應(yīng)格型濾波器v自適應(yīng)格自適應(yīng)格- -梯型濾波器梯型濾波器v無限脈沖響應(yīng)自適應(yīng)濾波器無限脈沖響應(yīng)自適應(yīng)濾波器 v盲自適應(yīng)信號處理盲自適應(yīng)信號處理v自適應(yīng)濾波器應(yīng)用自適應(yīng)濾波器應(yīng)用 3無限脈沖響應(yīng)自適應(yīng)濾波器無限脈沖響應(yīng)自適應(yīng)濾波器 v 引言引言vIIR自適應(yīng)濾波器自適應(yīng)濾波器v自適應(yīng)自適應(yīng)Laguerre 濾波器濾波器 輸出誤差法輸出

2、誤差法 方程誤差法方程誤差法 Laguerre 橫向?yàn)V波器橫向?yàn)V波器 Laguerre 格型濾波器格型濾波器4IIR自適應(yīng)濾波器自適應(yīng)濾波器v輸出誤差法輸出誤差法 方法之一是采取下列兩種途徑方法之一是采取下列兩種途徑： 對歸一化對歸一化LMS濾波器施加某種控制；濾波器施加某種控制； 在頻域?qū)崿F(xiàn)在頻域?qū)崿F(xiàn)LMS濾波器。濾波器。 方法之二是使用非方法之二是使用非FIR的濾波器：的濾波器： 使用以使用以IIR線性濾波器為基礎(chǔ)的自適應(yīng)過程。線性濾波器為基礎(chǔ)的自適應(yīng)過程。 使用由使用由FIR和和IIR組成的混合濾波器，如使用以橫向組成的混合濾波器，如使用以橫向 Laguerre結(jié)構(gòu)為基礎(chǔ)構(gòu)建的階遞歸自適

3、應(yīng)濾波器。結(jié)構(gòu)為基礎(chǔ)構(gòu)建的階遞歸自適應(yīng)濾波器。在某些場合需要使用長脈沖響應(yīng)自適應(yīng)濾波器，例如在某些場合需要使用長脈沖響應(yīng)自適應(yīng)濾波器，例如遠(yuǎn)程電話會議中回音消除問題。遠(yuǎn)程電話會議中回音消除問題。v 滿足這種需求的辦法滿足這種需求的辦法5 IIR自適應(yīng)濾波器自適應(yīng)濾波器v 對長脈沖響應(yīng)濾波器的需求對長脈沖響應(yīng)濾波器的需求 基本結(jié)構(gòu)和基本關(guān)系式基本結(jié)構(gòu)和基本關(guān)系式 IIR濾波器基本結(jié)構(gòu)與ARMA模型結(jié)構(gòu)相同,其輸入- 輸出關(guān)系為) 1 ()()()()()(10inynbinunanyNiiMii式中ai(n),bi(n)是模型的可調(diào)系數(shù)。當(dāng)M=N且a0(n)1時, (1)可用圖1實(shí)現(xiàn)。當(dāng)濾波器系

4、數(shù)固定不變時,可用如下轉(zhuǎn)移函數(shù) )2()(1)()(zBzAzH等效地表征ARMA模型，式中多項(xiàng)式A(z)和B(z)分別為)3()(0MiiizazA)4()(1NiiizbzB6+-未知線性動態(tài)系統(tǒng)A(z)B(z)x(n)y(n)d(n)e(n)IIR自適應(yīng) 濾波器圖圖1 輸出方程法輸出方程法7 IIR自適應(yīng)濾波器自適應(yīng)濾波器v輸出誤差法輸出誤差法 算法推導(dǎo)算法推導(dǎo) - 使用IIR濾波器的目的是要用為數(shù)不多的可調(diào)系數(shù)實(shí)現(xiàn)長脈沖 響應(yīng)。為了設(shè)計這類濾波器, 可以用兩種方法:輸出誤差法或方 程誤差法。本節(jié)討論輸出誤差法,現(xiàn)推導(dǎo)該方法。 - 圖1是輸出誤差法的框圖表示,圖中用一個IIR自適應(yīng)濾波器

5、來辨 識某一未知線性動態(tài)系統(tǒng)。 在這個應(yīng)用中, 輸入信號x(n)同時 加到未知系統(tǒng)和自適應(yīng)濾波器上, 由此分別產(chǎn)生期望響應(yīng)d(n)和 濾波器實(shí)際輸出y(n)。定義自適應(yīng)濾波器的權(quán)向量為 )5()(),.,(),(),.,(),()(110TNMnbnbnananan w8 IIR自適應(yīng)濾波器自適應(yīng)濾波器v輸出誤差法輸出誤差法 算法推導(dǎo)算法推導(dǎo) 假設(shè)處理的是實(shí)值信號, 權(quán)向量 的調(diào)整可通過最小化 瞬時代價函數(shù))(21)(2nenJ)( nw式中誤差信號是期望響應(yīng)與濾波器輸出之差：)6()()()(nyndne這就是“輸出誤差法”名稱的由來。設(shè)用LMS算法進(jìn)行權(quán)向量的調(diào)整，則可將第n次迭代權(quán)向量的

6、調(diào)整量定義為 )7()(/ )()(nnJnww式中是步長參數(shù)。求代價函數(shù)J(n)關(guān)于 的導(dǎo)數(shù), 即得梯度向量 的第 j 個分量:)(nwj)()(nwnyj)8()()()()()()()()(nwnynenwnenenwnJjjj9 IIR自適應(yīng)濾波器自適應(yīng)濾波器v輸出誤差法輸出誤差法 算法推導(dǎo)算法推導(dǎo)從式(1)可見, 濾波器的輸出y(n)與其自身的過去值有關(guān)。故求偏導(dǎo)數(shù) 時要小心進(jìn)行。特別地, 我們有 )()(nwnyjNijjjiNijjjijbnbnwfornbinynbjnyananwfornainynbjnxnwny11)9()()(,)()()()()9()()(,)()()(

7、)()()(為了簡化表示，引入如下兩個定義：)10(,.,1 , 0)()()(aMjnnanyjj)10(,.,2 , 1)()()(bNjnnbnyjj10 IIR自適應(yīng)濾波器自適應(yīng)濾波器v輸出誤差法輸出誤差法 算法推導(dǎo)算法推導(dǎo) 同時還假設(shè)，濾波器對較小的M和N，以足夠慢的速率進(jìn)行 自適應(yīng)。此時，可對i=1,2,N 做如下兩個近似： )11()()()()()(aininainynainyjjj)11()()()()()(bininbinynbinyjjj因此,可將式(9)改寫為如下一對遞歸差分方程: NijijNijijbNjinnbjnynaMjinnbjnxn11)12(,.,2 ,

8、 1, )()()()()12(,.,1 , 0, )()()()(11 IIR自適應(yīng)濾波器自適應(yīng)濾波器v輸出誤差法輸出誤差法 算法推導(dǎo)算法推導(dǎo) 綜上所述，可得計算IIR自適應(yīng)濾波器權(quán)向量更新方程為)13()()()()()() 1(nnennnnwwww式中)14()().,(),(),(),.,(),()(2110TNMnnnnnnn其中i(n) 、i(n)由(12) 計算。12 IIR自適應(yīng)濾波器自適應(yīng)濾波器v輸出誤差法輸出誤差法 算法步驟算法步驟 下面，給出輸出誤差法IIR自適應(yīng)濾波器算法小結(jié)初始化：計算：對n=1,2,計算0)0(w)()()()()(10inynbinunanyNi

9、iMii)()()(nyndneNijijNijijNjforinnbjnynMjforinnbjnxn11,.,2 , 1, )()()()(,.,1 , 0, )()()()(TNMnnnnnnn)().,(),(),(),.,(),()(2110)()()() 1(nnennww13 IIR自適應(yīng)濾波器自適應(yīng)濾波器v輸出誤差法輸出誤差法 算法步驟算法步驟 值得注意的是,上述運(yùn)算過程還可進(jìn)一步簡化；即式(14)中 濾波回歸器向量 的元素i(n) 、i(n)可進(jìn)一步簡化為)15(,.,2 , 1)()(0aMjjnnj)15(.,3 , 2) 1()(0bNjjnnj使用這種近似使用這種近似

10、,可使計算負(fù)擔(dān)減少到只需要附加可使計算負(fù)擔(dān)減少到只需要附加一到兩個一到兩個全極點(diǎn)濾波器就可得到濾波后的回歸器，而上述算法步全極點(diǎn)濾波器就可得到濾波后的回歸器，而上述算法步驟中需要附加驟中需要附加MN個個全極點(diǎn)濾波器。根據(jù)如下：全極點(diǎn)濾波器。根據(jù)如下：q 只要濾波器慢速自適應(yīng)只要濾波器慢速自適應(yīng)(adapt slowly)，在進(jìn)行近似前，在進(jìn)行近似前誤差就相當(dāng)小，于是用或不用近似表達(dá)式的誤差就相當(dāng)小，于是用或不用近似表達(dá)式的IIR自適應(yīng)自適應(yīng)濾波器的收斂特性實(shí)際上是一樣的濾波器的收斂特性實(shí)際上是一樣的Shynk,1989)。14 IIR自適應(yīng)濾波器自適應(yīng)濾波器v輸出誤差法輸出誤差法 輸出誤差法的

11、局限性輸出誤差法的局限性 局限性：局限性： 用輸出誤差法設(shè)計用輸出誤差法設(shè)計IIR自適應(yīng)濾波器受到以下自適應(yīng)濾波器受到以下兩個限制：兩個限制： 誤差特性曲面除了一全局極小點(diǎn)外誤差特性曲面除了一全局極小點(diǎn)外,還有許多還有許多局部極小局部極小點(diǎn)點(diǎn), 這意味著我們無法確定用這種方法設(shè)計的這意味著我們無法確定用這種方法設(shè)計的IIR自適應(yīng)濾波自適應(yīng)濾波 器是否是全局最優(yōu)的。器是否是全局最優(yōu)的。 不能保證不能保證ARMA模型的極點(diǎn)始終在模型的極點(diǎn)始終在z-平面的單位圓內(nèi)，平面的單位圓內(nèi)， 這意味著這意味著IIR自適應(yīng)濾波器有自適應(yīng)濾波器有可能不穩(wěn)定可能不穩(wěn)定。 克服辦法：克服辦法： 在實(shí)際使用過程中在實(shí)際

12、使用過程中,可在自適應(yīng)方程中引入某種簡短的穩(wěn)可在自適應(yīng)方程中引入某種簡短的穩(wěn) 定性測試來克服不穩(wěn)定。但這樣會放慢自適應(yīng)的速率。定性測試來克服不穩(wěn)定。但這樣會放慢自適應(yīng)的速率。 可用下一節(jié)討論的方程誤差法來克服局部極小問題?？捎孟乱还?jié)討論的方程誤差法來克服局部極小問題。15 IIR自適應(yīng)濾波器自適應(yīng)濾波器v方程誤差法方程誤差法算法原算法原理理 )16()()()()()(10indnbinxnanyNiiMii相應(yīng)地，相應(yīng)地，定義誤差信號為定義誤差信號為 )17()()()(nyndne 上式用于調(diào)整模型參數(shù)上式用于調(diào)整模型參數(shù)ai(n)和bi(n)。 基于這組方程的方法稱為基于這組方程的方法稱

13、為“方程誤差法方程誤差法”。它有兩個特點(diǎn)：。它有兩個特點(diǎn)： 誤差信號由一個方程來定義誤差信號由一個方程來定義, 而不是象輸出誤差法那樣而不是象輸出誤差法那樣由由 實(shí)際濾波器的輸出來定義；故稱為實(shí)際濾波器的輸出來定義；故稱為方程誤差法方程誤差法。 代價函數(shù)由二次誤差特征曲面來表征代價函數(shù)由二次誤差特征曲面來表征, 故不會象輸出誤故不會象輸出誤差差 法那樣受到局部極小的限制。法那樣受到局部極小的限制。 在濾波器自適應(yīng)在濾波器自適應(yīng)(訓(xùn)練訓(xùn)練)階段階段, 用期望響應(yīng)用期望響應(yīng)d(n)代替式代替式(1)右邊右邊 第二個求和號中的濾波器實(shí)際輸出第二個求和號中的濾波器實(shí)際輸出y(n), 結(jié)果的方程為結(jié)果的

14、方程為16+-y(n)e(n)d(n)未知線性動態(tài)系統(tǒng)A(z)B(z)1/(1-B(z)y(n)x(n)IIR自適應(yīng)濾波器圖圖2 方程誤差法方程誤差法17 IIR自適應(yīng)濾波器自適應(yīng)濾波器v方程誤差法方程誤差法算法原算法原理理 方程誤差方程誤差e(n)與輸出誤差與輸出誤差e(n)有關(guān)有關(guān)，即，即)18()()()()()()()()()(11NiiNiiinenbinyindnbnynynene亦即亦即)19()()()()(1Niiinenbnene式中右邊第二項(xiàng)為式中右邊第二項(xiàng)為bk與與e(k)兩個序列的卷積兩個序列的卷積, 兩邊求兩邊求z變換變換,得得)20()()(1 ()(zEzBzE

15、式中式中E(z)和和E(z)分別是分別是e(n)和和e(n)的z 變換變換, B(z)由由(4)定義定義(當(dāng)當(dāng)bk固定固定)。上式表明：上式表明：輸出誤差輸出誤差e(n)通過轉(zhuǎn)移函數(shù)為通過轉(zhuǎn)移函數(shù)為1B(z)的濾波器的濾波器, 即得即得方方程誤差程誤差e(n)。18 IIR自適應(yīng)濾波器自適應(yīng)濾波器v方程誤差法方程誤差法 討論討論 在在神經(jīng)網(wǎng)絡(luò)文獻(xiàn)中在在神經(jīng)網(wǎng)絡(luò)文獻(xiàn)中, 方程誤差法稱為教師強(qiáng)制法方程誤差法稱為教師強(qiáng)制法(teacher -forcing method)。在任何情況下。在任何情況下, 方程誤差法可加快自適應(yīng)方程誤差法可加快自適應(yīng) 濾波器訓(xùn)練速度，因?yàn)橛檬綖V波器訓(xùn)練速度，因?yàn)橛檬?1

16、9)和和(20)計算誤差信號相當(dāng)于計算誤差信號相當(dāng)于 假設(shè)濾波器準(zhǔn)確地完成教師強(qiáng)制的學(xué)習(xí)任務(wù)。假設(shè)濾波器準(zhǔn)確地完成教師強(qiáng)制的學(xué)習(xí)任務(wù)。 IIR自適應(yīng)濾波器的方程誤差法和輸出誤差法一般將得到自適應(yīng)濾波器的方程誤差法和輸出誤差法一般將得到 不同的解。因?yàn)榛谔荻鹊姆匠陶`差法自適應(yīng)濾波算法實(shí)不同的解。因?yàn)榛谔荻鹊姆匠陶`差法自適應(yīng)濾波算法實(shí) 際上是優(yōu)化一個不同于輸出誤差的代價函數(shù)。際上是優(yōu)化一個不同于輸出誤差的代價函數(shù)。 方程誤差法理解起來有一定難度，盡管該法設(shè)計準(zhǔn)則具有方程誤差法理解起來有一定難度，盡管該法設(shè)計準(zhǔn)則具有 二次特性。二次特性。 19Laguerre自適應(yīng)濾波器自適應(yīng)濾波器20 Lag

17、uerre自適應(yīng)濾波器自適應(yīng)濾波器v Laguerre 橫向?yàn)V波器橫向?yàn)V波器 研究的必要性研究的必要性 存在問題存在問題：根據(jù)前一節(jié)關(guān)于：根據(jù)前一節(jié)關(guān)于IIR自適應(yīng)濾波器的討論和前幾自適應(yīng)濾波器的討論和前幾 節(jié)對節(jié)對FIR自適應(yīng)濾波器的討論自適應(yīng)濾波器的討論, 我們發(fā)現(xiàn)存在如下問題：我們發(fā)現(xiàn)存在如下問題： IIR結(jié)構(gòu)結(jié)構(gòu): 為構(gòu)造高效為構(gòu)造高效長脈沖響應(yīng)長脈沖響應(yīng)自適應(yīng)濾波器提供基礎(chǔ)自適應(yīng)濾波器提供基礎(chǔ); 但穩(wěn)定問題變得更復(fù)雜。但穩(wěn)定問題變得更復(fù)雜。 FIR結(jié)構(gòu)結(jié)構(gòu): 即橫向?yàn)V波器即橫向?yàn)V波器, 容易解決穩(wěn)定問題容易解決穩(wěn)定問題; 但以增加計算復(fù)雜度為代價。但以增加計算復(fù)雜度為代價。 解決辦法

18、解決辦法：結(jié)合：結(jié)合FIR和和IIR結(jié)構(gòu)優(yōu)點(diǎn)的結(jié)構(gòu)優(yōu)點(diǎn)的混合方法混合方法可為解決長可為解決長 脈沖響應(yīng)自適應(yīng)濾波器問題提供一個折衷的方案。脈沖響應(yīng)自適應(yīng)濾波器問題提供一個折衷的方案。 關(guān)鍵：關(guān)鍵：抽頭延遲線存儲器的構(gòu)造問題抽頭延遲線存儲器的構(gòu)造問題; 方法：方法：用一個其序列為正交的用一個其序列為正交的Laguerre函數(shù)來代替函數(shù)來代替z-1, 這樣構(gòu)成的濾波器稱為這樣構(gòu)成的濾波器稱為“Laguerre 濾波器濾波器” 。21 Laguerre自適應(yīng)濾波器自適應(yīng)濾波器v Laguerre 橫向?yàn)V波器橫向?yàn)V波器 Laguerre序列序列(函數(shù)函數(shù))及其實(shí)現(xiàn)及其實(shí)現(xiàn)Laguerre序列的z變換形

19、式(即Laguerre函數(shù))可表示為：) 1 (,.,2 , 1 , 0,)1 ()(1),(1112izzzLiii它可由圖3的Laguerre抽頭延遲線存儲器 來產(chǎn)生。該存儲器由一個轉(zhuǎn)移函數(shù)為)2(11),(120zzL的低通濾波器和若干 個轉(zhuǎn)移函數(shù)為)3(1,1),(11forzzzL的全通濾波器級聯(lián)組成。22 Laguerre自適應(yīng)濾波器自適應(yīng)濾波器v Laguerre 橫向?yàn)V波器橫向?yàn)V波器 Laguerre序列序列(函數(shù)函數(shù))及其實(shí)現(xiàn)及其實(shí)現(xiàn)因此，Laguerre函數(shù)可表示為)4(,.,2 , 1 , 0,),()(,(),(0izLzLzLii傳統(tǒng)的抽頭延遲線存儲器 z-1是Lag

20、uerre抽頭延遲線存儲器 =0 的一個特例, 因?yàn)楫?dāng) =0 時，有)5(1)0 ,(0zL)6(1)0 ,(iforzzLii和23輸入信號一階低通濾波器0( , )L z( , )L z( , )L z( , )L z012M( )u n一階全通濾波器級聯(lián)圖3 截短的Laguerre抽頭延遲線存儲器圖4 Laguerre橫向?yàn)V波器輸入信號0( , )L z( , )L z( , )L z( , )L z( )u n0輸出信號( )y n0( , )u n1( , )u n2( , )u n( , )Mun12M24 Laguerre自適應(yīng)濾波器自適應(yīng)濾波器v Laguerre 橫向?yàn)V波器橫

21、向?yàn)V波器 Laguerre橫向?yàn)V波器及其橫向?yàn)V波器及其特性特性 構(gòu)成及其合理性構(gòu)成及其合理性 構(gòu)成構(gòu)成：在上述：在上述Laguerre抽頭延遲線存儲器中抽頭延遲線存儲器中,Laguerre正交正交 序列在序列在i =M處被截斷。用這種存儲結(jié)構(gòu)代替?zhèn)鹘y(tǒng)處被截斷。用這種存儲結(jié)構(gòu)代替?zhèn)鹘y(tǒng)FIR橫向?yàn)V橫向?yàn)V 波器中的波器中的z-1, 則構(gòu)成則構(gòu)成Laguerre橫向?yàn)V波器，如圖橫向?yàn)V波器，如圖4所示所示。 合理性合理性：這種截斷是正確的，因?yàn)檫@種截斷是正確的，因?yàn)長aguerre展開式的系數(shù)隨展開式的系數(shù)隨 著著 i 的增大快速衰減。的增大快速衰減。25 Laguerre自適應(yīng)濾波器自適應(yīng)濾波器v L

22、aguerre 格型濾波器格型濾波器 Laguerre橫向?yàn)V波器及其橫向?yàn)V波器及其特性（續(xù)）特性（續(xù)） 特性特性 - 它是一個受約束的IIR濾波器，因其轉(zhuǎn)移函數(shù)所有極點(diǎn)都 固定在z-平面的同一個位置,即z =處; 且 保證了該濾 波器的穩(wěn)定性, 但其靈活性不如常規(guī)IIR濾波器。 - 傳統(tǒng)橫向?yàn)V波器是Laguerre橫向?yàn)V波器=0的一個特例 - 其實(shí)際價值是，對于一個給定的階數(shù)M，它能夠比同樣 性能的傳統(tǒng)FIR濾波器用更少的系數(shù)獲得給定的特性。 - Laguerre濾波器計算方面的要求多于無約束IIR濾波器, 但它更適合于自適應(yīng)濾波應(yīng)用，因其工作時所涉及的自 適應(yīng)過程類似于FIR自適應(yīng)濾波器。

23、126 整體結(jié)構(gòu)整體結(jié)構(gòu)：考慮基于(4)式的Laguerre 格型濾波器結(jié)構(gòu)(如 圖5所示)。與傳統(tǒng)的格-梯型結(jié)構(gòu)相比，有如下不同： 用低通濾波器 的輸出作為前向和后向預(yù)測誤差 的初始值 和 。 用全通濾波器 代替了單位時延。 基本節(jié)結(jié)構(gòu)及基本關(guān)系式 經(jīng)圖6的 Laguerre格型濾波器基本節(jié)結(jié)構(gòu)濾波后的反向預(yù) 測誤差與該基本節(jié)輸入端的反向預(yù)測誤差之間的關(guān)系為),(0zL)(0nf)(0nb),(zL Laguerre自適應(yīng)濾波器自適應(yīng)濾波器v Laguerre 格型濾波器格型濾波器 構(gòu)成及算法原理構(gòu)成及算法原理)7()(),()(11nbzLnbmm將(3)代入上式，得)8()() 1()

24、1()(1111nbnbnbnbmmmm27圖5 用于聯(lián)合過程估計的Laguerre格型濾波器( , )L z( , )L z輸入信號0( , )L z( )u n輸出信號( )Men0( )fn( )d n( )Mbn0h1格型第1級kM格型第M級k1( )f n1( )Mfn( )Mfn前向檢測誤差后向檢測誤差0( )b n0( )b n1( )b n1( )Mbn1( )MbnMh1h期望響應(yīng)0( )e n1( )e n1( )Men圖6 Laguerre格型濾波器基本節(jié)( )L z( )mb nmm格型第級k1( )mfn( )mfn1( )mbn1( )mbn28 Laguerre自適應(yīng)濾波器自適應(yīng)濾波器v Laguerre 格型濾波器格型濾波器 構(gòu)成及算法原理（續(xù)）構(gòu)成及算法原理（續(xù)） 基本節(jié)結(jié)構(gòu)及基本關(guān)系式（續(xù)）基本節(jié)結(jié)構(gòu)及基本關(guān)系式（續(xù)） 按格型濾波理論,實(shí)數(shù)據(jù)時圖中Laguerre格型基本節(jié)的輸入-輸出 特性之間的關(guān)系可表為 )9()()()(11anbnfnfmmmm)9()()()(11bnfnbn