版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
1、第三章 自適應數(shù)字濾波器 第三章 自適應數(shù)字濾波器 3.1 引言引言 3.2 自適應橫向濾波器自適應橫向濾波器 3.3 自適應格型濾波器自適應格型濾波器 3.4 最小二乘自適應濾波最小二乘自適應濾波 3.5 自適應濾波的應用自適應濾波的應用 第三章 自適應數(shù)字濾波器 3.1 引引 言言 自適應數(shù)字濾波器和維納濾波器一樣,都是符合某種準則 的最佳濾波器。維納濾波器的參數(shù)是固定的,適用于平穩(wěn)隨機 信號的最佳濾波,但要設計這種濾波器,必須要求輸入信號是 平穩(wěn)的,且具有信號和噪聲統(tǒng)計分布規(guī)律的先驗知識。在實際 中, 常常無法知道這些先驗知識,且統(tǒng)計特性還會變化,因 此實現(xiàn)最佳濾波是困難的。 第三章 自
2、適應數(shù)字濾波器 自適應濾波器的特點是:濾波器的參數(shù)可以自動地按照某 種準則調整到最佳濾波;實現(xiàn)時不需要任何關于信號和噪聲的 先驗統(tǒng)計知識,尤其當輸入統(tǒng)計特性變化時,自適應濾波器都 能調整自身的參數(shù)來滿足最佳濾波的需要。 常常將這種輸入統(tǒng) 計特性未知,調整自身的參數(shù)到最佳的過程稱為“學習過程”。 將輸入信號統(tǒng)計特性變化時,調整自身的參數(shù)到最佳的過程稱 為“跟蹤過程”,因此自適應濾波器具有學習和跟蹤的性能。 由于自適應濾波器有這些特點,自1967年威德諾(B.Widrow)等 人提出自適應濾波器以來,在短短十幾年中,自適應濾波器發(fā) 展很快,已廣泛地用于系統(tǒng)模型識別,通信信道的自適應均衡, 雷達與聲
3、納的波束形成,減少或消除心電圖中的周期干擾,噪 聲中信號的檢測、跟蹤、 增強和線性預測等。 第三章 自適應數(shù)字濾波器 3.2 自適應橫向濾波器自適應橫向濾波器 自適應濾波器的原理框圖如圖3.2.1所示,圖中x(n)稱為輸 入信號,y(n)是輸出信號,d(n)稱為期望信號,或者稱為參考信 號、訓練信號,e(n)是誤差信號。 其中 e(n)=d(n)-y(n) 自適應濾波器H(z)的系數(shù)根據(jù)誤差信號,通過一定的自適應算 法,不斷地進行改變, 使輸出y(n)最接近期望信號d(n)。 這 里暫時假定d(n)是可以利用的,實際中,d(n)要根據(jù)具體情況 進行選取, 能夠選到一個合適的信號作為期望信號,是
4、設計 自適應濾波器的一項有創(chuàng)意的工作。如果真正的d d(n n)可以獲得, 我們將不需要做任何自適應濾波器。 第三章 自適應數(shù)字濾波器 圖 3.2.1 自適應濾波器原理圖 H(z) y(n)x(n) d(n) e(n) 第三章 自適應數(shù)字濾波器 3.2.1 3.2.1 自適應線性組合器和自適應自適應線性組合器和自適應FIRFIR濾波器濾波器 1. 1. 自適應濾波器的矩陣表示式自適應濾波器的矩陣表示式 圖 3.2.2 表示的是一個有N個權系數(shù)的自適應線性組合器, 圖中N個權系數(shù)w1,w2,wN受誤差信號ej的自適應控制。對于固 定的權系數(shù),輸出yj是輸入信號x1j,x2j,xNj的線性組合,因
5、此 稱它為線性組合器。這里的x1j,x2j,xNj可以理解為是從N個不 同的信號源到達的瞬時輸入,是一個多輸入系統(tǒng), 也可以是同 一個信號源的N個序貫樣本,如圖 3.2.3 所示。因此它是一個 單輸入系統(tǒng), 實際上這種單輸入系統(tǒng)就是一個FIR網(wǎng)絡結構, 或者說是一個自適應橫向濾波器。其輸出y(n)用濾波器的單位脈 沖相應表示成下式: 1 0 )()()( N m mnxmwny (3.2.1) 第三章 自適應數(shù)字濾波器 圖 3.2.2 自適應線性組合器 x1j x2j xNj dj ej yj w1 w2 wN 第三章 自適應數(shù)字濾波器 圖 3.2.3 自適應FIR濾波器 z1z1 x(n1)
6、x(n2)x(n N) z1 d(n) e(n) y(n) x(n) w2w3wN1wNw1 第三章 自適應數(shù)字濾波器 這里w(n)稱為濾波器單位脈沖響應,令:i=m+1,wi=w(i-1), xi=x(n-i+1),n用j表示,上式可以寫成 N i ijij xwy 1 (3.2.2) 這里wi也稱為濾波器加權系數(shù)。用上面公式表示其輸出,適合于 自適應線性組合器,也適合于FIR濾波器。將上式表示成矩陣形 式: jjj XWWXy TT (3.2.3) 式中 T 21 T 21 , NjjjjN xxxXwwwW 誤差信號表示為 jjjjjjj XWdWXdyde TT (3.2.4) 第三章
7、 自適應數(shù)字濾波器 2. 2. 利用均方誤差最小準則求最佳權系數(shù)和最小均方誤差利用均方誤差最小準則求最佳權系數(shù)和最小均方誤差 誤差信號被用來作為權系數(shù)的控制信號。下面采用均方誤 差最小的準則,求最佳權系數(shù)。由(3.2.4)式,均方誤差為 WXXEWWXdEdE ydEeE jjjjj jjj (2 )( TTT2 22 (3.2.5) 令 WXXEWWXdEXdER jj T jjjjdx TT (3.2.6) NjNjjNjjNj Njjjjjj Njjjjjj T jjxx xxxxxx xxxxxx xxxxxx EXXER 21 12111 12111 (3.2.7) 第三章 自適應數(shù)
8、字濾波器 將(3.2.6)、 (3.2.7)式代入(3.2.5)式, 得到 WRWWRdEeE xxdxjj TT22 2 (3.2.8) R Rdx稱為dj與Xj的互相關矩陣,是一個N維列矩陣;Rxx是輸入信 號的自相關矩陣,特點如下: (1)是對稱矩陣,即; (2) 是正定或半正定的,因為對于任意矢量V滿足下式: xx T xx RR 0)( 2TTT VXEVXXVEVRV T xx 自相關矩陣的主對角線是輸入信號的均方值, 交叉項是輸入信 號的自相關值。 第三章 自適應數(shù)字濾波器 (3.2.8)式表明,當輸入信號和期望信號是平穩(wěn)隨機信號時, 均方誤差信號Ee2j是權系數(shù)的二次函數(shù),即將
9、(3.2.8)式展 開時,公式中的權系數(shù)均以它的一次冪或二次冪出現(xiàn)。如果只 有一個權系數(shù)w1,則Ee2j是w1的口向上的拋物線;如果有兩個 權系數(shù)w1w2,則Eej2是它們的口向上的拋物面;對于兩個權系 數(shù)以上的情況,則屬于超拋物面性質。 Eej2在自適應信號處理中是一個重要的函數(shù),經(jīng)常稱它 為性能函數(shù)。為選擇權系數(shù),使性能函數(shù)到達它的最小點, 一 些有用的自適應方法都是基于梯度法的,我們用 表示Eej2 的梯度向量,它是用Eej2對每個權系數(shù)求微分而形成的一個 列向量, 用公式表示如下: j 第三章 自適應數(shù)字濾波器 T 2 2 2 1 2 , , N jjj j w eE w eE w e
10、E (3.2.9) 按照(3.2.4)式, 梯度推導如下: 2,2 21 jj T N jjj jj XeE w e w e w e eE (3.2.10) 還可以用(3.2.8)式對W求導得到 dxxxj WRWR2 (3.2.11) 令上式等于0, 得到最佳權矢量W*的表達式: dxxx RRW 1* (3.2.12) 第三章 自適應數(shù)字濾波器 對比第二章維納濾波器的最佳解,結果是一樣的。上式也 稱為維納權矢量。當自適應濾波器的權系數(shù)滿足上式時,均方 誤差將取最小值。將(3.2.12)式代入(3.2.8)式得到最小均方誤 差: *2 *2 min 2 2 2 WRdE WRWWRdEeE
11、T dxj xx TT dxjj (3.2.13) 或者將上式取轉置,用下式表示: dx T jj RWdEeE *2 min 2 (3.2.14) 我們知道,在維納濾波器中,當濾波器的單位脈沖響應取最佳值 時, 其誤差信號和輸入信號是正交的;這里也有相同的結果, 當權矢量取最佳值時,梯度為0,按照(3.2.10)式: 02 jjj XeE 第三章 自適應數(shù)字濾波器 例例 .1 一個單輸入的二維權矢量自適應濾波器如圖 3.2.4所示,圖中輸入信號與期望信號分別為 j N dj N x jj 2 cos2, 2 sin 這兩個信號都是周期性確定性信號, 因為任何正弦函數(shù)積的期 望
12、值,都可由這個積在一個或多個周期上作時間平均來計算, 可以推導出下面公式6: 5 . 0 2 cos5 . 0 2 cos5 . 05 . 0 1 , 0 2 sin)( 2 sin 2 cos 2 1 , 0 2 cos5 . 0)( 2 sin 2 sin 1 2 11 1 2 1 1 N N xxx xxx ER nn N nj N j NN xdE nn N nj N j NN xxE jjj jjj xx N j njj N j njj 第三章 自適應數(shù)字濾波器 T T 1 2 sin, 0, N xdxdER jjjjdx 2 2 sin2 2 cos)(5 . 0 2 sin02
13、 1 2 cos 2 cos1 5 . 02 2 221 2 2 2 1 2 1 2 1 21 TT22 N w N wwww w w Nw w N N ww WRWWRdEeE xxdxjj 第三章 自適應數(shù)字濾波器 圖 3.2.4 兩個權的自適應濾波器 w1 z1 xj w2 dj yj ej 第三章 自適應數(shù)字濾波器 上式表明性能函數(shù)Eej2對權函數(shù)是二次型的,用(3.2.11)式 求梯度向量,得到 N w N w N ww N w w N N RWR dxxxj 2 sin2 2 cos 2 cos 2 sin 0 2 1 2 cos 2 cos1 22 21 21 2 1 求最佳權矢
14、量可以用(3.2.12)式,通過對Rxx求逆得到,也可以 通過上式,令 ,而求出: 0 j T T 21 * 2 csc2, 2 cot2 NN wwW 第三章 自適應數(shù)字濾波器 用(3.2.13)式求最小均方誤差: 0 2 csc2 2 cot2 2 sin02min *T22 N N N WRdEeE dxjj 上式說明只要N2,不管N取多少,通過對權系數(shù)的調整可使均 方誤差達到0,此時輸出信號yj完全等于期望信號dj, 例如N=2, 按照上面公式,可以求出輸入、輸出信號以及最佳權系數(shù)如下: 第三章 自適應數(shù)字濾波器 jd jxwxwy jx www j jjj j 2 cos2 2 co
15、s2 2 sin 20 121 T* 2 * 1 * 第三章 自適應數(shù)字濾波器 3.2.2 3.2.2 性能函數(shù)表示式及其幾何意義性能函數(shù)表示式及其幾何意義 在自適應濾波器的分析研究中,性能函數(shù)是一個重要函數(shù), 前面已推導出性能函數(shù)用(3.2.8)式表示,重寫如下: WRWWRdEeE xxdxjj TT22 2 下面我們推導它的其它表示方法以及幾何意義。 均方誤差是權系數(shù)的二次函數(shù),當權系數(shù)取最佳值時, 均 方誤差取最小值,將(3.2.14)式代入(3.2.8)式,可以用最小均 方誤差表示性能函數(shù),推導如下: 為了表示方便,令 =Ee2j, 則 WRWWRRW xxdxdx TTT* min
16、 2 第三章 自適應數(shù)字濾波器 將(3.2.12)式代入上式,得到 )()( *T* min TT*TT* min T*TT*T* min WWRWW WRWWWRWW WRWWRWWRWWRW xx xxxx xxxxxxxx (3.2.15) 令 V=W-W*=v1, v2, , vNT (3.2.16) V V稱為偏差權向量,它表示權向量對最佳權向量的偏差。這樣性 能函數(shù)可以表示得更簡單: VRV xx T min (3.2.17) 第三章 自適應數(shù)字濾波器 因為Rxx是對稱的,正定或半正定的,利用它的特征值和特 征向量再進一步簡化,假設Rxx是NN維,它的N個特征值為: 1,2,N,將
17、Rxx進行分解,得到 R Rxx=Q QT TQ,=QTRxxQ (3.2.18) 通過調節(jié)使Q歸一化,即 1TT , QQIQQ (3.2.19) NNNN N N N qqq qqq qqq qqqQ 21 22221 11211 21 , (3.2.20) 第三章 自適應數(shù)字濾波器 式中,Q稱為正交矩陣或特征矩陣,qi稱為特征向量,滿足下式: NiqqR ji ji qq iiixx j T i , 2 , 1 0 1 (3.2.21) (3.2.22) 是由特征值組成的對角矩陣, 用下式表示: ),(Diag 21N (3.2.23) 將(3.2.18)式代入(3.2.17)式,得到
18、VQQV TT min 令 , T 2 1 T QVVvvvVQV N (3.2.24) 第三章 自適應數(shù)字濾波器 則 N i iiv VV 1 2 min T min (3.2.25) 上式將性能函數(shù)變成了平方和的形式。再觀察(3.2.24)式, 該式將V坐標中的Rxx的特征向量變成了V V坐標中的單位向量。 利用(3.2.24)式將特征向量qi變成qi,再利用(3.2.20)、 (3.2.21)式, 可得 TT 21 0 , 1 , 0, iNi T i qqqqqQq (3.2.26) 第三章 自適應數(shù)字濾波器 也就是說,qi為V坐標中的第i個單位向量,qi亦是矩陣 對應于i的特征向量。
19、下面用二維權矢量的情況說明它的幾何 意義。對于二維權矢量情況,有下面公式: 2 1* 2 1 , v v WWV w w W 2 221 2 1min *T* min )0() 1 (2)0( )()( )0() 1 ( ) 1 ()0( vrvvrvr WWRWW rr rr R xxxxxx xx xxxx xxxx xx 第三章 自適應數(shù)字濾波器 圖 3.2.5 二維權矢量性能表面 minw1opt w2opt w1 w2 v2 v1 第三章 自適應數(shù)字濾波器 圖 3.2.6 等均方誤差的橢圓曲線族 0w1 w2 v1 v2 v1 v2 wopt 第三章 自適應數(shù)字濾波器 按照(3.2.
20、17)式,有 cVRV xx T min 或 1 T cVRV xx 當c=min時,對應橢圓的中心,V=W-W*, 則相當于W坐標平移到V 坐標的原點,即V坐標的原點對應W坐標的最佳點W *。這里, v1v2 不是橢圓的主軸。但經(jīng)過對Rxx的分解: 2 1T 0 0 QRQ xx 且V=QTV將性能函數(shù)的橢圓族(按照(3.2.25)式)變成 1 T cVV 第三章 自適應數(shù)字濾波器 即 1 2 22 2 11 cvv 或者 1 / 21 2 2 11 2 1 c v c v (3.2.27) 顯然,上式是一個橢圓方程,v1和v2是橢圓族的主軸,如果 12,則v1是長軸,v2是短軸。因此(3.
21、2.24)式起坐標旋 轉的作用,將v1v2旋轉到主軸上,形成v1v2主軸。對于維數(shù)N 2的情況,長軸對應最小特征值,按照上面的橢圓方程長軸正 比于;短軸對應于最大特征值,正比于 。另 外, 因為 min /1 min /1 T 2 1 T , N vvvVQV 第三章 自適應數(shù)字濾波器 得到 , 2 12211NNN vvvvqvqvq(3.2.28) V中單位矢量就是V坐標中的Rxx的特征矢量。 第三章 自適應數(shù)字濾波器 3.2.3 最陡下降法最陡下降法 1. 1. 最陡下降法的遞推公式最陡下降法的遞推公式 將(3.2.11)式代入(3.2.29)式,得到 * 1 1 22 )22( WRW
22、RIW WRRWW xxjxxj jxxdxjj (3.2.30) (3.2.31) 在上式兩邊都減去W *,并令Vj=W j-W*, 得到 V Vj+1=I-2RxxVj (3.2.32) 上式是一個遞推公式,由于項不是對角矩陣,計算與分析 均復雜。下面仍然采用坐標旋轉的方法進行推導。 第三章 自適應數(shù)字濾波器 11 1 1 1-1T )2( )2( 2 , , j jxx jxxj jjjj xxxx VI VQRQIQQ QVRIQV QVVVQV QRQQQR (3.2.33) 此時,項已變成對角矩陣,假設起始值是V V0,可得到上 式的遞推解為 0 )2(VIV j j (3.2.3
23、4) 第三章 自適應數(shù)字濾波器 再將(3.2.24)式代入,再經(jīng)過坐標平移,即代入Vj=Wj-W*式, 最后得到權系數(shù)的遞推公式: )()2( * 0 T* WWQIQWW j j (3.2.35) 上面遞推公式中,部分已變成對角矩陣, 這使分析與研 究自適應特性變得簡單了。 第三章 自適應數(shù)字濾波器 2. 2. 收斂條件收斂條件 由最陡下降法的遞推公式不難分析出它的收斂條件,即當 迭代次數(shù)j趨于時,權系數(shù)收斂最佳時的條件。按照上式, 顯然只有當 max 1 0 , 2 , 11|21 | 02lim Ni I i j j (3.2.36) (3.2.37) 滿足時,才能得到: 。(3.2.3
24、7)式即是最陡下降 法的收斂條件,式中max是R Rxx的最大特征值。(3.2.36)式中的0表 示0矢量。 * limWWj j 第三章 自適應數(shù)字濾波器 3. 3. 過渡過程過渡過程 過渡過程是指權矢量和性能函數(shù)由起始點隨迭代次數(shù)的增 加,進行變化的過程。下面從權矢量和性能函數(shù)兩方面討論自 適應濾波器的過渡過程。權矢量的過渡過程討論如下: 按照(3.2.34)式,權矢量的遞推解是 0 )2(VIV j j 第i個權系數(shù)遞推方程是 0 )2( i j iji vIv(3.2.38) 令 Ni i i , 3 , 2 , 1e21 1 - (3.2.39) 第三章 自適應數(shù)字濾波器 將上式代入
25、(3.2.38)式,得到 Nivv i ji i , 3 , 2 , 1e 0 1 - (3.2.40) 上式說明第i個分量v i按指數(shù)規(guī)律變化,其時常數(shù)為 )21 (1 1 i i n i=1, 2, 3, , N (3.2.41) 因為一般取得比較小,可以近似為 i i 2 1 i=1, 2, 3, , N (3.2.42) 第三章 自適應數(shù)字濾波器 因為 2 1 21 22221 11211 jN j j NNNN N N jj v v v qqq qqq qqq QVV 所以 N k jkikji vqv 1 再將(3.2.40)式代入,得到 i j N k kikji evqv 1
26、0(3.2.43) 第三章 自適應數(shù)字濾波器 k j N k ikiji cww - 1 * e (3.2.44) 式中 0kikik vqc (3.2.45) 上式說明第i個加權系數(shù)按照N個指數(shù)和的規(guī)律變化,由初始值 收斂到最佳值,其時常數(shù)與特征值成反比。下面分析性能函數(shù) 的過渡過程。按照(3.2.25)式,性能函數(shù)如下式: N i jiij veE 1 2 min 2 (3.2.46) 將(3.2.40)式代入,得到 i j N i iij eveE 2 1 2 0min 2 (3.2.47) 第三章 自適應數(shù)字濾波器 上式說明性能函數(shù)也是按N個指數(shù)和的規(guī)律變化,和加權系 數(shù)過渡過程不同的
27、是時間常數(shù)不同, 它的時常數(shù)為 i i 4 1 2 imse (3.2.48) 我們已經(jīng)知道,性能函數(shù)和各個加權系數(shù)都是按照N個具有 不同時常數(shù)的指數(shù)和的規(guī)律變化的,時常數(shù)和特征值成反比, 不同的特征值對應的收斂時間是不一樣的,但最終的收斂要取 決于最慢的指數(shù)過程,它的時常數(shù)最大,對應最小的特征值, 公式如下: min maxmse min max 4 1 2 1 (3.2.49) (3.2.50) 第三章 自適應數(shù)字濾波器 但為保證收斂,不能取得太大,受限于最大特征值max。 這樣,如果特征值比較分散時,即max和min相差很大時, 使最陡下降法的收斂性能很差。下面分析值的影響。 值收斂過程
28、影響很大,首先必須選擇得足夠小,使之滿 足收斂條件: max 1 0 但按照(3.2.47)、 (3.2.48)式,它影響收斂速度。 一般希望 在保證收斂的條件下,選大一些,使時間常數(shù)小一些,收斂的 速度快一些。但當選擇得太大時,即使收斂條件滿足,也可 能形成振動性的過渡特性。 在圖 3.2.7 中,圖(a)是較小時 的情況;圖(b)是較大時的情況,此時過渡過程已發(fā)生振蕩。 第三章 自適應數(shù)字濾波器 圖 3.2.7 值的影響 (a) 較小時的情況; (b) 較大時的情況 (a)(b) w2 w1 w(0) w(0) w1 w2 第三章 自適應數(shù)字濾波器 3.2.4 最小均方最小均方(LMS)算
29、法算法 1. LMS1. LMS算法的權值計算算法的權值計算 LMS(Least Mean Square)算法的梯度估計值用一條樣本曲 線進行計算,公式如下: N jjj jj w e w e w e e 2 2 2 1 2 2 (3.2.51) 因為 jjj XWde T 第三章 自適應數(shù)字濾波器 所以 j N jjj X w e w e w e T 21 , jjj Xe2 (3.2.52) (3.2.53) jjjj XeWW2 1 FIR濾波器中的第i個權系數(shù)的計算公式為 Nixeww ijjijij , 3 , 2 , 12 , 1 (3.2.54) FIR濾波器中的第i個權系數(shù)的控
30、制電路如圖3.2.8所示, LMS自 適應濾波器的總框圖如圖 3.2.9 所示。 第三章 自適應數(shù)字濾波器 圖 3.2.8 FIR第i個支路的控制電路 z1 wi(n1) xi(n)wi(n) 2 e(n) 控制電路 第三章 自適應數(shù)字濾波器 LMS算法的加權系數(shù)按照(3.2.53)式進行控制, 式中加權 矢量的改變量是2ejXj,梯度的估計值是-2ejX Xj。顯然,這是 一個隨機變量,這說明LMS算法的加權矢量是隨機變化的。因此, LMS算法又稱為隨機梯度法。下面對這種算法的性能進行分析, 主要分析加權矢理和性能函數(shù)的平均變化規(guī)律以及它們的隨機 性造成的影響。 按照(3.2.52)式, 對
31、梯度估計值求統(tǒng)計平均, 得到 jjjj XeEE2 (3.2.55) 上式說明梯度估計值是無偏估計的,梯度的估計量在理想梯度 j附近隨機變化,權系數(shù)也是在理想情況下的權軌跡附近隨機 變化的。 第三章 自適應數(shù)字濾波器 控制1 控制2 控制 N x1(n) x2(n) xN(n) w1 w2 wN y(n) d(n) e(n) 圖 3.2.8 LMS自適應濾波器總計算框圖 第三章 自適應數(shù)字濾波器 2.LMS2.LMS算法加權矢量的過渡過程算法加權矢量的過渡過程 將誤差公式(3.2.4)式代入(3.2.53)式,得到 jjj T jj j T jjjjjj dXWXXi WXXdXWW 22 2
32、 1 (3.2.56) 按照(3.2.53)式, 對加權矢量取統(tǒng)計平均: * T 1 2)2( )(2 (2 2 WRWERI WERRWE WXXEXdEWE XeEWEWE xxjxx jxxdxj jjjjjj jjjj (3.2.57) 第三章 自適應數(shù)字濾波器 類似于最陡下降法的推導,經(jīng)過坐標平移和旋轉,變換到 V坐標中。其公式推導如下: 令 Vj=Wj-W* (3.2.58) 那么 EVj=EWj-W* EVj+1=EWj+1-W* (3.2.59) 將上面兩式代入(3.2.57)式中,得到 2 1jxxj VERIVE 它的遞推解是 0 2VRIVE j xxj 令 Rxx=QQ
33、 T, =QRxxQT (3.2.60) 第三章 自適應數(shù)字濾波器 , 2 1 T QVVvvvVQV N 得到 0 2VIVE j j (3.2.61) (3.2.62) 再將(3.2.59)、(3.2.60)和(3.2.61)式代入上式,得到 EWj=W*+QI-2j Q-1(W0-W*) (3.2.63) 對比(3.2.35)式,說明LMS算法加權矢量的統(tǒng)計平均值的 過渡過程和最陡下降法加權矢量的過渡過程是一樣的。換句話 說, LMS算法加權矢量是在最陡下降法加權矢量附近隨機變化 的, 其統(tǒng)計平均值等于最陡下降法加權矢量,那么,其收斂條 件同樣為 max 1 0 (3.2.64) 第三章
34、 自適應數(shù)字濾波器 在滿足收斂條件的情況下,才有下式: * limWWE j j 由于最大的特征值max不可能大于R R的跡(R R的主對角線元素之 和),即 )()(tr)()(tr max 的對角元素的對角元素RR 因此收斂條件可以表示為 )( 1 0 Rtr (3.2.65) 第三章 自適應數(shù)字濾波器 對于橫向濾波器, 式中的跡是NEx2j,即N倍的輸入功率, 那么 1 0 2 j xNE (3.2.66) 實際中,通常選得很小,選 1 0 2 j xNE (3.2.67) 同樣由(3.2.62)式,第i個分量為 0 2 i j iji vIvE (3.2.68) 第三章 自適應數(shù)字濾波
35、器 同樣引入時常數(shù)i, e 2 1 )21ln( 1 * - 0 i jj j iji ii i vQEWWE vvE (3.2.69) (3.2.70) (3.2.71) 同樣,第i個權系數(shù)可以表示成 k j N k ikiji CwwE - 1 * e (3.2.72) 第三章 自適應數(shù)字濾波器 3 . LMS3 . LMS算法性能函數(shù)的過渡過程算法性能函數(shù)的過渡過程學習過程學習過程 由于LMS算法加權矢量的平均值的變化規(guī)律與最陡下降法 的加權矢量一樣,可以推想它的均方誤差也會按照最陡下降的 均方誤差變化規(guī)律變化。下面進行推導。 按照(3.2.4)式, 信號誤差為 j T jj j T j
36、 T jj T jjjjj VXe WWXWXd WXdyde opt * )()( (3.2.73) 第三章 自適應數(shù)字濾波器 式中,eoptj=dj-XjTW*,稱為最佳誤差信號,它對應于最小均方 誤差, 即 min 22 opt jj eEeE 按照(3.2.73)式寫出均方誤差表示式: 2 22 j T joptj T jj T joptj VXeEVXXVEeEeE 假定Xj和Vj不相關,上式中最后一項為0,那么 minj T jj T j VXXVE 第三章 自適應數(shù)字濾波器 2 1 min min min ) ji N i i j T j jxx T j vE VEVE VERV
37、E 同樣,假設加權系數(shù)變化很小,V Vj也變化很小,EV VjVj,這樣: 類似前面的推導,得到 i i imse N i j oji i v 4 1 2 e 1 2 - 2 min (3.2.74) (3.2.75) 對照最陡下降法性能曲線(3.2.47)式,LMS均方誤差變化規(guī)律和 最陡下降法完全一樣,學習曲線同樣近似為幾個不同時間常數(shù) 的指數(shù)和。 第三章 自適應數(shù)字濾波器 4. 4. 穩(wěn)態(tài)誤差和失調系數(shù)穩(wěn)態(tài)誤差和失調系數(shù) 由上面分析知道,權矢量的平均值可以收斂到它的最佳值, 但權矢量變化過程是隨機的,即使其平均值收斂到最佳值,它 仍然按照下式: Wj+1=Wj+2ejXj 隨機地進行變化
38、,這樣使權矢量仍在最佳值附近隨機變化, 但均方誤差將大于最小均方誤差,如圖 3.2.10 所示。為此,引 入失調系數(shù)M,M定義為 min min M(3.2.76) 第三章 自適應數(shù)字濾波器 加權系數(shù)的變化 均方誤差的變化 min v v w wopt j 圖 3.2.10 LMS算法穩(wěn)態(tài)誤差 第三章 自適應數(shù)字濾波器 可以推出5失調系數(shù)為 N i ixx RM 1 tr (3.2.77) 或者 M=NPin (3.2.78) 式中,N是濾波器的階數(shù),Pin是輸入信號功率。上式說明和 輸入功率加大都會增加失調系數(shù)。 在保證收斂的情況下加 大,會提高收斂速度,也說明為了減小失調系數(shù), 應該適當
39、選擇收斂速度,以保證收斂速度和失調系數(shù)都滿足要求。 第三章 自適應數(shù)字濾波器 圖 3.2.11 是一個LMS自適應濾波器的計算機結果5,階 數(shù)N=5,其輸入是信號加白噪聲, 輸入信號功率為1,中心頻率 是0.03fs(fs為采樣頻率),噪聲功率為0.5, 輸入信號自相關函 數(shù)的特征值為: 5.14、0.853、0.502、0.500、0.500 ,權系 數(shù)初始值取0,=0.0065。圖中畫出了一條樣本學習曲線和150 條樣本學習曲線的平均曲線。該圖表明個別學習曲線起伏較大, 平均學習曲線起伏很小,計算出的維納最小均方誤差為0.743 96,用LMS算法得到的穩(wěn)態(tài)誤差大于該值,按(3.2.77)
40、式計算的 失調系數(shù)是4.87%,按計算機模擬結果測得的失調系數(shù)是5.40%。 第三章 自適應數(shù)字濾波器 圖 3.2.11 LMS算法的學習曲線 第三章 自適應數(shù)字濾波器 3.3 自適應格型濾波器自適應格型濾波器 3.3.1 3.3.1 前、后向線性預測誤差濾波器前、后向線性預測誤差濾波器 1. 1. 前向線性預測誤差濾波器前向線性預測誤差濾波器 為了分析簡單,假設信號屬于實平穩(wěn)隨機信號。前向線性 預測誤差濾波器直接由信號的線性一步預測導出。在維納濾波 器一章我們已研究了信號的線性一步預測問題,即由x(n-1), x(n-2), , x(n-p)預測x(n),其估計值x(n)和預測誤差ep(n)
41、 用下式表示: p k kp knxanx 1 , )() ( (3.3.1) p k kpp knxanxnxnxne 1 , )()() ( )()( 第三章 自適應數(shù)字濾波器 由于假設了信號是實的,式中預測誤差ep(n)和系數(shù)ap,k均是實 數(shù)。(3.3.1)式表明 是由n時刻以前的p個數(shù)據(jù)x(n-1)、 x(n-2)x(n-p)得到的估計,因此稱 為前向預測誤差。將前 向預測誤差用 表示,上式重寫為 )( nx )(nep )(ne f p p k kp f p knxanxne 1 , )()()(3.3.2) 對上式進行Z變換,得到 k p k kp f p zzXazXzE 1
42、, )()()(3.3.3) 令 p k k kp p k k kpf f p f zazazH zX zE zH 0 , 1 , 1)( )( )( )( (3.3.4) 第三章 自適應數(shù)字濾波器 Hf(z)稱為前向預測誤差濾波器的系統(tǒng)函數(shù)。前向預測誤差濾波 器的結構圖如圖 3.3.1所示。 圖 3.3.1 前向預測誤差濾波器 z1 ap,0 z1z1 ap,1ap,2ap, p1ap, p x(n) )(ne f p 第三章 自適應數(shù)字濾波器 用均方誤差最小的準則求前向預測誤差濾波器的最佳系數(shù)ap,k, 0 )( , 2 kp f p a neE k=1, 2, ,p (3.3.5) 將(
43、3.3.2)式代入上式,得到 0)()(knxneE f p k=1, 2, 3,,p (3.3.6) 上式表明前向預測誤差與用于預測的數(shù)據(jù)正交,這就是對于前 向預測誤差的正交原理。按照第二章的推導,前向預測誤差濾 波器的最佳系數(shù)ap,k和信號的自相關函數(shù)之間的關系式稱為 Yule-Walker方程式,重寫如下: 第三章 自適應數(shù)字濾波器 p i xxipxxp p i xxipxx irar pkikrakr 1 , 2 1 , )()0( , 3 , 2 , 10)()( (3.3.7) 將上式用矩陣方程表示為 0 0 1 ) 1()2()( ) 1()0() 1 ( )() 1 ()0(
44、 2 , 1 , p pp p xxxxxx xxxxxx xxxxxx a a prprpr prrr prrr (3.3.8) 第三章 自適應數(shù)字濾波器 2. 2. 后向線性預測誤差濾波器后向線性預測誤差濾波器 如果利用x(n+1),x(n+2), ,x(n+p)數(shù)據(jù)預測x(n),則稱為 后向預測,其估計值用 表示。這樣 )( nx p k kp knxanx 1 , )() ( (3.3.9) 一般前向、后向預測用同一數(shù)據(jù)進行,即利用x(n),x(n-1), x(n-2),,x(n-p)進行預測,為此,將上式改為 p k kp kpnxapnx 1 , )() ( (3.3.10) 這樣
45、,前向預測是由x(n-p),x(n-p+1),x(n-2),x(n-1)預測 x(n),后向預測是由x(n-p+1),x(n-p+2),x(n)預測x(n-p), 這兩種預測數(shù)據(jù)之間的關系如圖 3.3.2 所示。 第三章 自適應數(shù)字濾波器 圖 3.3.2 前向預測數(shù)據(jù)之間的關系 x(n p) , x(n p1) , , x(n2) , x(n1) , x(n) 后向預測 前向預測 第三章 自適應數(shù)字濾波器 設后向預測誤差用 表示(實際表示的是信號在n-p時刻 的預測誤差), 這樣 )(neb p ) ( )()(pnxpnxnbb p (3.3.11) 同樣,利用最小均方誤差的準則,可以得到關
46、于后向預測 時的正交原理以及Yule-Walker方程,它們分別用下面的(3.3.12) 和(3.3.13)式表示: 0)()(kpnxneE b p k=1, 2, 3, , p p i xxkpxxp p i xxkpxx irar ikrakr 1 , 2 1 , )()0( 0)()( k=1, 2, 3, , p (3.3.12) (3.3.13) 第三章 自適應數(shù)字濾波器 式中, 是后向預測誤差的最小誤差功率。將(3.3.13)式和 (3.3.7)式進行對比,它們極其相似。利用Toeplitz矩陣的性質, 可得到以下重要關系: 2 p 2 2 , , 3 , 2 , 1 pp kp
47、kp pkaa (3.3.14) (3.3.15) 上面兩式表明前、后向預測的最小誤差功率相等,系數(shù)也相等 (如果是復數(shù),則是共軛關系)。由(3.3.10)、 (3.3.11)、 (3.3.14) 式得到 1)()( 0, 0 , p p k kp b p akpnxane (3.3.16) 第三章 自適應數(shù)字濾波器 式中,當k=0, 1, 2, 3, , p時, p-k=p, p-1, p-2, , 0, 因此也可以 寫成下式: 1)()( 0, 0 , p p k kpp b p aknxane 由上式畫出后向預測誤差濾波器的結構圖如圖 3.3.3 所示。 第三章 自適應數(shù)字濾波器 圖 3
48、.3.3 后向預測誤差濾波器 z1 ap,0 z1z1 ap,1ap,p1ap,p x(n) )(neb p ap,p2 第三章 自適應數(shù)字濾波器 對比圖 3.3.1 和圖 3.3.3, 或者對比公式(3.3.2)和 (3.3.17), 它們的系數(shù)雖然一樣,但后向預測誤差濾波器的系 數(shù)排序卻是前向預測誤差濾波器系數(shù)排序的逆轉排列。 對(3.3.16)式進行Z變換,得到 p k kp kp pb p zzzXazzXzE 1 , )()()(3.3.18) 后向預測誤差濾波器的系統(tǒng)函數(shù)為 p k k kp p b p b zaz zX zE zH 1 , 1 )( )( )( (3.3.19)
49、第三章 自適應數(shù)字濾波器 將上式與前向預測誤差濾波器的系統(tǒng)函數(shù)(3.3.4)式對比,得到 前、 后向預測誤差濾波器的系數(shù)函數(shù)之間的關系是 )()( 1 zHzzH f p b 為了求解前、后向預測誤差濾波器的最佳系數(shù),需要解Yule- Walker方程??梢圆捎酶咚瓜ń獬鯽p,k(k=1,2, 3,p)以 及2p,但需要p3量級運算量。利用Yule-Walker方程中的自相 關矩陣是一個埃爾米特(Hermitain)和托布列斯(Toeplitz)矩 陣的特點,且至少是半正定的,可以有效地減少運算量,這就 是下面要推導的Levinson-Durbin算法,它的運算量級是p2。 第三章 自適應
50、數(shù)字濾波器 3.Levinson-durbin3.Levinson-durbin算法算法 Levinson-Durbin算法首先由一階AR模型開始,按照(3.3.8) 式,一階AR模型(p=1)的Yule-Walker為 0 1 )0() 1 ( )2()0( 2 1 1 , 1 a rr rr xxxx xxxx 由該方程解出: )0()1 ( )0( ) 1 ( 2 1 , 1 2 1 1 , 1 xx xx xx ra r r a 第三章 自適應數(shù)字濾波器 然后增加一階,即令p=2,按照(3.3.8)式得到 0 0 1 )0() 1 ()2( ) 1 ()0() 1 ( )2() 1 (
51、)0( 2 2 2, 2 1 , 2 a a rrr rrr rrr xxxxxx xxxxxx xxxxxx 由上面方程解出: 2 1 2 2, 2 2 2 1 , 12, 21 , 1 22 1 , 2 2 11 , 1 222 2, 2 )1 ( )1 ()0(/)2() 1 () 1 ()0( /)1 ()2( )1 ()0(/)1 ()2()0( a aaa rrrrrra rar rrrrra xxxxxxxxxxxx xxxx xxxxxxxxxx 第三章 自適應數(shù)字濾波器 然后令p=3, 4, , 以此類推, 可以得到一般遞推公式如下: )()0( )1 ( 1, 3 , 2
52、, 1 )()( 22 0 2 1 22 , 1, 1, , 2 1 1 1 1 nxEr k pkakaa ak kprapr k xx ppp kpppkpkp ppp p p k xxpxx p (3.3.21) (3.3.22) (3.3.23) (3.3.24) (3.3.25) 第三章 自適應數(shù)字濾波器 上面(3.3.21)(3.3.25)式就是Levinson-Durbin遞推公式, 該式中的kp稱為反射系數(shù)。在(3.3.24)式中,2p和2p-1是預 測誤差的均方值,因此1-k2p必須大于等于0,這樣kp應要求滿足 下式: 1| p k (3.3.26) 2 1 22 , 1
53、2 1 2 )1 ( ppppp k 反 進而得到 ,即預測誤差隨遞推次數(shù)增加而減少。把kp 稱作反射系數(shù),是類似于傳輸線的情況,如圖3.3.4 所示,第p 節(jié)的輸出功率(即下一級的輸入功率)等于前一級的輸出功率減去 本級的反射功率,用公式表示如下: 2 1 2 pp (3.3.27) 第三章 自適應數(shù)字濾波器 第 p節(jié) 2 1p 2 p 2 , 1反p 圖3.3.4 傳輸線 第三章 自適應數(shù)字濾波器 3.3.2 3.3.2 格型濾波器格型濾波器 1. 1. 由預測誤差濾波器導出格型濾波器由預測誤差濾波器導出格型濾波器 將前面已推導的前向預測誤差公式(3.3.2)重寫如下: p k kp f
54、p knxanxne 1 , )()()( 再將系數(shù)ap,k(k=1,2,3,p)的遞推公式(3.3.23)代入上式,并 令kp=ap,p,得到 1 1 1 1 , 1, 1 1 1 , 1, 1 1 1 , )()()()( )()()()( )()()()( p k p k kpppkp p k pkpppkp p k pkp f p knxapnxkknxanx pnxkknxakanx pnxkknxanxne 第三章 自適應數(shù)字濾波器 將上式與(3.3.2)式對比,方程式的右邊前兩項是p-1階前向預測 誤差, 即 1 1 , 11 )()()( p k kp f p knxanxne
55、 (3.3.28)方程式的右邊最后一項中,因為k=1,2,3,p-1時, p-k=p-1, p-2, ,1,方括號部分可以寫成 1 1 , 1 1 1 , 1 )()()()( p k kp p k kpp kpnxapnxknxapnx 將上式右邊與(3.3.16)式對比,該部分就是n-1時刻p-1階的后向 預測誤差, 即 1 1 , 11 )()() 1( p k kpp b p knxapnxne 第三章 自適應數(shù)字濾波器 這樣由(3.3.28)式,得到前向預測誤差的遞推公式, 即 ) 1()()( 11 neknene b pp f p f p (3.3.29) 類似地,得到后向預測誤
56、差的遞推公式為 )() 1()( 11 neknene f pp b p b p (3.3.30) 利用(3.3.29)式和(3.3.30)式,組成格型濾波器的第p節(jié)的結 構圖, 如圖 3.3.5(a)所示。 第三章 自適應數(shù)字濾波器 圖 3.3.5 全零點格型濾波器 )(ne f p )(neb p z1 x(n) z1z1 e0(n ) e1(n ) b0(n ) b1(n ) k1 k1 k2 k2 kp kp z1 )(ne f p )(neb p )( 1 ne f p )( 1 neb p kp kp (a) (b) 第三章 自適應數(shù)字濾波器 對于p=0的情況, 按照(3.3.2)
57、式和(3.3.11)式, 得到 )()()( 00 nxnene bf 整個預測誤差格型濾波器的結構如圖 3.3.5(b)所示。由于沒 有反饋支路,它是一個全零點格型濾波器。 經(jīng)過變形還可得 到其他類型,如全極點格型濾波器、全極點橫向濾波器,等等 5。 第三章 自適應數(shù)字濾波器 2. 2. 格型濾波器的性質格型濾波器的性質 (1) 各階后向預測誤差相互正交。 用公式表示如下: jineneE b j b i 0)()( 設ij,按照(3.3.12)式, 與x(n-j+1),x(n-j+2), x(n- i),x(n-i+1),x(n)數(shù)據(jù)正交,但按照(3.3.16)式, 是x(n- i),x(
58、n-i+1), , x(n)的線性組合,因此 與 相互正交。 各階后向預測誤差相互正交的結果,使濾波器前后級互相解 耦,對于系統(tǒng)最小化問題化為一系列獨立的對每一級局部最小 化問題。用作自適應濾波時,各級可選用不同的自適應步長, 使收斂速度提高。另外,為提高線性預測性能,需要增加一節(jié) 或幾節(jié),可以只對新增加的級進行獨立的調節(jié),達到輸出均方 誤差最小,無需再調節(jié)前面的系數(shù)。 )(neb j )(neb i )(neb i )(neb j 第三章 自適應數(shù)字濾波器 (2) 平穩(wěn)隨機序列可由自相關函數(shù)或反射系數(shù)表征。按照 Levinson-Durbin遞推公式,已知rxx(0),k1,k2,kp,從一
59、階開 始,可以推出全部的預測系數(shù)ap,1,ap,2, ,ap,p和2p,把得到 的這些數(shù)據(jù)代入Yule-walker方程,可求得信號的自相關函數(shù) rxx(0), rxx(1), rxx(2),rxx(p)。以上說明平穩(wěn)隨機序列可由 自相關函數(shù)表征,也可由rxx(0),k1,k2,kp表征。 (3) 前向預測誤差濾波器是最小相位濾波器,即它的全部零 點在單位圓內。 第三章 自適應數(shù)字濾波器 3. 對于復信號的預測誤差濾波器和格型濾波器對于復信號的預測誤差濾波器和格型濾波器 前向預測誤差濾波器的系統(tǒng)函數(shù)He(z)以及前向預測誤差公 式 和實信號情況一樣,仍是(3.3.4)式和(3.3.2)式,但利
60、用均 方誤差最小原則求預測系數(shù)要用下式求解: )(ne f p pk a neE kp f p , 3 , 2 , 10 | )(| , 2 (3.3.32) 對于前向預測誤差的正交原理,則用下式表示: pkknxneE f p , 3 , 2 , 10)()( * (3.3.33) 前向預測誤差濾波器的預測系數(shù)和信號自相關函數(shù)之間的 Yule-Walker方程仍和(3.3.8)式一樣。 第三章 自適應數(shù)字濾波器 后向預測誤差和后向預測誤差濾波器系統(tǒng)函數(shù)分別用下式表示: pkknxane p k kpp f p , 3 , 2 , 1)()( 1 * , (3.3.34) 1)( * 0, 1
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經(jīng)權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 五年級下冊人教版語文教學計劃
- 公司搬遷計劃規(guī)劃方案規(guī)劃方案
- 農林牧漁業(yè)商業(yè)計劃書
- 2025年幼兒教師學年工作計劃模板
- 綜合二教學計劃
- 公司計劃生育目標責任書公司目標責任書
- 《復合材料講》課件
- 《比昂的精神分析》課件
- 合活種植合作協(xié)議書合同模板
- 工程項目合同管理自測
- 幼兒游戲的課件
- 2025年重慶貨運從業(yè)資格證考試題及答案詳解
- 三三制薪酬設計
- 【MOOC】中國近現(xiàn)代史綱要-武漢理工大學 中國大學慕課MOOC答案
- 【新教材】蘇教版小學科學三年級上冊:全冊單元試卷、期中期末總復習試卷
- 屋面板的拆除與更換施工方案
- GB/Z 44047-2024漂浮式海上風力發(fā)電機組設計要求
- 2024版統(tǒng)編版一年級道德與法治上冊《2 我向國旗敬個禮》教學課件
- 國開(內蒙古)2024年《漢語中的中國文化》形成性考核1-3終結性考核答案
- 司法臨床司法鑒定培訓
- 第47屆世界技能大賽江蘇省選拔賽計算機軟件測試項目樣題
評論
0/150
提交評論