自適應濾波器原理

1、Adaptive Filters 自適應濾波器自適應濾波器第一節(jié)第一節(jié)引言引言一、自適應一、自適應DF 60年代以后才出現(xiàn)，發(fā)展很快。 所謂自適應DF：利用前一時刻已獲得的濾波器參數(shù)等結果，自動地調(diào)節(jié)現(xiàn)時刻的濾波器參數(shù)，以適應信號與噪聲未知的或隨時間變化的統(tǒng)計特性，從而實現(xiàn)最優(yōu)濾波。 這個概念是從仿生學中引伸出來的，生物能以各種有效的方式適應生存環(huán)境，生命力極強。二最小均方誤差（LMS） 自適應DF：以均方誤差最小為準則，能自動調(diào)節(jié)單位脈沖響應h(n),以達到最優(yōu)濾波的時變最佳DF也即：參數(shù)會變參數(shù)會變，隨著外界參數(shù)變化自動調(diào)節(jié)，使濾波器效果最佳。 19571966年美國通用公司應用于天線，為

2、了抑制旁瓣而提出。 奠定自適應濾波器的人是：美國B.Windrow 及Hoff：提出自適應DF算法，主要用于隨機信號處理。三、目的 設計自適應DF，可以不必預先知道信號與噪聲的自相關函數(shù)。 在濾波過程中，即使信號與噪聲的自相關函數(shù)隨時間緩慢變化，DF也能自動適應，自動調(diào)節(jié)到滿足均方誤差最小的要求。四、自適應發(fā)展前景11、廣泛用于系統(tǒng)模型識別如系統(tǒng)建模：其中自適應濾波器作為估計未知系統(tǒng)特性的模型。2、通信信道的自適應均衡如：高速modem采用信道均衡器：用它補償信道失真，modem必須通過具有不同頻響特性而產(chǎn)生不同失真的信道有效地傳送數(shù)據(jù)，則要求信號均衡器具有可調(diào)系數(shù)，據(jù)信道特性對這些系數(shù)進行優(yōu)

3、化，以使信道失真的某些量度最小化。又如：數(shù)字通信接收機：其中自適應濾波器用于信道識別并提供碼間串擾的均衡器。四、自適應發(fā)展前景23、雷達與聲納的波束形成如自適應天線系統(tǒng)，其中自適應濾波器用于波束方向控制，并可在波束方向圖中提供一個零點以便消除不希望的干擾。4、消除心電圖中的電源干擾如：自適應回波相消器，自適應噪聲對消器：其中自適應濾波器用于估計并對消預期信號中的噪聲分量。5、噪聲中信號的濾波、跟蹤、譜線增強以及線性預測等。五、目前常見的自適應濾波器 由于設計簡單、性能最佳，自適應DF是目前數(shù)字濾波器領域是活躍的分支，也是數(shù)字濾波器研究的熱點。 主要自適應濾波器：遞推最?。≧LS）濾波器，最小均

4、方（LMS）濾波器，格型濾波器、無限沖激響應（IIR）濾波器。第二節(jié)最小均方誤差（LMS)自適應DF的基本原理一、均方誤差 用統(tǒng)計方法，大量數(shù)求平均，提出均方誤差最小準則，即輸出信號與進行信號之間誤差最小。其定義為：22)( )()(nsnsEnE測量數(shù)據(jù)越多，則越準確。h(n)x(n)=s(n)+w(n)( )(nsny其中s(n)信號（可以是隨機信號或規(guī)則信號。10)()()()()(Nmmnxnhnxnhny輸出：二、自適應DF基本原理1.自適應DF的原理框圖自適應數(shù)字濾波器參考輸入-+d(j)(j)原始輸入x(j)y(j)x(j)表示j時刻的參考輸入，y(j)表示j時刻的輸出響應;d(

5、j)表示j時刻的原始輸入信號，即所期望的輸出響應；(j)為誤差信號=d(j)-y(j);2、自適應DF的原理(1)自適應DF的h(n)單位脈沖響應受(j)誤差信號控制。(2)根據(jù)(j)的值而自動調(diào)節(jié)，使之適合下一刻(j+1)的輸入x(j+1)，以使輸出y(j+1)更接近于所期望的響應d(j+1),直至均方誤差E2 (j)達到最小值.(3)y(j)最佳地逼近d(j)，系統(tǒng)完全適應了所加入的兩個外來信號，即外界環(huán)境。注意： x(j)和d(j)兩個輸入信號可以是確定的，也可以是隨機的，可以是平穩(wěn)的隨機過程，也可以是非平穩(wěn)的隨機過程。從圖中可見：自適應DF是由普通DF+相關抵消回路構成。3、ADF實現(xiàn)

6、可以由FIR DF或IIR DF實現(xiàn)。但由于收斂性及穩(wěn)定性，目前用得多為FIR DF 實現(xiàn)。FIR濾波器結構有：橫向型結構(直接型)（Transveral Structure)對稱橫向型結構(Symmetric Transveral Structure)格形結構(Lattice Structure)4、FIR ADF實現(xiàn) 若FIR DF的單位脈沖響應長度為，則其輸出為 可見:(1)是個現(xiàn)在或過去輸入值的加權和.(2)加權系數(shù)就是h(m)。(3)在自適應DF中，這個加權系數(shù)常用符號wj表示,時間用j表示.(4)則輸出可表示為： (5)自適應DF可變成自適應線性組合器。10)()()(Nnmnxm

7、hnyNiiijxwjy1)()(5、FIR ADF的框圖（也即自適應線性組合器）自適應算法.x1jx2jxNj+-d(j)(j)y(j)w1w2wN 若設x1j, x2j , x3j xNj ,為同一信號的不同延時組成的延時線抽頭形式，即所謂橫向FIR結構。它是最常見的一種自適應DF結構形式。 一般來講x1j, x2j , x3j xNj , 可以是任意一組輸入信號，并不一定要求當時x1j = xj, x2j= x(j-1),x3j= x(j-2) ，xNj= x(j-N+1) ，即并不要求各xi(j)是由同一信號的不同延時組成.6、橫向FIR ADF的結構自適應算法.x(j)x(j-1)x

8、(j-N+1)+-d(j)(j)y(j)w1w2wN 若設x(j), x(j-1) , x(j-2) x(j-N+1)j ,為同一信號的不同延時組成的延時線抽頭形式，即為橫向FIR結構。它是最常見的一種自適應DF結構形式。 AFy(j)(j)x(j)簡化符號為7、由橫向FIR AF組成的自適應系統(tǒng).x1(j)x2(j)xN(j)+-d(j)(j)y(j)w1w2wNAFAFAF 當所處理的輸入信號x1(j), x2(j) , x3(j) xN(j)來自不同的信號源時，它實際上就等于自適應線性組合器。三、尋找E2(j)=min時的各wi值 自適應DF的要害在于按照(j)和各xi(j)的值，通過某

9、種算法尋找出E2(j)=min時的各wi值，從而可自動地調(diào)節(jié)各wi值。1.寫出均方誤差的式子 首先我們推導出自適應線性組合器均方誤差E2(j)與加權系數(shù)wi的關系式。 )()()()()()()()()(,321)()()()(2110jXWjdjyjdjjxjxjxjXwwwWjXWWjXjxWjyTNTNnTii求均方誤差：此處大寫代表矩陣式中：寫成矩陣形式：2.x(j)信號與d(j)信號的自相關函數(shù)的自相關函數(shù)是的自相關矩陣稱為輸入信號）（令)()0()()()0()0(0)0()0()0()0()0()()(221222111211221222111221jdjdEjxRxxxxxxx

10、xxxxxxxEjXjXERddxNxNxNxxNxxxxxxNxxxxxjNjNjjNjjjjjjNjjjT3.x(j)信號與d(j)信號的互相關函數(shù)0)()0(),0(),0()()()()()()()()(12121mmmjxjdjxjdjxjdEjXjdEPdxTxNddxdxN為時間差，同一時間相關函數(shù)，與期待輸出的信號的互為輸入信號在隨機過程中令：4.求出E2(j)與wi的關系 單個值單個值單個值行方陣列列行單個值均方誤差為：代入式中求得，將)0( 2)()()0()()()()()()()()()(2)()()()()(2)()()()(2222222ddTTddTTTTTTTW

11、RWWPjdEjEjdEjXjXERjXjdEPWjXjXWEWjXjdEjdEWjXjXWjXWjdjdEjXWjdEjE5.求出自適應濾波器的E2(j)與wi的關系11111122211122)(2)()0()()0(2)0()0()(1)0(2)0()0( 2)()(NiNmNidixxmiddxdxxddNiNmNidxixxmiddTTiWmiWWjEFIRWWjENWWWWRWWPjdEjEimi數(shù)字濾波器有橫向不難證明，對于自適應時，只有一個信號當由于均方誤差為：第二節(jié)性能函數(shù)E2(j)及其梯度一、研究E 2(j)與W的關系 11111122)(2)()0(2)()(NiNmNi

12、dixxmiddTTiWmiWWWRWWPjdEjE由于均方誤差為：看出：均方誤差E 2(j)是加權系數(shù)W的二次函數(shù)，它是一個中間上凹的超拋物形曲面，是具有唯一最小值的函數(shù)。二、E 2(j)與W的關系曲線)(2jE)(22jE)(12jEAB調(diào)節(jié)加權系數(shù)W使均方誤差最小，相當于沿超拋物形曲面下降到最小值。w)(2jW)(1jW三、梯度法 在數(shù)學上，可用梯度法沿著該曲面調(diào)節(jié)權矢量 的各元素 得到這個均方誤差E 2(j)的最小值。1.均方誤差梯度 將對上式 均方誤差對權矢量的各wi進行求導，得到均方誤差梯度：NdwjdEdwjdEj)()()(212)(2jE2.求最佳權矢量（用w*表示） （1）

13、對均方誤差梯度求導 00 , 0 , 12012)(00 , 0 , 100 , 0 , 1010100 , 0 , 10120)(0)(1212WRPdwjdERRRWRRWRWRWWRPdwjdEjTTTTTTTTT為對稱方陣，即：求最佳權矢量，則令（2）求出均方誤差梯度表示式 2222)(22)(22)(22)(00 , 0 , 12012,222211211PWRWRPjWRxddwjdEWRxddwjdEWRxddwjdEWRWRxdPxdxdPNjNjNjjjjjjTjNjjjT均方誤差梯度為：以此類推：個元素第第二元素第一元素第一元素（3）維納-霍夫方程霍夫方程這是著名的維納或達

14、最佳值。為最小，時，當均方誤差梯度為：)(0)( 2 2 2 2)(1*2PRWPWRWjEjPWRWRPj(4)最小均方誤差算法,)()(*221*WPRPWjdEjEPRW即可以求出已知最小誤差為：最小權矢量為： 實際上，設計自適應DF無需知道R和P。自適應DF與維納（平穩(wěn)隨機過程）DF比較，其差別在于增加了一個識別控制環(huán)節(jié)，將輸出y(j)與所期望的響應d(j)比較，看是否一樣，如果有誤差(j)，用(j)去控制w,使w為E2(j)=min時的W*. 因此，關鍵：找到LMS算法，尋找一個W的遞推式，由W=W0，起始值開始，沿著趨于W*的正確方向逐步遞推，直至W=W*，E2(j)=min為止。

15、這就是最小均方誤差算法，簡稱LMS算法。第三節(jié)LMS遞推算法 尋找一個W的遞推式，由W=W0，起始值開始，沿著趨于W*的正確方向逐步遞推，直至W=W*，E2(j)=min為止一、LMS算法遞推式 LMS遞推算法是Windrow與Hoff兩個提出的。 設w(j)是j時刻的權矢量，w(j+1)是j+1時刻的權矢量； 則LMS算法的遞推公式為： 式中0, 是一個控制穩(wěn)定性與收斂速度的參數(shù)。 因為E2(j)是權矢量W的二次方程，即E2(j)與W的關系在幾何上是一個“碗形”的多維曲面。時刻的均方誤差梯度。是jj :)()()()1(jjWjW指引正確的遞推方向。導向參數(shù)是,:)(jj二、自適應過程的物理

16、意義)(2jE)(22jE)(12jEAB)(2jW)(1jW點。即碗底：。，去尋找“碗”的底點連續(xù)地調(diào)節(jié)，據(jù)遞推式自適應的物理意義：根*2, 0)()()() 1(wwdwjdEWjjWjWW 為了簡單，設W是一維的，則E2(j)與W的關系成為一個拋物線。三、自適應遞推算法的遞推過程1、步驟1右邊。必在則時，當左邊。必在則時，設當WjWdwjdEjWWWjWdwjdEjWWjwwjww)(, 0)()()(, 0)()()(22)(21212.步驟2.) 1() 1)(, 0)()()() 1(, 0) 122*2*2)(2211*12WjWjWWjWWWjWdwjdEjWWWjWjWwWj

17、WWjww（應為，更接近于（值為了使下一個右邊。必在即時，如果設，更接近（值為了使下一個3.步驟3-合并TNjWWdWjdEdWjdEdWjdEjjWjjWjWjWjWjWWWjWdWjdEjWjW)()()()()()()()1()(.)()1()(,0)()()1(,22212*)(2，可用矩陣表示：是多維的情況時，梯度當表示：用梯度更接近于比值都能使下一個左邊或右邊，在不論原來式中得：將上兩式合并4.步驟4-結論*2*)()1(0)()()1()()()()()1(WjWjWjjjWWWLMSjEjWWjjWjW，當確定?？繑_的步距由的方向向碗底靠擾。將沿著時，根據(jù)上式，當。算法也稱為最

18、陡下降法因此下降最快的方向。代表因為這一點?？梢哉业接桑核?、LMS自適應濾波器遞推公式（1）LMS算法如何實時處理及實現(xiàn)的無偏估計是，得出的數(shù)學期望代入上式，得：得又的估值，有：作為均方誤差的梯度（用單樣本怎樣處理呢？參數(shù)，不能實時計算，是個集合平均的，可知：由：)()()()()()()(2)()()(,)(,)(),()()()(,)(,)()(2)(,)(,)()()()()()()() 1(21)(21)(222122jjjjEjjXjjjXdWjddWjddWjdjXWjdjdWjddWjddWjdjdWjddWjddWjdjjjjjjjWjWTNTTjWWNTjWWN（2） LMS

19、自適應濾波器遞推公式的結構圖。也可由此設計硬件實現(xiàn)型，軟件實現(xiàn)的編程數(shù)學模它們就是自適應）可按上式遞推計算，（，）給定輸入（可任意設置。）（）起始條件（式中：自適應濾波器遞推公式得出一組代入方程中將上式：由誤差方程：DFjxjxjxWWWLMSjXjjWjWjXjjWjWjXjjjjWjWNNNNN3)(),()(2)0(,),0(,01.)()(2)() 1()()(2)() 1()()(2)()()() 1(2121111五、自適應濾波器的主要結論（1）低。誤差最大，估計精度最時不相關時，互相關系數(shù)與當)()(, 00)()()()(2min21*jdEjEPRWjXjdEPjdjX 2)

20、()(22WRWWPjdEjETT因為均方誤差為：五、自適應濾波器的主要結論（2）高。誤差減少，估計精度提則相關時，與當)()()()()(2*221*jdEPWjdEjEPRWjdjXT 2)()(22WRWWPjdEjETT因為均方誤差為：五、自適應濾波器的主要結論（3）高。，最準確，估計精度最均方誤差為則時，即階數(shù)完全相關時，與當00)(0)()()()()()(1)()(1)()(21*jEjyjdjjdjxjyPRWRPjdjXNjdjX 2)()(22WRWWPjdEjETT因為均方誤差為：五、自適應濾波器的主要結論（4） 自適應數(shù)字濾波器是個線性系統(tǒng)，時變，服從疊加原理。第四節(jié)

21、自適應數(shù)字濾波器的應用 自適應濾波器最重要特性：能有效地在未知環(huán)境中跟蹤時變的輸入信號，使輸出信號達到最優(yōu)。因而在電信，雷達，聲納，實時控制以及圖象處理等領域都有成功的應用。一、應用介紹 自適應數(shù)字濾波器的應用非常廣泛，這里介紹四種。 一、自適應噪聲抵消器； 二、自適應陷波濾波器； 三、自適應預測系統(tǒng)。二自適應噪聲抵消器1、自適應噪聲抵消器引入 固定參數(shù)的數(shù)字濾波器利用自身的傳輸特性來抑制信號中的干擾成分，消除干擾的效果受到很大的限制。 若已知道干擾信號的來源，就可利用干擾源的輸出去抵消信號中的混雜的干擾。 但直接利用干擾源的輸出去抵消干擾的做法是危險的，因為由于延遲的影響，不僅不能減小信號中

22、的干擾，反而有可能使干擾加強。 在自適應噪聲抵消器中，是利用干擾源的輸出，通過一個數(shù)字濾波器，最佳地估計出干擾值，從而從混有干擾的輸入中減去干擾估值，實現(xiàn)了干擾與信號相當完善的分離。2、自適應噪聲抵消器的原理框圖信號源噪聲源自適應濾波+-)(ne)( ns)(0nV)(1nV)()(0nVnS原始輸入互不相關。、與且程，為零均值的平穩(wěn)隨機過、設定誤差最小。最佳估值，即兩者均方為相關的噪聲參考輸入為與圖中：原始輸入為：)()()()()()(:)()()()()()(101000100nVnVnSnVnVnSnVnVnVnVnVnS3、自適應噪聲抵消器的輸出1噪聲抵消。是相關，這樣才能進行、要求

23、。時，。誤差最小求自適應濾波是使均方無關，、與程為零均值的平穩(wěn)隨機過、出自適應噪聲抵消器的輸)()(min)(0)()(min)(0)()()()()()(,)()()()()()(2)()()()()()()(2)()()()()()()()()(00220020010100020022002002200nVnVneEnVnVEneEnVnVnsEnVnVnSnVnVnSnVnVnsEnVnVEnSEneEnVnVnSnVnVnSnenVnVnSnene3、自適應噪聲抵消器的輸出2相等則最佳。（一般為噪聲）相關，必須與被抵消信號參考輸入信號務條件：完成自適應噪聲抵消任看出：自適應濾波器要。這時自適應濾波器關閉號，什么信號，出來什么信也表明：原始信號進來那么：不相關，則、若)()(000)()()()()(2)()()()(0)()()()(0120202002020220000nVnVnVEnVEnSEnVnVEnVEnVEnSEneEnVnVEnVnV4、自適應噪聲抵消器的應用 （1）胎心心電