現(xiàn)代數(shù)字信號處理5齊齊哈爾大學PPT課件

1、現(xiàn)代數(shù)字信號處置齊齊哈爾大學通訊學院何鵬第五章第五章 自順應濾波器自順應濾波器60年代以后才出現(xiàn)，開展很快。所謂自順應DF：利用前一時辰已獲得的濾波器參數(shù)等結(jié)果，自動地調(diào)理現(xiàn)時辰的濾波器參數(shù)，以順應信號與噪聲未知的或隨時間變化的統(tǒng)計特性，從而實現(xiàn)最優(yōu)濾波。這個概念是從仿生學中引伸出來的，生物能以各種有效的方式順應生存環(huán)境，生命力極強。二最小均方誤差LMS自順應DF：以均方誤差最小為準那么，能自動調(diào)理單位脈沖呼應h(n),以到達最優(yōu)濾波的時變最正確DF也即：參數(shù)會變，隨著外界參數(shù)變化自動調(diào)理，使濾波器效果最正確。19571966年美國通用公司運用于天線，為了抑制旁瓣而提出。奠定自順應濾波器的人是

2、：美國B.Windrow 及Hoff：提出自順應DF算法，主要用于隨機信號處置。三、目的設計自順應DF，可以不用預先知道信號與噪聲的自相關函數(shù)。在濾波過程中，即使信號與噪聲的自相關函數(shù)隨時間緩慢變化，DF也能自動順應，自動調(diào)理到滿足均方誤差最小的要求。四、自順應開展前景11、廣泛用于系統(tǒng)模型識別如系統(tǒng)建模：其中自順應濾波器作為估計未知系統(tǒng)特性的模型。2、通訊信道的自順應平衡如：高速modem采用信道平衡器：用它補償信道失真，modem必需經(jīng)過具有不同頻響特性而產(chǎn)生不同失真的信道有效地傳送數(shù)據(jù)，那么要求信號平衡器具有可調(diào)系數(shù)，據(jù)信道特性對這些系數(shù)進展優(yōu)化，以使信道失真的某些量度最小化。又如：數(shù)字

3、通訊接納機：其中自順應濾波器用于信道識別并提供碼間串擾的平衡器。四、自順應開展前景23、雷達與聲納的波束構(gòu)成如自順應天線系統(tǒng)，其中自順應濾波器用于波束方向控制，并可在波束方向圖中提供一個零點以便消除不希望的干擾。4、消除心電圖中的電源干擾如：自順應回波相消器，自順應噪聲對消器：其中自順應濾波器用于估計并對消預期信號中的噪聲分量。5、噪聲中信號的濾波、跟蹤、譜線加強以及線性預測等。五、目前常見的自順應濾波器由于設計簡單、性能最正確，自順應DF是目前數(shù)字濾波器領域是活潑的分支，也是數(shù)字濾波器研討的熱點。主要自順應濾波器：遞推最小RLS濾波器，最小均方LMS濾波器，格型濾波器、無限沖激呼應IIR濾波

4、器。第二節(jié)最小均方誤差LMS)自順應DF的根本原理一、均方誤差 用統(tǒng)計方法，大量數(shù)求平均，提出均方誤差最小準那么，即輸出信號與進展信號之間誤差最小。其定義為：22)( )()(nsnsEnE丈量數(shù)據(jù)越多，那么越準確。h(n)x(n)=s(n)+w(n)( )(nsny其中s(n)信號可以是隨機信號或規(guī)那么信號。10)()()()()(Nmmnxnhnxnhny輸出：二、自順應DF根本原理1.自順應DF的原理框圖自順應數(shù)字濾波器參考輸入-+d(j)(j)原始輸入x(j)y(j)x(j)表示j時辰的參考輸入，y(j)表示j時辰的輸出呼應;d(j)表示j時辰的原始輸入信號，即所期望的輸出呼應；(j)

5、為誤差信號=d(j)-y(j);2、自順應DF的原理(1)自順應DF的h(n)單位脈沖呼應受(j)誤差信號控制。(2)根據(jù)(j)的值而自動調(diào)理，使之適宜下一刻(j+1)的輸入x(j+1)，以使輸出y(j+1)更接近于所期望的呼應d(j+1),直至均方誤差E2 (j)到達最小值.(3)y(j)最正確地逼近d(j)，系統(tǒng)完全順應了所參與的兩個外來信號，即外界環(huán)境。留意： x(j)和d(j)兩個輸入信號可以是確定的，也可以是隨機的，可以是平穩(wěn)的隨機過程，也可以是非平穩(wěn)的隨機過程。從圖中可見：自順應DF是由普通DF+相關抵消回路構(gòu)成。3、ADF實現(xiàn)可以由FIR DF或IIR DF實現(xiàn)。但由于收斂性及穩(wěn)

6、定性，目前用得多為FIR DF 實現(xiàn)。FIR濾波器構(gòu)造有：橫向型構(gòu)造(直接型)Transveral Structure)對稱橫向型構(gòu)造(Symmetric Transveral Structure)格形構(gòu)造(Lattice Structure)4、FIR ADF實現(xiàn) 假設FIR DF的單位脈沖呼應長度為，那么其輸出為 可見:(1)是個如今或過去輸入值的加權和.(2)加權系數(shù)就是h(m)。(3)在自順應DF中，這個加權系數(shù)常用符號wj表示,時間用j表示.(4)那么輸出可表示為： (5)自順應DF可變成自順應線性組合器。10)()()(NnmnxmhnyNiiijxwjy1)()(5、FIR AD

7、F的框圖也即自順應線性組合器自順應算法.x1jx2jxNj+-d(j)(j)y(j)w1w2wN 假設設x1j, x2j , x3j xNj ,為同一信號的不同延時組成的延時線抽頭方式，即所謂橫向FIR構(gòu)造。它是最常見的一種自順應DF構(gòu)造方式。 普通來講x1j, x2j , x3j xNj , 可以是恣意一組輸入信號，并不一定要求當時x1j = xj, x2j= x(j-1),x3j= x(j-2) ，xNj= x(j-N+1) ，即并不要求各xi(j)是由同一信號的不同延時組成.6、橫向FIR ADF的構(gòu)造自順應算法.x(j)x(j-1) x(j-N+1)+-d(j)(j)y(j)w1w2w

8、N 假設設x(j), x(j-1) , x(j-2) x(j-N+1)j ,為同一信號的不同延時組成的延時線抽頭方式，即為橫向FIR構(gòu)造。它是最常見的一種自順應DF構(gòu)造方式。 AFy(j)(j)x(j)簡化符號為7、由橫向FIR AF組成的自順應系統(tǒng).x1(j)x2(j)xN(j)+-d(j)(j)y(j)w1w2wNAFAFAF 當所處置的輸入信號x1(j), x2(j) , x3(j) xN(j)來自不同的信號源時，它實踐上就等于自順應線性組合器。三、尋覓E2(j)=min時的各wi值自順應DF的關鍵在于按照(j)和各xi(j)的值，經(jīng)過某種算法尋覓出E2(j)=min時的各wi值，從而可

9、自動地調(diào)理各wi值。1.寫出均方誤差的式子首先我們推導出自順應線性組合器均方誤差E2(j)與加權系數(shù)wi的關系式。 )()()()()()()()()(,321)()()()(2110jXWjdjyjdjjxjxjxjXwwwWjXWWjXjxWjyTNTNnTii求均方誤差：此處大寫代表矩陣式中：寫成矩陣形式：2.x(j)信號與d(j)信號的自相關函數(shù)的自相關函數(shù)是的自相關矩陣稱為輸入信號）（令)()0()()()0()0(0)0()0()0()0()0()()(221222111211221222111221jdjdEjxRxxxxxxxxxxxxxxEjXjXERddxNxNxNxxNx

10、xxxxxNxxxxxjNjNjjNjjjjjjNjjjT3.x(j)信號與d(j)信號的相互關函數(shù)0)()0(),0(),0()()()()()()()()(12121mmmjxjdjxjdjxjdEjXjdEPdxTxNddxdxN為時間差，同一時間相關函數(shù)，與期待輸出的信號的互為輸入信號在隨機過程中令：4.求出E2(j)與wi的關系 單個值單個值單個值行方陣列列行單個值均方誤差為：代入式中求得，將)0( 2)()()0()()()()()()()()()(2)()()()()(2)()()()(2222222ddTTddTTTTTTTWRWWPjdEjEjdEjXjXERjXjdEPWj

11、XjXWEWjXjdEjdEWjXjXWjXWjdjdEjXWjdEjE5.求出自順應濾波器的E2(j)與wi的關系11111122211122)(2)()0()()0(2)0()0()(1)0(2)0()0( 2)()(NiNmNidixxmiddxdxxddNiNmNidxixxmiddTTiWmiWWjEFIRWWjENWWWWRWWPjdEjEimi數(shù)字濾波器有橫向不難證明，對于自適應時，只有一個信號當由于均方誤差為：第二節(jié)性能函數(shù)E2(j)及其梯度一、研討E 2(j)與W的關系 11111122)(2)()0(2)()(NiNmNidixxmiddTTiWmiWWWRWWPjdEjE

12、由于均方誤差為：看出：均方誤差E 2(j)是加權系數(shù)W的二次函數(shù)，它是一個中間上凹的超拋物形曲面，是具有獨一最小值的函數(shù)。二、E 2(j)與W的關系曲線)(2jE)(22jE)(12jEAB調(diào)理加權系數(shù)W使均方誤差最小，相當于沿超拋物形曲面下降到最小值。w)(2jW)(1jW三、梯度法在數(shù)學上，可用梯度法沿著該曲面調(diào)理權矢量 的各元素 得到這個均方誤差E 2(j)的最小值。1.均方誤差梯度將對上式 均方誤差對權矢量的各wi進展求導，得到均方誤差梯度：NdwjdEdwjdEj)()()(212)(2jE2.求最正確權矢量用w*表示 1對均方誤差梯度求導 00 , 0 , 12012)(00 ,

13、0 , 100 , 0 , 1010100 , 0 , 10120)(0)(1212WRPdwjdERRRWRRWRWRWWRPdwjdEjTTTTTTTTT為對稱方陣，即：求最佳權矢量，則令2求出均方誤差梯度表示式 2222)(22)(22)(22)(00 , 0 , 12012,222211211PWRWRPjWRxddwjdEWRxddwjdEWRxddwjdEWRWRxdPxdxdPNjNjNjjjjjjTjNjjjT均方誤差梯度為：以此類推：個元素第第二元素第一元素第一元素3維納-霍夫方程霍夫方程這是著名的維納或達最佳值。為最小，時，當均方誤差梯度為：)(0)( 2 2 2 2)(1

14、*2PRWPWRWjEjPWRWRPj(4)最小均方誤差算法,)()(*221*WPRPWjdEjEPRW即可以求出已知最小誤差為：最小權矢量為： 實踐上，設計自順應DF無需知道R和P。自順應DF與維納平穩(wěn)隨機過程DF比較，其差別在于添加了一個識別控制環(huán)節(jié)，將輸出y(j)與所期望的呼應d(j)比較，看能否一樣，假設有誤差(j)，用(j)去控制w,使w為E2(j)=min時的W*. 因此，關鍵：找到LMS算法，尋覓一個W的遞推式，由W=W0，起始值開場，沿著趨于W*的正確方向逐漸遞推，直至W=W*，E2(j)=min為止。這就是最小均方誤差算法，簡稱LMS算法。第三節(jié)LMS遞推算法尋覓一個W的遞

15、推式，由W=W0，起始值開場，沿著趨于W*的正確方向逐漸遞推，直至W=W*，E2(j)=min為止一、LMS算法遞推式LMS遞推算法是Windrow與Hoff兩個提出的。設w(j)是j時辰的權矢量，w(j+1)是j+1時辰的權矢量；那么LMS算法的遞推公式為：式中0, 是一個控制穩(wěn)定性與收斂速度的參數(shù)。由于E2(j)是權矢量W的二次方程，即E2(j)與W的關系在幾何上是一個“碗形的多維曲面。時刻的均方誤差梯度。是jj :)()()()1(jjWjW指引正確的遞推方向。導向參數(shù)是,:)(jj二、自順應過程的物理意義)(2jE)(22jE)(12jEAB)(2jW)(1jW點。即碗底：。，去尋找“

16、碗”的底點連續(xù)地調(diào)節(jié)，據(jù)遞推式自適應的物理意義：根*2, 0)()()() 1(wwdwjdEWjjWjWW 為了簡單，設W是一維的，那么E2(j)與W的關系成為一個拋物線。三、自順應遞推算法的遞推過程1、步驟1右邊。必在則時，當左邊。必在則時，設當WjWdwjdEjWWWjWdwjdEjWWjwwjww)(, 0)()()(, 0)()()(22)(21212.步驟2.) 1() 1)(, 0)()()() 1(, 0) 122*2*2)(2211*12WjWjWWjWWWjWdwjdEjWWWjWjWwWjWWjww（應為，更接近于（值為了使下一個右邊。必在即時，如果設，更接近（值為了使下

17、一個3.步驟3-合并TNjWWdWjdEdWjdEdWjdEjjWjjWjWjWjWjWWWjWdWjdEjWjW)()()()()()()()1()(.)()1()(,0)()()1(,22212*)(2，可用矩陣表示：是多維的情況時，梯度當表示：用梯度更接近于比值都能使下一個左邊或右邊，在不論原來式中得：將上兩式合并4.步驟4-結(jié)論*2*)()1(0)()()1()()()()()1(WjWjWjjjWWWLMSjEjWWjjWjW，當確定。靠擾的步距由的方向向碗底靠擾。將沿著時，根據(jù)上式，當。算法也稱為最陡下降法因此下降最快的方向。代表因為這一點?？梢哉业接桑核?、LMS自順應濾波器遞推公

18、式1LMS算法如何實時處置及實現(xiàn)的無偏估計是，得出的數(shù)學期望代入上式，得：得又的估值，有：作為均方誤差的梯度（用單樣本怎樣處理呢？參數(shù)，不能實時計算，是個集合平均的，可知：由：)()()()()()()(2)()()(,)(,)(),()()()(,)(,)()(2)(,)(,)()()()()()()() 1(21)(21)(222122jjjjEjjXjjjXdWjddWjddWjdjXWjdjdWjddWjddWjdjdWjddWjddWjdjjjjjjjWjWTNTTjWWNTjWWN2 LMS自順應濾波器遞推公式的結(jié)構(gòu)圖。也可由此設計硬件實現(xiàn)型，軟件實現(xiàn)的編程數(shù)學模它們就是自適應）可

19、按上式遞推計算，（，）給定輸入（可任意設置。）（）起始條件（式中：自適應濾波器遞推公式得出一組代入方程中將上式：由誤差方程：DFjxjxjxWWWLMSjXjjWjWjXjjWjWjXjjjjWjWNNNNN3)(),()(2)0(,),0(,01.)()(2)() 1()()(2)() 1()()(2)()()() 1(2121111五、自順應濾波器的主要結(jié)論1低。誤差最大，估計精度最時不相關時，互相關系數(shù)與當)()(, 00)()()()(2min21*jdEjEPRWjXjdEPjdjX 2)()(22WRWWPjdEjETT因為均方誤差為：五、自順應濾波器的主要結(jié)論2高。誤差減少，估計

20、精度提則相關時，與當)()()()()(2*221*jdEPWjdEjEPRWjdjXT 2)()(22WRWWPjdEjETT因為均方誤差為：五、自順應濾波器的主要結(jié)論3高。，最準確，估計精度最均方誤差為則時，即階數(shù)完全相關時，與當00)(0)()()()()()(1)()(1)()(21*jEjyjdjjdjxjyPRWRPjdjXNjdjX 2)()(22WRWWPjdEjETT因為均方誤差為：五、自順應濾波器的主要結(jié)論4自順應數(shù)字濾波器是個線性系統(tǒng)，時變，服從疊加原理。第四節(jié) 自順應數(shù)字濾波器的運用 自順應濾波器最重要特性：能有效地在未知環(huán)境中跟蹤時變的輸入信號，使輸出信號到達最優(yōu)。因

21、此在電信，雷達，聲納，實時控制以及圖象處置等領域都有勝利的運用。一、運用引見自順應數(shù)字濾波器的運用非常廣泛，這里引見四種。 一、自順應噪聲抵消器； 二、自順應陷波濾波器； 三、自順應預測系統(tǒng)。二自順應噪聲抵消器1、自順應噪聲抵消器引入 固定參數(shù)的數(shù)字濾波器利用本身的傳輸特性來抑制信號中的干擾成分，消除干擾的效果遭到很大的限制。假設知道干擾信號的來源，就可利用干擾源的輸出去抵消信號中的混雜的干擾。但直接利用干擾源的輸出去抵消干擾的做法是危險的，由于由于延遲的影響，不僅不能減小信號中的干擾，反而有能夠使干擾加強。在自順應噪聲抵消器中，是利用干擾源的輸出，經(jīng)過一個數(shù)字濾波器，最正確地估計出干擾值，從

22、而從混有干擾的輸入中減去干擾估值，實現(xiàn)了干擾與信號相當完善的分別。2、自順應噪聲抵消器的原理框圖信號源噪聲源自順應濾波+-)(ne)( ns)(0nV)(1nV)()(0nVnS原始輸入互不相關。、與且程，為零均值的平穩(wěn)隨機過、設定誤差最小。最佳估值，即兩者均方為相關的噪聲參考輸入為與圖中：原始輸入為：)()()()()()(:)()()()()()(101000100nVnVnSnVnVnSnVnVnVnVnVnS3、自順應噪聲抵消器的輸出1噪聲抵消。是相關，這樣才能進行、要求。時，。誤差最小求自適應濾波是使均方無關，、與程為零均值的平穩(wěn)隨機過、出自適應噪聲抵消器的輸)()(min)(0)(

23、)(min)(0)()()()()()(,)()()()()()(2)()()()()()()(2)()()()()()()()()(00220020010100020022002002200nVnVneEnVnVEneEnVnVnsEnVnVnSnVnVnSnVnVnsEnVnVEnSEneEnVnVnSnVnVnSnenVnVnSnene3、自順應噪聲抵消器的輸出2相等則最佳。（一般為噪聲）相關，必須與被抵消信號參考輸入信號務條件：完成自適應噪聲抵消任看出：自適應濾波器要。這時自適應濾波器關閉號，什么信號，出來什么信也表明：原始信號進來那么：不相關，則、若)()(000)()()()()(

24、2)()()()(0)()()()(0120202002020220000nVnVnVEnVEnSEnVnVEnVEnVEnSEneEnVnVEnVnV4、自順應噪聲抵消器的運用 1胎心心電圖中消去母體干擾1由于胎兒心電圖的研討，處理婦產(chǎn)科難胎位、單胎位、雙胎位、分娩期間心率能否正常及優(yōu)生學方面孕婦懷孕的中，后期預測胎兒在的生理情況。胎兒心電只需母體的1/10.胎兒心電圖在胎兒腹壁丈量。稱腹壁胎兒心電圖，簡稱心電圖。1胎心心電圖中消去母體干擾2輸出腹部電極原始輸入胸參部輸電考極入自順應胎兒心電圖測試儀其中原始輸入a(t)=f(t)+m(t)+n(t)f(t):胎兒心臟產(chǎn)生信號m(t):母親心臟

25、產(chǎn)生信號n(t):噪聲干擾信號主要由肌肉起的，有時稱“肌肉噪聲。 采用自順應噪聲抵消器消除胎兒心電圖中母體心臟信號干擾。普通采用：四個普通胸導每路信號一樣記錄母親心跳，作為參考輸入信號。經(jīng)過自順應噪聲抵消器處置后，母親心臟干擾信號被顯著消弱，胎兒心聲可辨。1胎心心電圖中消去母體干擾3預濾波帶寬335Hz.胎兒脈沖諧波很多抽樣頻率：為256Hz.2噪聲抵消器其他運用語音信號的鎮(zhèn)噪、飛機、汽車，船艙內(nèi)大量噪聲的抑制。天線旁瓣干擾的消除，以及消除50Hz紋波等。三、自順應陷波器假設信號中的干擾是單頻的正弦波，設頻率為w0那么消除這種干擾的正確方法是運用陷波器。1、陷波器理想頻率特性)(jHw02、自

26、順應陷波器的優(yōu)點與普通陷波器比較，有兩 大優(yōu)點：1可以自順應地準確跟蹤干擾頻率。2容易控制帶寬，且值越高，帶寬越窄。為帶寬。，其中單頻干擾頻率為QffffQ00,3、單頻干擾陷波器框圖90LMS算法+-參考輸入原始輸入)( jjy)cos(0twC)cos()(0tAts)( jd)(1jx)(2jx頻率相同相位與干擾頻率不同但幅度參考輸入陷波要去掉信號其中：原始輸入：)cos(:)cos()(00tctAts4.多麥克風降噪?yún)⒖见溈孙L輸入主麥克風輸入噪聲源MATLAB 處置同窗們好模型S 信號n0 噪聲,它是n1經(jīng)過濾波以后得到的噪聲,即n0 =filter(w, n1)n1 參考噪聲y n

27、1 經(jīng)過濾波以后得到的信號(濾波器w的系數(shù)未知)假設: 它們都是零均值的, S與n0及n1不相關, 但是n0 和n1相關Singal + Noise0FilterNoise1s+n0n1yRecovered Signalz+-主麥克風輸入?yún)⒖见溈孙L輸入模型目的: 對n1進展自順應濾波,濾波器為w, 從主麥克風得到的信號中減去y, 得到 “干凈的信號z,從而到達降噪 的目的。Singal + Noise0FilterNoise1s+n0n1yRecovered Signalz+-主麥克風輸入?yún)⒖见溈孙L輸入算法)(20nyE 20min22minnyEsEzE代價函數(shù)戰(zhàn)略戰(zhàn)略: 調(diào)整濾波器系數(shù)調(diào)整

28、濾波器系數(shù), 使使 最小最小, 這也意味著這也意味著 最小最小. 這個意義下這個意義下, 可以看成是誤差可以看成是誤差 信號信號z2zE 2202022nyEsEnysEsEzE濾波器系數(shù)的調(diào)整濾波器的階數(shù)是worder, 濾波器的輸出其中調(diào)整濾波器系數(shù)的LMS算法Tinworderini)(,),1()(111n)()()(1iiiyTnw)()() 1()(1iziiinww濾波器系數(shù)的調(diào)整調(diào)整濾波器系數(shù)的RLS算法)()() 1()(iziiikww)() 1()(1)() 1()(11111iiiiiiTnPnnPk) 1()()() 1()(111iiiiiTPnkPP語音00.51

29、1.522.533.544.55x 104-0.6-0.4-0.6signal噪聲環(huán)境中的語音00.511.522.533.544.55x 104-10-50510primary microphone signalLMS濾波效果00.511.522.533.544.55x 104-4-2024primary microphone signal00.511.522.533.544.55x 104-101filtered output0123456x 1040102030Mean Squared Error主麥克風信號濾波輸出信號均方誤差RLS濾波效果00.511.522.53

30、3.544.55x 104-505primary microphone signal00.511.522.533.544.55x 104-0.500.5filtered output0123456x 104024Mean Squared Error主麥克風信號濾波輸出信號均方誤差線性調(diào)頻信號0200400600800100012001400160018002000-1-0.8-0.6-0.4-0.60.81signalLMS濾波效果主麥克風信號濾波輸出信號均方誤差0200400600800100012001400160018002000-505020040060080010

31、0012001400160018002000-1010500100015002000250001020RLS濾波效果主麥克風信號濾波輸出信號均方誤差0200400600800100012001400160018002000-5050200400600800100012001400160018002000-101050010001500200025000510第六章第六章 現(xiàn)代譜估計現(xiàn)代譜估計6.1 離散隨機過程與非參數(shù)化譜估計離散隨機過程與非參數(shù)化譜估計6.1.1 離散隨機過程離散隨機過程x(n)是延續(xù)隨機過程是延續(xù)隨機過程x(t)的均勻采樣的均勻采樣.121211221212(,) ()()

32、()()()()(,)()()xxxxxxxxxxRnnEx nx nCEx nnx nnRnnnn 先采樣再計算還是先計算再采樣？ 離散隨機過程x(n)是廣義平穩(wěn)的，假設其均值為常數(shù)，自相關函數(shù)只取決于時間 kn1-n2 ，即2( ) ( ) ()( ) |xxxxxRkE x n x nkCk 離散隨機過程x(n)和y(n)是廣義結(jié)合平穩(wěn)的，假設二者均為廣義平穩(wěn)，且相互關函數(shù)只取決于時間 kn1-n2 ，即2( ) ( ) ()( ) |xyxyxRkE x n y nkCk 平穩(wěn)離散隨機過程x(n)的功率譜為自相關函數(shù)的Fourier變換，即2( )( ),jkTxxxxkPRk eT周

33、期為 其反變換 Fourier 級數(shù)為1( )( ),/2jkTxxxxRkPedT ( )( )jkTxyxykPRk e 互功率譜可定義為6.1.2 非參數(shù)化功率譜估計直接法先計算Fourier變換和間接法先計算自相關函數(shù)。1直接法12201011( )|( )|( )|( )( )( )NjnTxNnNjnTNnPXx n eNNXx n ex n（是否為整個序列的幅值譜密度?）2間接法1*01( )()( ),0,1,.,( )( )NxxnMjkTxxxkMRkx nk x n kMMNNPRk e ，11201220( )1( )|( ) ( )|11| ( )|( )|2NjnT

34、xnNnx nPx n c n eNWWc nCdNN 由于將視為周期函數(shù)(幅值譜離散，功率譜連續(xù))，所以稱為周期圖法，得到的功率譜估計為有偏估計。 為了減小偏差，可以采用窗函數(shù)對周期圖進行平滑。 第一種窗函數(shù)直接加給樣本數(shù)據(jù)，修正后的周期圖為 另一種( )( ) ( )MjkTxxBTkMPRk w k e窗函數(shù)是加給樣本自相關函數(shù)(Blackman-Tukey法)，功率譜為 6.2 平穩(wěn)ARMA過程假設離散隨機過程xt服從線性差分方程11( )( )()()qpijijx ne nbx nia x njZ變換后可得A(z)X(z)=B(z) E(z).1111( )1.( )1.ppqqA

35、 za za zB zbzb z 記為ARMA(p,q).定義 6.2.1(因果穩(wěn)定性) 一個由A(z)X(z)=B(z)E(z)定義的ARMA過程是因果穩(wěn)定的，或稱x(n)是e(n)的因果穩(wěn)定函數(shù)，假設存在一常數(shù)序列滿足以下條件：00|,( )()iiiihx nhe ni且定理 6.2.1 令x(n)是一個A(z)和B(z)無公共零點的ARMA(p,q)過程，那么x(n)是因果穩(wěn)定的，當且僅當A(z)的零點都在單位圓內(nèi).定義 6.2.2(可逆性) 一個由A(z)X(z)=B(z)E(z)定義的ARMA過程是可逆的，假設存在一常數(shù)序列i滿足以下條件：00|,( )()iiiie nx ni且

36、定理 6.2.2 令x(n)是一個A(z)和B(z)無公共零點的ARMA(p,q)過程，那么x(n)是可逆的，當且僅當B(z)的零點都在單位圓內(nèi).定理 6.2.3 假設對一切|z|1有A(z) 0，那么ARMA過程A(z)X(z)=B(z)E(z)具有獨一的平穩(wěn)解1( )( )(),( )iiiiiB zx nhe ni hhzA z由確定定理 6.2.4 任何一個具有有限方差的ARMA或MA過程都可以表示為獨一的、階數(shù)能夠為無窮大的AR過程；同樣，任何一個ARMA或AR過程也可以表示為一個階數(shù)能夠為無窮大的MA過程。6.3 平穩(wěn)ARMA過程的功率譜密度6.3.1 ARMA過程的功率譜密度定理

37、 6.3.1 令y(n)是一具有零均值的離散平穩(wěn)隨機過程，其功率譜密度為Py ()。假設x(n)是由2( )()|, ( )( ) |()|( ),()()|jiiiiijxyjjjiiz eix nh y nihhx nPH ePH eeH eh z 其中 是絕對可求和的，即則也是一個零均值的離散平穩(wěn)過程，且其功率譜密度由下式給出：式中，是一個的多項式：定理 6.3.2 令x(n)是一個滿足差分方程11( )( )()()qpijijx ne nbe nia x nj的平穩(wěn)ARMA(p,q)過程，e為均值為零方差為2的白噪聲，那么x(n)的功率譜密度為2211()( )()( )1(), (

38、 )1()j Txj TpqjijiB ePA eA za x nj B zbx ni ( )( )( )( )( )WoldPPPPP分解：一平穩(wěn)過程的功率譜密度式中為有理式功率譜密度，為線譜。6.3.2 功率譜等價 功率譜等價不同ARMA模型得到的信號能夠具有一樣的功率譜。 設ARMA模型為：11211(1) ( )(1) ( ), ( )(0,)| 1,1()| 1,()| 1,1()| 1,()pqijijiiiizx nze n e nNprqsirririssiq 且 個極點中有 個位于單位圓內(nèi)，其余位于單位圓外；個零點中有 個位于單位圓內(nèi)，其余的在單位圓外。因果部分反因果部分最小

39、相位部分最大相位部分 ARMA過程x(n)的功率譜密度為：2222121_1111_1111_*| (1) |( )()( )| (1) |ARMA( )( )( ) ( )( )(1)(1)( )(1)(1)1/,iqjiixpjkkpriiiirprkkkksieB zPA zeA z x nB z e nA zzzB zzz 將所有在單位圓外的零、極點全部反演到單位圓內(nèi)，得到一新的過程式中其中，_*1,;1/,1, .kkirpksq222221122111112 ( )|(1)|(1)|( )( )( )|(1)|(1)|(1)| |(1)| |1| |1|(1( )xxqsjjiii

40、i sprjjkkkk rjjjjjkkkkkkARMAx neeB zPA zeeeeeeeP 新的過程的功率譜密度為21 21 211121 21 2111)|( )|(1)|qqqjiiiii si sxpppjkkkkk rk rePe 結(jié)論：假設系統(tǒng)是非因果的或者是非最小相位的，利用功率譜密度，只能辨識出|H(ej)|，而不能辨識出H(ej).可利用互功率譜密度或高階矩統(tǒng)計量辨識此類系統(tǒng)。6.4 ARMA譜估計問題:利用N個知的觀測數(shù)據(jù)x(0),x(1),x(N-1)估計出ARMA過程x(n)的功率譜密度。直接運用式(3.3.6)估計時，需求辨識出整個ARMA模型及鼓勵噪聲的方差。M

41、A參數(shù)的估計需求解非線性方程。6.4.1 ARMA功率譜估計的兩種線性方法1.Cadzow譜估計 問題：知條件是什么？112x110( )()( )()( )( )()( )()( )( )piiiB z B zN zN zPzA z A zA zA zN zpN zn z其中是一個 階多項式，11100( )()( )()( )( )( )()0.5( ),0( )()( ),kkkxkkkxxN zN zzzA zA zzC k zk zk zC k kkkC kx是的多項式，是 的多項式.利用功率譜密度是自協(xié)方差函數(shù)的傅立葉變換，可得P其它00000(3.4.2)(3.4.5)( )(

42、)( )(),0,1,. ()piikipiiiipiiipiin zN zk zA za za zakikpk將與相比較，可令兩邊同乘以，可得n卷積關系優(yōu)點：防止了MA階數(shù)和參數(shù)確實定以及鼓勵白噪聲方差的估計。2. Kaveh譜估計1-2x11-21-( ) ()( )( )( ) ()( ) ()( ) ()qkkkqlxlqkkkqc zB z B zP zC l zA z A zA z A zB z B zc z 由第二個等式可得，1-( ) ()( )kkqklkxkqlccc zA z A zC l z 左端為實數(shù)，因此有由的第三個等式，可得問題：知條件是什么？00-x2i 1(

43、-),0,1,.,( )1jwppkijxijqkkkqpiiz ecaa C k ij kqKavehARMAc zPaz譜估計為6.4.2 修正Yule-Walker方程 在Cadzow譜估計和Kaveh譜估計中，都需求知AR階數(shù)和參數(shù)。00000 ( )( )( ) ()( ) ( ) ()( ) ()( ) ()( ) ( )ixikikARMAx nx nh i e niRE x n x nEh i e nih k e nkh i h k 因果過程具有唯一的平穩(wěn)解其相關函數(shù)() ()E e ni e nk2200( )() ()0,( )( ) ()ARMA()xipinie nki

44、E e ni e nkRh i h iah nib由于是白噪聲，故有，其它由過程的定義，可得200020()( )()( )ppiiikik lka R lih kah klih k b 由可得1( , )0,(3.4.18)( )()0,(3.4.19)Yule-Walker(3.2.1)AR(3.4.19)( )(ipxixixixARMA p qMAbiqlqR la R lilqpR la R l 對于一個過程，其參數(shù)，因此當時，式恒等于零，有以上方程稱為修正方程。由式可以給出更簡潔、更直觀的理解。對于一個( )過程,可簡化為1)0,0(3.4.20)Yule-Walkerpiil 以

45、上方程稱為方程。定理6.4.1 (AR參數(shù)的可辨識性) 假設ARMA(p,q)模型的多項式A(z)和B(z)無對消因子,且ap0，那么該模型的參數(shù)a， ap可由以下p個修正Yule-Walker方程確定 1()( ),1,.p(3.4.21)(1)(2) .( )(2)(3) .(1)(3.4.22 )( )(1)(1).pixxixxxxxxxxxaR l iR l lqqR qpR qpR qRR qpR qpR qaR qR qR qp 證明:令1,.,(3.4.22 )(1),.,()(3.4.22 )Yule-Walker-pxxaaabrR qR qpcRar則修正方程可以寫成(3

46、.4.23)(1)(2).( )(2)(3).(1)( )(1).(1)(1)(2).()xxxxxxxxxxxxR qpR qpR qR qpR qpR qRR qR qR qpR qR qR qp 令112-21121-112,1,.,1()( ),1,.,1(2)(ppppppppipixxixxaaaaaaRppuipu RliRllq qqpRqpRqR rrrrrrrr111由 修 正 Yule-Walker方 程 可 得進 一 步 可 得的 秩 由 其 前行 決 定 。假 定 前行 線 性 相 關 ， 則 存 在 不 全 為 零 的， 滿 足令3).(1)( )(1).(1)(1

47、)(2).()xxxxxxxpRqRqRqRqpRqRqRqp2-11111211111 1,1,.,1()( ),1,.,1(1)( )(1)(2)(1)(2)ipixxipxpxpxppxxxRv ipvR liR l lqqpuR qvuR qv uR qvuR qpu R qpvu R qpv 假設 不滿秩，則存在不全為零的，滿足2 11 112111-11(3)( )()(1)(2)(1)1()(1)(1),1,.,1()( ),1,2,.(3.xpxxxxpxxxpxipixxiu R qpvu R qR qpv R qpv R qpvR qpR qpu R qpuR qu ipu

48、 R liR l lqq上式右端最后一行等于前行之和，因此有重復上述過程可得存在不全為零的滿足與4.19)0,paR比較，可得與題設矛盾，故矩陣 可逆。 由定理6.4.1可知，當ARMA(p,q)過程x(n)的AR階數(shù)p和自相關函數(shù)Rx()知時，只需求解p個Yule-Walker方程，便可辨識出AR參數(shù)。 然而在實踐運用中， AR階數(shù)p也是未知的，因此還需先確定p. 3.4.1(1)( ).(1)(2)(1).(2)(3.4.25 )()(1)().,().xexexeeexexexeexexexeeeeeeeeR qR qR qpRR qR qR qpaR qMR qMR qMpMp pp

49、qqqpqprank Rp 命題 令若且 則6.4.3確定AR階數(shù)的奇特值分解方法 11223.4.3 A,(3.4.36)Hhhm nm mUn nVAA UVm n定理 是一個復數(shù)矩陣，則存在一個酉矩陣 和酉矩陣使得 可以分解為是一個對角陣，其主對角線元素是非負實數(shù)，并按下列順序排列(3.4.37)min( , ).hm n11111/2( )222211_111),1(3.4.41).12)/, 1kkkFhhFFkkkkAAkkhAAAFrobeniusTkTkAkh 兩種確定矩陣 有效秩的方法：定義（ ）為矩陣 的范數(shù)定義略小于 的數(shù) 作為閾值，（ ）的最小整數(shù) 定義為矩陣 的有效秩

50、。定義1_1(3.4.42)kkTTkA定義接近于零的正數(shù) 作為閾值，的最大正數(shù) 定義為矩陣 的有效秩。6.5 ARMA模型辨識 在一些運用中，不僅希望得到 AR階數(shù)參數(shù)，而且還希望獲得MA階數(shù)和參數(shù)。6.5.1 MA階數(shù)確定1( )()0(3.5.2).pxixiMAR laR l il 階數(shù)是使成立的最大整數(shù)上述方法雖然簡單，但是在數(shù)據(jù)比較短的情況下，數(shù)值穩(wěn)定性不好。6.5.2 MA參數(shù)估計0222020 111202(3.4.10)()()(3.5.8)211.qqqqqbbcbbb bcbbcqq由可得上述非線性方程組共有個未知數(shù)，但是只有個方程，可以假定 00101,0,1,(3.5

51、.9)(1) 1,(3.5.10 ),qkii kkiTqTqfbbckqqbbbafffbf定義擬合誤差函數(shù)及維向量0000101(3.5.10 )(1)(1)(3.5.11)qqqqqbqqfffbbbfffbbbTfFb維矩陣=01011010(1)( )( )1( )(0)(0000Newton-Raphson3.5.2 Newton-Raphson3.4.12MA,0,1, ,qqqqqiiiikibbbbbbbbbbbbckqbcbFbbFf=利用方法，可得算法（算法）(1)利用式()計算譜系數(shù)并令初始值及0)0,1,iq；( )( )(1)(2)3.5.9,0,1,3.5.12(3)3.5.13M A(4)M A1,ikiifkqiiFb由 式 ()計 算 擬 合 誤 差 函 數(shù)并 用 式 ()計 算；利 用 式 ()更 新參 數(shù) 估 計 向 量；檢 驗參 數(shù) 估 計 向 量 是 否 收 斂 ， 若 收 斂 則 停 止 ，否 則轉(zhuǎn) (1).實驗二實驗二 ：( )0.2 (1)0.23 (2)0.06 (3)( )0.7 (1)0.12 (2)x nx nx nx ne ne ne n的ARMA過程。 根本要求：將系統(tǒng)視為灰箱可以利用方程的構(gòu)造信息，p=3, q=2，根據(jù)系統(tǒng)的輸入輸出關系確定當e(n)為N(0,1)