第2章-維納濾波和卡爾曼濾波課件

第二章維納濾波和卡爾曼濾波2.1引言2.2維納(Weiner)濾波器的離散時(shí)域解2.3離散維納濾波器的z域解2.4維納預(yù)測(cè)2.5卡爾曼(Kalman)濾波

10/1/2023115:38:36第二章維納濾波和卡爾曼濾波2.1引言8/7/20232.1引言§2.1引言隨機(jī)信號(hào)處理討論的濾波問題：就是一個(gè)估計(jì)問題，或者說是從噪聲中提取信號(hào)、抑制噪聲。本章介紹維納(Wiener)濾波器和卡爾曼(Kalman)濾波器。通常可以將觀測(cè)數(shù)據(jù)x(n)表示為信號(hào)s(n)與噪聲v(n)之和。x(n)=s(n)+v(n)（2.1.1）10/1/2023215:38:362.1引言§2.1引言x(n)=s(n)+v(濾波的目的：利用濾波系統(tǒng)h(n)取出有用信號(hào)s(n)，s(n)又稱為期望信號(hào)，h(n)就是估計(jì)器。主要問題：設(shè)計(jì)濾波器h(n)，使濾波器輸出y(n)是s(n)的一個(gè)最佳估計(jì)。采用不同的最佳準(zhǔn)則，估計(jì)結(jié)果可能不同。這樣的濾波，通信中稱為波形估計(jì)；自動(dòng)控制中，稱為動(dòng)態(tài)估計(jì)。2.1引言10/1/2023315:38:36濾波的目的：利用濾波系統(tǒng)h(n)取出有用信號(hào)s(n)，s(三種估計(jì)形式：(1)預(yù)測(cè)問題：已知x(n-1),x(n-2),…,x(n-m)，估計(jì)s(n+N),N≥0(2)過濾或?yàn)V波：已知x(n-1),x(n-2),…,x(n-m)，估計(jì)s(n)(3)平滑或內(nèi)插:已知x(n-1),x(n-2),…,x(n-m)，估計(jì)s(n-N),N≥1維納濾波WF與卡爾曼濾波KF：屬于過濾或預(yù)測(cè)問題，采用最小均方誤差準(zhǔn)則(MMSE)為最佳準(zhǔn)則。MMSE:MinimumMeanSquareError。2.1引言10/1/2023415:38:36三種估計(jì)形式：2.1引言8/7/2023415:38維納濾波器與卡爾曼濾波器比較：名稱已知數(shù)據(jù)需要計(jì)算計(jì)算結(jié)果適用條件求解方法提出年代維納濾波器x(n-1),x(n-2),......相關(guān)函數(shù)H(z)或h(n)平穩(wěn)解析形式40年代卡爾曼濾波器前一個(gè)估計(jì)值和最近的觀察狀態(tài)方程量測(cè)方程狀態(tài)變量估計(jì)值平穩(wěn)或非平穩(wěn)遞推算法60年代2.1引言10/1/2023515:38:36維納濾波器與卡爾曼濾波器比較：名稱已知數(shù)據(jù)需要計(jì)算計(jì)算結(jié)果適2.2維納濾波器的離散形式—時(shí)域解§2.2維納濾波器的離散形式—時(shí)域解2.2.1維納濾波器時(shí)域求解的方法考慮到系統(tǒng)的因果性，即h(n)=0，n<0（2.2.2）設(shè)期望信號(hào)為d(n)，計(jì)算誤差和均方誤差為e(n)=d(n)－y(n)=s(n)－y(n)（2.2.３）（2.2.４）10/1/2023615:38:362.2維納濾波器的離散形式—時(shí)域解§2.2維納濾波器的下面求使均方誤差最小的濾波器h(n)。定義h(j)－>hj，設(shè)hj=aj+jbj為復(fù)數(shù)，考慮復(fù)變量求導(dǎo)問題。定義求導(dǎo)符號(hào)：（2.2.７）維納濾波的極小值問題變?yōu)椋海?.2.8）2.2維納濾波器的離散形式—時(shí)域解10/1/2023715:38:36下面求使均方誤差最小的濾波器h(n)。定義求導(dǎo)符號(hào)：（2.展開(2.2.8)式:：(2.2.9)分別計(jì)算(2.2.9）每一項(xiàng)：2.2維納濾波器的離散形式—時(shí)域解10/1/2023815:38:36展開(2.2.8)式:：(2.2.9)分別計(jì)算(2.2.9）整理上面結(jié)果，得：（2.2.14)因此，使均方誤差最小的充要條件描述如下：E［x*(n-j)e(n)］=0j=0,1,2,…（2.2.15）結(jié)論：均方誤差達(dá)到最小值的充要條件是誤差信號(hào)與任一進(jìn)入估計(jì)器的輸入信號(hào)正交。這就是著名的正交性原理。正交性原理的重要意義：它提供了一個(gè)簡(jiǎn)便的數(shù)學(xué)方法，來判斷線性濾波系統(tǒng)是否工作于最佳狀態(tài)。2.2維納濾波器的離散形式—時(shí)域解10/1/2023915:38:36整理上面結(jié)果，得：（2.2.14)因此，使均方誤差最小的充假定濾波器工作于最佳狀態(tài)，相應(yīng)濾波器輸出yopt(n)與估計(jì)誤差為eopt(n)，則有(2.2.17)最佳狀態(tài)下的信號(hào)關(guān)系(向量和幾何表示)：2.2維納濾波器的離散形式—時(shí)域解上式假定輸入和期望信號(hào)為0均值。eopt(n)d(n)yopt(n)10/1/20231015:38:36假定濾波器工作于最佳狀態(tài)，相應(yīng)濾波器輸出yopt2.2.2維納—霍夫(Wiener-Hopf)方程重寫正交性原理公式(2.2.15):對(duì)上式取共軛，利用ryx(-k)=r*xy(k)可得維納－霍夫方程:(2.2.20)2.2維納濾波器的離散形式—時(shí)域解10/1/20231115:38:362.2.2維納—霍夫(Wiener-Hopf)方程對(duì)上式取特殊情況下的維納－霍夫方程：h(n)是長(zhǎng)度為M的因果序列，或h(n)是長(zhǎng)度為M的FIR濾波器。(2.2.21)上式取M個(gè)k值，得M個(gè)方程：k=0：h0rxx(0)+h1rxx(1)+…+hM－1rxx(M-1)=rxd(0)k=1：h0rxx(1)+h2rxx(0)+…+hM－1rxx(M-2)=rxd(1)

k=M-1：h0rxx(M-1)+h1rxx(M-2)+…+hM－1rxx(0)=rxd(M-1)…2.2維納濾波器的離散形式—時(shí)域解10/1/20231215:38:36特殊情況下的維納－霍夫方程：h(n)是長(zhǎng)度為M的因果序列，或維納－霍夫方程(Wiener-Hopf)的矩陣形式：

(2.2.23)維納濾波器的最佳解：(2.2.24)

存在問題：求維納濾波器的時(shí)域因果解，需要矩陣求逆，計(jì)算量大(M3)，不是一個(gè)有效的方法。2.2維納濾波器的離散形式—時(shí)域解10/1/20231315:38:36維納－霍夫方程(Wiener-Hopf)的矩陣形式：(clc;closeall;clearall;%%信號(hào)產(chǎn)生%觀測(cè)點(diǎn)數(shù)N=2000;n=linspace(0,1200,N);%信號(hào)d=2*sin(pi*n/128+pi/3);%噪聲（方差1.25）v=sqrt(1.25)*randn(N,1);%觀測(cè)樣本值x=d'+v;2.2維納濾波器的離散形式—時(shí)域解10/1/20231415:38:36clc;closeall;clearall;2.2維納%%%%%%%%%%%%%%%%%%%%%%%%%%%設(shè)計(jì)維納濾波器tic%觀測(cè)信號(hào)自相關(guān)[C,lags]=xcorr(x,N,'biased');%自相關(guān)矩陣R_xx，N階濾波器R_xx=toeplitz(C(N+1:end));%x,d互相關(guān)函數(shù)R_xdR_xd=xcorr(d,x,N,'biased');R_xd=R_xd(N+1:end);%維納-霍夫方程Wopt=inv(R_xx)*R_xd';2.2維納濾波器的離散形式—時(shí)域解10/1/20231515:38:36%%%%%%%%%%%%%%%%%%%%%%%%%%2.2%濾波y=filter(Wopt,1,x);%誤差En=d-y';%結(jié)果figure,plot(n,d,'r:',n,y,'b-');legend('維納濾波信號(hào)真值','維納濾波估計(jì)值');title('期望信號(hào)與濾波結(jié)果對(duì)比');xlabel('觀測(cè)點(diǎn)數(shù)');ylabel('信號(hào)幅度');figure,plot(n,En);title('維納濾波誤差曲線');xlabel('觀測(cè)點(diǎn)數(shù)');ylabel('誤差幅度');toc2.2維納濾波器的離散形式—時(shí)域解10/1/20231615:38:36%濾波2.2維納濾波器的離散形式—時(shí)域解8/7/2022.2.3估計(jì)誤差的均方值假定所研究的信號(hào)都是零均值的，濾波器為FIR型，長(zhǎng)度等于M，可以得到(2.2.25)2.2維納濾波器的離散形式—時(shí)域解10/1/20231715:38:362.2.3估計(jì)誤差的均方值(2.2.25)2.2維納進(jìn)一步化簡(jiǎn)得到說明：均方誤差與h(n)是一個(gè)二次函數(shù)關(guān)系，因此存在極小值。當(dāng)濾波器工作于最佳狀態(tài)時(shí)，均方誤差取得最小值。2.2維納濾波器的離散形式—時(shí)域解10/1/20231815:38:36進(jìn)一步化簡(jiǎn)得到說明：均方誤差與h(n)是一個(gè)二次函數(shù)關(guān)系，例2.2.1設(shè)y(n)=x(n)+v2(n)，v2(n)是一白噪聲，方差σ22=0.1。期望信號(hào)x1(n)的信號(hào)模型如圖2.2.2（a）所示，其中白噪聲v1(n)的方差σ21=0.27，且b0=0.8458。x(n)的信號(hào)模型如圖2.2.2（b）所示，b1=-0.9458。假定v1(n)與v2(n)、x1(n)與y(n)不相關(guān)，并都是實(shí)信號(hào)。設(shè)計(jì)一個(gè)維納濾波器，得到該信號(hào)的最佳估計(jì)，要求濾波器是一長(zhǎng)度為2的FIR濾波器。2.2維納濾波器的離散形式—時(shí)域解10/1/20231915:38:36例2.2.1設(shè)y(n)=x(n)+v2(n)，v2(n)是圖2.2.2輸入信號(hào)與觀測(cè)數(shù)據(jù)的模型2.2維納濾波器的離散形式—時(shí)域解10/1/20232015:38:36圖2.2.2輸入信號(hào)與觀測(cè)數(shù)據(jù)的模型2.2維納濾波器

解這個(gè)問題屬于直接應(yīng)用維納-霍夫方程的典型問題，其關(guān)鍵在于求出觀測(cè)信號(hào)的自相關(guān)函數(shù)和觀測(cè)信號(hào)與期望信號(hào)的互相關(guān)函數(shù)。圖2.2.3維納濾波器的框圖2.2維納濾波器的離散形式—時(shí)域解10/1/20232115:38:36解這個(gè)問題屬于直接應(yīng)用維納-霍夫方程的典型根據(jù)題意，畫出維納濾波器的框圖，如圖2.2.3所示。用H1(z)和H2(z)分別表示x1(n)和x(n)的信號(hào)模型，輸入信號(hào)x(n)可以看作是v1(n)通過H1(z)和H２(z)級(jí)聯(lián)后的輸出，H1(z)和H２(z)級(jí)聯(lián)后的等效系統(tǒng)用H(z)表示，輸出信號(hào)y(n)就等于x(n)和v2(n)之和。因此求輸出信號(hào)的自相關(guān)函數(shù)矩陣Ryy和輸出信號(hào)與期望信號(hào)的互相關(guān)矩陣Ryd是解決問題的關(guān)鍵。相關(guān)函數(shù)矩陣由相關(guān)函數(shù)值組成，已知x(n)與v2(n)不相關(guān)，那么2.2維納濾波器的離散形式—時(shí)域解10/1/20232215:38:36根據(jù)題意，畫出維納濾波器的框圖，如圖2.2.3所示。用H1(1)求出期望信號(hào)的方差。根據(jù)圖2.2.2(a)，期望信號(hào)的時(shí)間序列模型所對(duì)應(yīng)的差分方程為x1(n)=v1(n)-b0x1(n-1)這里，b0=0.8458,由于x1(n)的均值為零，其方差與自相關(guān)函數(shù)在零點(diǎn)的值相等。2.2維納濾波器的離散形式—時(shí)域解10/1/20232315:38:36(1)求出期望信號(hào)的方差。根據(jù)圖2.2.2(a)，期望(2)計(jì)算輸入信號(hào)和輸出信號(hào)的自相關(guān)函數(shù)矩陣。根據(jù)自相關(guān)函數(shù)、功率譜密度和時(shí)間序列信號(hào)模型的等價(jià)關(guān)系，已信號(hào)模型，就可以求出自相關(guān)函數(shù)。這里，信號(hào)模型為對(duì)應(yīng)的差分方程為x(n)+a1x(n-1)+a2x(n-2)=v1(n)式中，a1=-0.1，a2=-0.8。由于v1(n)、v2(n)的均值為零，因此x(n)的均值為0。方程兩邊同乘以x*(n-m)，并取數(shù)學(xué)期望，得rxx(m)+a1rxx(m-1)+a2rxx(m-2)=0m＞0(1)rxx(0)+a1rxx(1)+a2rxx(2)=σ21

m=0(2)2.2維納濾波器的離散形式—時(shí)域解10/1/20232415:38:36(2)計(jì)算輸入信號(hào)和輸出信號(hào)的自相關(guān)函數(shù)矩陣。根據(jù)自相關(guān)對(duì)方程（1）取m=1,2，得到rxx(1)+a1rxx(0)+a2rxx(1)=0 (3)rxx(2)+a1rxx(1)+a2rxx(0)=0 (4)方程（2）、（3）、（4）聯(lián)立求解，得2.2維納濾波器的離散形式—時(shí)域解10/1/20232515:38:36對(duì)方程（1）取m=1,2，得到rxx(1)+a1rxx(v2(n)是一個(gè)零均值的白噪聲，它的自相關(guān)函數(shù)矩陣呈對(duì)角形，且 ，因此，輸出信號(hào)的自相關(guān)Ryy為2.2維納濾波器的離散形式—時(shí)域解10/1/20232615:38:36v2(n)是一個(gè)零均值的白噪聲，它的自相關(guān)函數(shù)矩陣呈對(duì)角形，(3)計(jì)算輸出信號(hào)與期望信號(hào)的互相關(guān)函數(shù)矩陣。由于兩個(gè)信號(hào)都是實(shí)信號(hào)，故ryd(m)=E［y(n)d(n-m)］=E［y(n)x1(n-m)］=E［(x(n)+v2(n))x1(n-m)］=E［x(n)x1(n-m)］m=0,1根據(jù)圖2.2.2系統(tǒng)H2(z)的輸入與輸出的關(guān)系,有x1(n)-b1x(n-1)=x(n)x1(n)=x(n)+b1x(n-1)這樣ryd(m)=E［x(n)x1(n-m)］=E［x(n)(x(n-m)+b1x(n-1-m))］=rxx(m)+b1rxx(m-1)2.2維納濾波器的離散形式—時(shí)域解10/1/20232715:38:36(3)計(jì)算輸出信號(hào)與期望信號(hào)的互相關(guān)函數(shù)矩陣。由于兩個(gè)信將m=0,m=1代入上式,得ryd(0)=rxx(0)+b1rxx(-1)=1-0.9458×0.5=0.5272ryd(1)=rxx(1)+b1rxx(0)=0.5-0.9458×1=-0.4458因此，輸出信號(hào)與期望信號(hào)的互相關(guān)為求出輸出自相關(guān)的逆矩陣,并乘以Ryd,可得維納最佳解Wopt:2.2維納濾波器的離散形式—時(shí)域解10/1/20232815:38:36將m=0,m=1代入上式,得ryd(0)=rxx(0)把Wopt代入（2.2.27）式，可計(jì)算出維納濾波器達(dá)到最佳狀態(tài)時(shí)均方誤差，即均方誤差有最小值E［|e(n)|2］min，2.2維納濾波器的離散形式—時(shí)域解10/1/20232915:38:36把Wopt代入（2.2.27）式，可計(jì)算出維納濾波器達(dá)到最佳2.3離散維納濾波器的Z域解§2.3離散維納濾波器的Z域解不考慮濾波器因果性的維納－霍夫方程可以寫為設(shè)定d(n)=s(n)，對(duì)上式兩邊做Z變換：Sxs(z)=Hopt(z)Sxx(z)不考慮因果性維納濾波器(2.3.2)10/1/20233015:38:362.3離散維納濾波器的Z域解§2.3離散維納濾波器的Z進(jìn)一步簡(jiǎn)化(2.3.2)：考慮期望信號(hào)和噪聲不相關(guān)，rsv(m)=0Sxs(z)=S(s+v)s(z)=Sss(z)+Svs(z),

Sxs(z)=Sss(z)，Sxx(z)=Sss(z)+Svv(z)物理意義：噪聲=0－>信號(hào)全部通過；信號(hào)=0－>噪聲全部抑制(2.3.5)2.3離散維納濾波器的Z域解10/1/20233115:38:36進(jìn)一步簡(jiǎn)化(2.3.2)：考慮期望信號(hào)和噪聲不相關(guān)，rsv(

討論：(1)不考慮因果性的維納濾波器Z域解非常簡(jiǎn)單。(2)如果考慮因果性，維納濾波器在Z域不能直接求解。Bode和Shannon提出了白化濾波器的方法較好的解決了這個(gè)問題。

白化濾波器：對(duì)于具有有理譜的隨機(jī)信號(hào)x(n)可用MA模型描述，并且B(z)已知，可以設(shè)計(jì)出逆濾波器B-1(z)。如果逆濾波器輸入為x(n)，則逆濾波器輸出為白噪聲。2.3離散維納濾波器的Z域解白化濾波器10/1/20233215:38:36討論：(1)不考慮因果性的維納濾波器Z域解非常簡(jiǎn)單。白

維納濾波器求解思路：用白噪聲作為待求濾波器G(z)的輸入，假設(shè)1/B(z)為x(n)白化濾波器傳輸函數(shù)，那么維納濾波器傳輸函數(shù)可以表示為(2.3.7)因此維納濾波器的求解轉(zhuǎn)化為G(z)的求解。2.3離散維納濾波器的Z域解下面分兩種情況討論：非因果系統(tǒng)和因果系統(tǒng)。10/1/20233315:38:36維納濾波器求解思路：用白噪聲作為待求濾波器G(z)的輸入，2.3.1非因果維納濾波器的求解依據(jù)前面討論的思路，下面的問題就是求解滿足下列條件的g(n)或G(z)，其中為白噪聲。G(z)或g(n)2.3離散維納濾波器的Z域解10/1/20233415:38:362.3.1非因果維納濾波器的求解G(z)或g(n)2.3(2.3.9)計(jì)算均方估計(jì)誤差：使均方誤差為最小的充要條件是：

-∞＜k＜∞(2.3.10)g(n)的最佳值：-∞＜k＜∞(2.3.11)2.3離散維納濾波器的Z域解10/1/20233515:38:36(2.3.9)計(jì)算均方估計(jì)誤差：使均方誤差為最小的充要條G(z)的最佳值：(2.3.12)非因果維納濾波器的最佳解為(2.3.13)考慮s(n)=s(n)*δ(n)和x(n)=ω(n)*b(n)，由相關(guān)卷積定理得：rxs(m)=rωs(m)*b(-m)(2.3.14)Sxs(z)=Sωs(z)B(z-1)(2.3.15)2.3離散維納濾波器的Z域解10/1/20233615:38:36G(z)的最佳值：(2.3.12)非因果維納濾波器的最佳解綜合上面的結(jié)果，并考慮x(n)的MA模型，可得維納濾波器的復(fù)頻域最佳解的一般表達(dá)式(2.3.16)假定信號(hào)與噪聲不相關(guān)，即E［s(n)v(n)］=0：rxs(m)=E{[s(n)+v(n)]×s(n+m)}=rss(m)rxx(m)=E{[s(n)+v(n)]×[s(n+m)+v(n+m)]}=rss(m)+rvv(m)∴

Sxs(z)=Sss(z)∴

Sxx(z)=Sss(z)+Svv(z)(2.3.17)(2.3.18)2.3離散維納濾波器的Z域解10/1/20233715:38:36綜合上面的結(jié)果，并考慮x(n)的MA模型，可得（2.3.19)非因果維納濾波器的復(fù)頻域最佳解：（2.3.20)（2.3.21)

說明：上述結(jié)果與(2.3.5)式一樣，但獲得的方法是不一樣的。2.3離散維納濾波器的Z域解10/1/20233815:38:36（2.3.19)非因果維納濾波器的復(fù)頻域最佳解：（2.3下面推導(dǎo)最小均方誤差E[|e(n)|2]min。(1)用圍線積分法求rss(0):(2.3.22)(2.3.23)2.3離散維納濾波器的Z域解10/1/20233915:38:36下面推導(dǎo)最小均方誤差E[|e(n)|2]min。(1)用圍(2.3.25)(2.3.26)綜合(1)和(2)得到:

(2.3.27)(2)計(jì)算

復(fù)卷積定理2.3離散維納濾波器的Z域解10/1/20234015:38:36(2.3.25)(2.3.26)綜合(1)和(2)得到:進(jìn)一步簡(jiǎn)化：(2.3.28)考慮實(shí)信號(hào)自相關(guān)函數(shù)是偶函數(shù)以及信號(hào)與噪聲不相關(guān)：(2.3.30)2.3離散維納濾波器的Z域解10/1/20234115:38:36進(jìn)一步簡(jiǎn)化：(2.3.28)考慮實(shí)信號(hào)自相關(guān)函數(shù)是偶函數(shù)以2.3.2因果維納濾波器的求解若維納濾波器是因果濾波器，

要求

g(n)=0 n＜0估計(jì)誤差的均方值：

E［|e(n)|2］=E［|s(n)-y(n)|2］

(2.3.32)(2.3.31)2.3離散維納濾波器的Z域解10/1/20234215:38:362.3.2因果維納濾波器的求解g(n)=0 n＜0使均方誤差取得最小值的充要條件：

(2.3.34)先計(jì)算：

(2.3.35)(2.3.36)2.3離散維納濾波器的Z域解10/1/20234315:38:36使均方誤差取得最小值的充要條件：(2.3.34)先計(jì)算：因果系統(tǒng)G(z)的最佳解：

(2.3.37)因果維納濾波器的復(fù)頻域最佳解：

(2.3.38)2.3離散維納濾波器的Z域解10/1/20234415:38:36因果系統(tǒng)G(z)的最佳解：(2.3.37)因果維納濾波器計(jì)算最小均方誤差：

(2.3.39)2.3離散維納濾波器的Z域解10/1/20234515:38:36計(jì)算最小均方誤差：(2.3.39)2.3離散維納濾波器結(jié)論:(1)因果維納濾波器最小均方誤差與非因果維納濾波器最小均方誤差的形式相同，但公式中的Hopt(z)的表達(dá)式不同。(2)非因果E[|e(n)|2]min一定小于等于因果E[|e(n)|2]min,，原因如下(3)具體計(jì)算時(shí),可以選擇單位圓作為積分曲線，應(yīng)用留數(shù)定理，通過計(jì)算積分函數(shù)在單位圓內(nèi)極點(diǎn)的留數(shù)來得到。

2.3離散維納濾波器的Z域解10/1/20234615:38:36結(jié)論:(1)因果維納濾波器最小均方誤差與非因果維納濾波器最因果維納濾波器的設(shè)計(jì)步驟：(1)根據(jù)觀測(cè)信號(hào)x(n)的功率譜求出對(duì)應(yīng)的MA信號(hào)模型，即用譜分解的方法得到B(z)。(2)求 的Z反變換，取其因果部分再做Z變換。即舍掉單位圓外的極點(diǎn)，得(3)計(jì)算Hopt(z)，將積分曲線取單位圓計(jì)算E[|e(n)|2]min。2.3離散維納濾波器的Z域解10/1/20234715:38:36因果維納濾波器的設(shè)計(jì)步驟：2.3離散維納濾波器的Z域解例2.3.1

已知

信號(hào)和噪聲不相關(guān)，即rsv(m)=0，噪聲v(n)是零均值、單位功率的白噪聲(σ2v=1，mv=0)，求Hopt(z)和E[e(n)|2]min。解：(1)物理可實(shí)現(xiàn)，因果情況考慮因果穩(wěn)定系統(tǒng)2.3離散維納濾波器的Z域解10/1/20234815:38:36例2.3.1已知信號(hào)和噪聲不相關(guān)，即rsv(m)=0考慮Sxs(z)=Sss(z)：2.3離散維納濾波器的Z域解10/1/20234915:38:36考慮Sxs(z)=Sss(z)：2.3離散維納濾波器的Z域計(jì)算最小均方估計(jì)誤差：

2.3離散維納濾波器的Z域解未濾波的均方誤差

：10/1/20235015:38:36計(jì)算最小均方估計(jì)誤差：2.3離散維納濾波器的Z域解未濾(3)非物理可實(shí)現(xiàn)，非因果

2.3離散維納濾波器的Z域解比較兩種情況：非物理可實(shí)現(xiàn)的最小均方誤差(0.3)小于物理可實(shí)現(xiàn)的均方誤差(0.375)。

10/1/20235115:38:36(3)非物理可實(shí)現(xiàn)，非因果2.3離散維納濾波器的Z域解2.4維

納

預(yù)

測(cè)

§2.4維納預(yù)測(cè)2.4.1維納預(yù)測(cè)的計(jì)算觀測(cè)數(shù)據(jù)：x(n)，x(n－1)，......維納濾波：期望輸出yd(n)=s(n)，實(shí)際輸出y(n)=s(n)。維納預(yù)測(cè)：期望輸出yd(n)=s(n+N)，實(shí)際輸出y(n)=s(n+N)。預(yù)測(cè)的可能性：可以從兩個(gè)方面理解。(1)信號(hào)內(nèi)部存在著關(guān)聯(lián)性。數(shù)據(jù)前后的關(guān)聯(lián)性越密切，預(yù)測(cè)越準(zhǔn)確；如果完全無關(guān)聯(lián)，則無法預(yù)測(cè)。(2)系統(tǒng)是有慣性的。即便輸入無關(guān)聯(lián)，系統(tǒng)輸出卻有關(guān)聯(lián)。^^10/1/20235215:38:362.4維納預(yù)測(cè)§2.4維納預(yù)測(cè)^^8/7/2.4維

納

預(yù)

測(cè)

預(yù)測(cè)器輸出信號(hào)y(n)和誤差信號(hào)e(n+N)的描述：

（2.4.3）

（2.4.4）

H(z)維納預(yù)測(cè)器的目標(biāo)使預(yù)測(cè)均方誤差極小化：10/1/20235315:38:362.4維納預(yù)測(cè)預(yù)測(cè)器輸出信號(hào)y(n)和誤差信號(hào)e(滿足預(yù)測(cè)誤差均方值最小的充要條件：（2.4.5）

2.4維

納

預(yù)

測(cè)

yd(n)=s(n+N)10/1/20235415:38:36滿足預(yù)測(cè)誤差均方值最小的充要條件：（2.4.5）2.4維因果維納預(yù)測(cè)器的最佳解:

（2.4.9）

非因果維納預(yù)測(cè)器的最佳解：維納預(yù)測(cè)器的最小均方誤差：

結(jié)論：維納預(yù)測(cè)器的求解和維納濾波器的求解方法是一致的。

2.4維

納

預(yù)

測(cè)

（2.4.8）

10/1/20235515:38:36因果維納預(yù)測(cè)器的最佳解:（2.4.9）非因果維納預(yù)測(cè)器的2.4.2純預(yù)測(cè)(N步)

所謂純預(yù)測(cè)就是不考慮噪聲的預(yù)測(cè)。

N步純預(yù)測(cè)：x(n)=s(n)+v(n)，v(n)=0，期望信號(hào)s(n+N),N＞0。2.4維

納

預(yù)

測(cè)

因果純預(yù)測(cè)：設(shè)s(n)與v(n)不相關(guān)。（2.4.11）（2.4.12）10/1/20235615:38:362.4.2純預(yù)測(cè)(N步)2.4維納預(yù)測(cè)因果純預(yù)純預(yù)測(cè)器最小均方誤差：

（2.4.13）

2.4維

納

預(yù)

測(cè)

10/1/20235715:38:36純預(yù)測(cè)器最小均方誤差：（2.4.13）2.4維納預(yù)（2.4.15）

考慮到b(n)是因果系統(tǒng)：

結(jié)論：隨著N增加，E[|e(n+N)|2]min也增加。這一點(diǎn)也容易理解，因?yàn)轭A(yù)測(cè)距離越遠(yuǎn)，預(yù)測(cè)效果越差，偏差越大。應(yīng)用復(fù)卷積定理：2.4維

納

預(yù)

測(cè)

10/1/20235815:38:36（2.4.15）考慮到b(n)是因果系統(tǒng)：結(jié)論：隨著N增例2.4.1

已知

求:(1)最小均方誤差下的s(n+N)；(2)E[|e(n+N)|2]min。

^解：(1)計(jì)算最佳預(yù)測(cè)輸出

2.4維

納

預(yù)

測(cè)

10/1/20235915:38:36例2.4.1已知求:^解：(1)計(jì)算最佳預(yù)測(cè)輸出2.2.4維

納

預(yù)

測(cè)

10/1/20236015:38:362.4維納預(yù)測(cè)8/7/20236015:38:36(2)計(jì)算最小均方誤差2.4維

納

預(yù)

測(cè)

10/1/20236115:38:36(2)計(jì)算最小均方誤差2.4維納預(yù)測(cè)8/7/20討論以上結(jié)果:(1)Hopt(z)=aN－>純預(yù)測(cè)的維納濾波器是一個(gè)線性比例放大器。(2)B(z)－>x(n)的MA模型x(n)=ω(n)+ax(n-1)(3)N＞0時(shí)，白噪聲ω(n+N)對(duì)x(n)無影響。

當(dāng)N=1時(shí)，x(n+1)=ax(n)=as(n)當(dāng)N=2時(shí)，x(n+2)=ax(n+1)=a2s(n)

當(dāng)N=N時(shí)，x(n+N)=ax(N+n-1)=aNs(n)…（2.4.19）

2.4維

納

預(yù)

測(cè)

10/1/20236215:38:36討論以上結(jié)果:x(n)=ω(n)+ax(n-1)(3)N(4)終值定理與所得估計(jì)值的物理意義

物理意義：一個(gè)信號(hào)的功率譜在單位圓上沒有極點(diǎn)與信號(hào)均值等于0等價(jià)，因此對(duì)于功率譜在單位圓上沒有極點(diǎn)的信號(hào)，要估計(jì)s(n+N)時(shí)，可認(rèn)為ω(n+N)=0,N＞0，即僅需要考慮B(z)的慣性，這樣估計(jì)出來的結(jié)果將有最小均方誤差。^2.4維

納

預(yù)

測(cè)

10/1/20236315:38:36(4)終值定理與所得估計(jì)值的物理意義物理意義：一個(gè)信號(hào)的2.4.3一步線性預(yù)測(cè)的時(shí)域解一步線性預(yù)測(cè)：噪聲v(n)=0，由x(n-1),x(n-2)，…,x(n-p)預(yù)測(cè)x(n)一步線性預(yù)測(cè)的計(jì)算：設(shè)系統(tǒng)脈沖響應(yīng)為h(n)，令apk=-h(k)，預(yù)測(cè)輸出和預(yù)測(cè)誤差為ap0=12.4維

納

預(yù)

測(cè)

10/1/20236415:38:362.4.3一步線性預(yù)測(cè)的時(shí)域解ap0=12.4維納預(yù)（2.4.23）

推導(dǎo)使均方誤差最小的充要條件：

E［e*(n)x(n-l)］=0l=1,2,…,p

（2.4.24）

（2.4.25）

計(jì)算均方誤差：

（2.4.26）

2.4維

納

預(yù)

測(cè)

10/1/20236515:38:36（2.4.23）推導(dǎo)使均方誤差最小的充要條件：E［e*(結(jié)論:(1)最小預(yù)測(cè)誤差與輸入信號(hào)、最佳預(yù)測(cè)輸出正交。

(2)(2.4.25)所描述的p個(gè)方程是求解預(yù)測(cè)濾波器或預(yù)測(cè)系數(shù)的重要方程。計(jì)算最小均方預(yù)測(cè)誤差

：2.4維

納

預(yù)

測(cè)

10/1/20236615:38:36結(jié)論:(1)最小預(yù)測(cè)誤差與輸入信號(hào)、最佳預(yù)測(cè)輸出正交。Yule-Walker方程2.4維

納

預(yù)

測(cè)

10/1/20236715:38:36Yule-Walker方程2.4維納預(yù)測(cè)8/7/2Yule-Walker方程的特點(diǎn)：(1)除了第一個(gè)方程外，其余都是齊次方程，因此容易求解。(2)與維納-霍夫方程相比，不需要求x(n)與s(n)的互相關(guān)函數(shù)。(3)p+1個(gè)方程可以確定p個(gè)預(yù)測(cè)系數(shù)和最小均方誤差。(4)該方程可以用來求解AR模型參數(shù)和進(jìn)行功率譜估計(jì)。(5)該方程揭示了時(shí)間序列信號(hào)模型、功率譜和自相關(guān)函數(shù)在描述一個(gè)隨機(jī)信號(hào)時(shí)的等價(jià)性。2.4維

納

預(yù)

測(cè)

10/1/20236815:38:36Yule-Walker方程的特點(diǎn)：2.4維納預(yù)測(cè)關(guān)于自相關(guān)矩陣Rxx的性質(zhì)：(1)當(dāng)x(n)為實(shí)數(shù)時(shí)，Rxx為對(duì)稱矩陣，Rxx＝RxxT。當(dāng)x(n)為復(fù)數(shù)時(shí)，Rxx為Hermitian矩陣，Rxx

＝RxxH。(2)Rxx任意對(duì)角線上的元素相同，Toeplitz矩陣。(3)Rxx為正定矩陣，特征值都大于零，所有主子式大于零。(4)對(duì)于復(fù)序列x(n)，注意本書自相關(guān)函數(shù)的定義方法：2.4維

納

預(yù)

測(cè)

10/1/20236915:38:36關(guān)于自相關(guān)矩陣Rxx的性質(zhì)：2.4維納預(yù)測(cè)8/2.5卡爾曼(Kalman)濾波

§2.5卡爾曼(Kalman)濾波

卡爾曼濾波是用狀態(tài)空間來描述系統(tǒng)，由狀態(tài)方程和量測(cè)方程所組成。卡爾曼濾波器的特點(diǎn)：(1)算法是遞推的，而且是在時(shí)域內(nèi)設(shè)計(jì)濾波器，特別適合多維隨機(jī)過程的估計(jì)；離散型卡爾曼算法適用于計(jì)算機(jī)處理。(2)觀測(cè)數(shù)據(jù)可以是平穩(wěn)的，也可以是非平穩(wěn)的。(3)所采取的誤差準(zhǔn)則仍為估計(jì)誤差的均方值最小(MMSE)。10/1/20237015:38:362.5卡爾曼(Kalman)濾波§2.5卡爾曼(Kal2.5.1卡爾曼濾波的狀態(tài)方程和量測(cè)方程

(2.5.1a)(2.5.1b)其中：(1)k表示時(shí)間或第k步迭代；(2)ωk為輸入信號(hào)向量(3)vk為觀測(cè)噪聲向量，是白噪聲；(3)x－>狀態(tài)向量，y－>輸出信號(hào)向量；(4)A、C為隨時(shí)間變化的增益矩陣。狀態(tài)方程量測(cè)(輸出)方程2.5卡爾曼(Kalman)濾波10/1/20237115:38:362.5.1卡爾曼濾波的狀態(tài)方程和量測(cè)方程(2.5.卡爾曼濾波器信號(hào)模型和對(duì)應(yīng)的狀態(tài)方程、量測(cè)方程：

N×1N×NN×1N×1M×1M×NN×1M×12.5卡爾曼(Kalman)濾波10/1/20237215:38:36卡爾曼濾波器信號(hào)模型和對(duì)應(yīng)的狀態(tài)方程、量測(cè)方程：N×1N×卡爾曼濾波要解決的問題：已知：遞推計(jì)算最小均方誤差下xk的估計(jì)。對(duì)的基本假設(shè)：零均值高斯白噪聲。(1)均值向量(2)自協(xié)方差矩陣和互協(xié)方差矩陣2.5卡爾曼(Kalman)濾波10/1/20237315:38:36卡爾曼濾波要解決的問題：對(duì)的基本假設(shè)：零均值高2.5.2卡爾曼濾波的遞推算法

基本思想：先不考慮ωk和vk的影響，得到狀態(tài)變量和輸出信號(hào)的估計(jì)值，然后再用輸出信號(hào)的估計(jì)誤差(新息)來校正狀態(tài)變量的估計(jì)值，使?fàn)顟B(tài)變量估計(jì)誤差的均方值最小。(1)先考慮無觀測(cè)噪聲和輸入信號(hào)時(shí)的狀態(tài)方程和量測(cè)方程：(2.5.4)(2.5.5)2.5卡爾曼(Kalman)濾波(2.5.6)輸出信號(hào)估計(jì)誤差新息innovation10/1/20237415:38:362.5.2卡爾曼濾波的遞推算法(2.5.4)(2.5.(2)觀測(cè)噪聲和輸入信號(hào)對(duì)狀態(tài)變量的影響，通過輸出信號(hào)估計(jì)誤差(新息)的校正來實(shí)現(xiàn)。(2.5.7)定義三個(gè)重要參量：Hk：增益矩陣加權(quán)矩陣(2.5.8)(2.5.9)(2.5.10)校正后狀態(tài)變量估計(jì)誤差未校正Xk估計(jì)誤差均方矩陣2.5卡爾曼(Kalman)濾波10/1/20237515:38:36(2)觀測(cè)噪聲和輸入信號(hào)對(duì)狀態(tài)變量的影響，通過輸出信號(hào)估計(jì)卡爾曼濾波要求：通過選擇合適的Hk，使?fàn)顟B(tài)變量估計(jì)誤差的均方值Pk最小。因此卡爾曼濾波的關(guān)鍵是求出Pk～Hk的關(guān)系式。分兩步推導(dǎo)上述關(guān)系式：Step1推導(dǎo)狀態(tài)變量的估計(jì)值和狀態(tài)變量的估計(jì)誤差;Step2計(jì)算的均方值Pk，并通過化簡(jiǎn)Pk，得到一組卡爾曼濾波的遞推公式。2.5卡爾曼(Kalman)濾波10/1/20237615:38:36卡爾曼濾波要求：通過選擇合適的Hk，使?fàn)顟B(tài)變量估計(jì)誤差的均方Step1:推導(dǎo)狀態(tài)變量的估計(jì)值和估計(jì)誤差(2.5.11)(2.5.12)2.5卡爾曼(Kalman)濾波10/1/20237715:38:36Step1:推導(dǎo)狀態(tài)變量的估計(jì)值和估計(jì)誤差(2.5.11Step2計(jì)算校正的狀態(tài)變量估計(jì)誤差均方值Pk。首先將狀態(tài)變量估計(jì)誤差分解為三部分：然后計(jì)算狀態(tài)變量估計(jì)誤差的均方值Pk:2.5卡爾曼(Kalman)濾波10/1/20237815:38:36Step2計(jì)算校正的狀態(tài)變量估計(jì)誤差均方值Pk。然利用下面三個(gè)基本結(jié)論對(duì)Pk進(jìn)行化簡(jiǎn)：(1)狀態(tài)變量與輸入信號(hào)不相關(guān)(2)狀態(tài)變量估計(jì)誤差與觀測(cè)噪聲不相關(guān)(3)狀態(tài)變量估計(jì)誤差與輸入信號(hào)不相關(guān)2.5卡爾曼(Kalman)濾波10/1/20237915:38:36利用下面三個(gè)基本結(jié)論對(duì)Pk進(jìn)行化簡(jiǎn)：2.5卡爾曼(Kalm對(duì)Pk的各項(xiàng)進(jìn)行化簡(jiǎn)：

2.5卡爾曼(Kalman)濾波10/1/20238015:38:36對(duì)Pk的各項(xiàng)進(jìn)行化簡(jiǎn)：2.5卡爾曼(Kalman)濾波2.5卡爾曼(Kalman)濾波10/1/20238115:38:362.5卡爾曼(Kalman)濾波8/7/20238115化簡(jiǎn)Pk并計(jì)算：2.5卡爾曼(Kalman)濾波10/