第7章線性預(yù)測(cè)和最優(yōu)線性濾波器

第7章線性預(yù)測(cè)和最優(yōu)線性濾波器第一頁(yè)，共108頁(yè)。前向預(yù)測(cè)概念預(yù)測(cè)器格型表示前向預(yù)測(cè)中的正規(guī)方程的解法維納濾波器理論及其設(shè)計(jì)方法

重點(diǎn)和要求第二頁(yè)，共108頁(yè)。7.2前向線性預(yù)測(cè)第七章線性預(yù)測(cè)和最優(yōu)線性濾波器7.3后向線性預(yù)測(cè)7.5最優(yōu)化正規(guī)方程解法7.6用于濾波和預(yù)測(cè)維納濾波器7.1線性預(yù)測(cè)的依據(jù)和特點(diǎn)7.4預(yù)測(cè)器與格型濾波器關(guān)系第三頁(yè)，共108頁(yè)。7.1線性預(yù)測(cè)的依據(jù)和特點(diǎn)信號(hào)之間的關(guān)聯(lián)性系統(tǒng)的慣性隨機(jī)信號(hào)預(yù)測(cè)特點(diǎn)第四頁(yè)，共108頁(yè)。7.1線性預(yù)測(cè)的依據(jù)和特點(diǎn)信號(hào)之間的關(guān)聯(lián)性信號(hào)之所以能夠預(yù)測(cè)，在于數(shù)據(jù)間存在不同程度的關(guān)聯(lián)性。預(yù)測(cè)就是利用數(shù)據(jù)前后的關(guān)聯(lián)性，根據(jù)其中一部分推知其余部分。顯然數(shù)據(jù)間關(guān)聯(lián)越密切，預(yù)測(cè)越準(zhǔn)確；完全不關(guān)聯(lián)，則無(wú)法預(yù)測(cè)。第五頁(yè)，共108頁(yè)。7.1線性預(yù)測(cè)的依據(jù)和特點(diǎn)1.信號(hào)之間的關(guān)聯(lián)性周期信號(hào)：只要知道一個(gè)周期，則以后的信號(hào)就可以按照第一個(gè)周期完全無(wú)誤地預(yù)測(cè)出來。

白噪聲信號(hào)：由于其前后毫無(wú)關(guān)聯(lián)，使預(yù)測(cè)無(wú)所依據(jù)而無(wú)法預(yù)測(cè)。平穩(wěn)隨機(jī)信號(hào)：均值為常數(shù)，自相關(guān)函數(shù)只與時(shí)間間隔有關(guān)，可以進(jìn)行預(yù)測(cè)。第六頁(yè)，共108頁(yè)。7.1線性預(yù)測(cè)的依據(jù)和特點(diǎn)2.系統(tǒng)慣性

是有慣性的系統(tǒng)，因而是有色的。第七頁(yè)，共108頁(yè)。7.1線性預(yù)測(cè)的依據(jù)和特點(diǎn)3.隨機(jī)信號(hào)預(yù)測(cè)特點(diǎn)只能利用隨機(jī)信號(hào)的統(tǒng)計(jì)規(guī)律作為預(yù)測(cè)的依據(jù)，也就是說隨機(jī)信號(hào)之所以能夠預(yù)測(cè)在于其存在某些統(tǒng)計(jì)上的規(guī)律。不能精確使預(yù)測(cè)誤差為零，而只能從統(tǒng)計(jì)意義上做到最優(yōu)預(yù)測(cè)，使預(yù)測(cè)誤差的均方值最小。實(shí)際獲得的信號(hào)是帶噪聲干擾的，這使得預(yù)測(cè)和濾波緊密相連，稱為帶濾波的預(yù)測(cè)或預(yù)測(cè)濾波。不考慮噪聲干擾時(shí)的預(yù)測(cè)或不帶濾波的預(yù)測(cè)為純預(yù)測(cè)。第八頁(yè)，共108頁(yè)。7.2前向線性預(yù)測(cè)第七章線性預(yù)測(cè)和最優(yōu)線性濾波器7.3后向線性預(yù)測(cè)7.5最優(yōu)化正規(guī)方程解法7.6用于濾波和預(yù)測(cè)維納濾波器7.1線性預(yù)測(cè)的依據(jù)和特點(diǎn)7.4預(yù)測(cè)器與格型濾波器關(guān)系第九頁(yè)，共108頁(yè)。7.2

前向線性預(yù)測(cè)前向線性預(yù)測(cè)后向線性預(yù)測(cè)格形濾波器第十頁(yè)，共108頁(yè)。7.2

前向線性預(yù)測(cè)

已知n時(shí)刻以前的p個(gè)信號(hào)數(shù)據(jù)，用這p個(gè)數(shù)據(jù)來線性預(yù)測(cè)n時(shí)刻信號(hào)的值，如圖所示，預(yù)測(cè)值為第十一頁(yè)，共108頁(yè)。7.2

前向線性預(yù)測(cè)其預(yù)測(cè)誤差為

(a)

——稱此預(yù)測(cè)器為p階前向線性預(yù)測(cè)器。

令誤差的均方值最小，即求由此解得將式(a)代入上式，得

第十二頁(yè)，共108頁(yè)。7.2

前向線性預(yù)測(cè)

(b)由最小均方誤差的表達(dá)式及正交性原理可求得最小的均方誤差為

(c)聯(lián)立式(b)與式(c)得

第十三頁(yè)，共108頁(yè)。7.2

前向線性預(yù)測(cè)

(d)

——前向線性預(yù)測(cè)的Wiener-Hopf方程

解此方程則得p階線性預(yù)測(cè)器的最佳參數(shù)及。矩陣形式第十四頁(yè)，共108頁(yè)。前向預(yù)測(cè)濾波器性質(zhì)：

白化性質(zhì)

預(yù)測(cè)濾波器是最小相位系統(tǒng)首先我們闡述白化性質(zhì)，回憶AR過程的Yule-Walker方程：

7.2

前向線性預(yù)測(cè)第十五頁(yè)，共108頁(yè)。7.2

前向線性預(yù)測(cè)（d）式與AR模型參數(shù)的正則方程式極其相似，有，成立。這說明，對(duì)于同一個(gè)p階的AR隨機(jī)信號(hào)，其AR模型和同階的最佳線性預(yù)測(cè)器模型是等價(jià)的。所以有

(f)即p階線性預(yù)測(cè)器的輸出是一個(gè)白噪聲序列。第十六頁(yè)，共108頁(yè)。7.2

前向線性預(yù)測(cè)結(jié)論：對(duì)于給定的隨機(jī)信號(hào)，若其最佳前向線性預(yù)測(cè)器的階次等于的AR模型階次時(shí)，其前向線性預(yù)測(cè)誤差為白噪聲序列。所以階次等于AR模型階次的最佳前向預(yù)測(cè)誤差濾波器實(shí)際上是AR模型的逆系統(tǒng)，即白化濾波器。

圖aAR(p)模型圖b預(yù)測(cè)誤差模型第十七頁(yè)，共108頁(yè)。7.2前向線性預(yù)測(cè)第七章線性預(yù)測(cè)和最優(yōu)線性濾波器7.3后向線性預(yù)測(cè)7.5最優(yōu)化正規(guī)方程解法7.6用于濾波和預(yù)測(cè)維納濾波器7.1線性預(yù)測(cè)的依據(jù)和特點(diǎn)7.4預(yù)測(cè)器與格型濾波器關(guān)系第十八頁(yè)，共108頁(yè)。7.3

后向線性預(yù)測(cè)用同一組數(shù)據(jù)來同時(shí)實(shí)現(xiàn)前向和后向預(yù)測(cè)，則后向預(yù)測(cè)器表示為預(yù)測(cè)誤差第十九頁(yè)，共108頁(yè)。7.3后向線性預(yù)測(cè)后向預(yù)測(cè)器也可用直接型FIR濾波器結(jié)構(gòu)或格型結(jié)構(gòu)實(shí)現(xiàn)，其對(duì)應(yīng)系數(shù)和前向?yàn)V波器的關(guān)系如下：預(yù)測(cè)誤差可以表示為

第二十頁(yè)，共108頁(yè)。7.3

后向線性預(yù)測(cè)對(duì)應(yīng)的均方誤差為仿照前向預(yù)測(cè)器的推導(dǎo)方法，最小化均方誤差可導(dǎo)出：對(duì)應(yīng)的最小均方誤差和前向預(yù)測(cè)器相同。第二十一頁(yè)，共108頁(yè)。7.3

后向線性預(yù)測(cè)后向預(yù)測(cè)濾波器性質(zhì)：

最大相位系統(tǒng)性質(zhì)

具有最小相位

后向預(yù)測(cè)誤差的正交性

前后向預(yù)測(cè)濾波器的其他性質(zhì)，教材633頁(yè)第二十二頁(yè)，共108頁(yè)。7.2前向線性預(yù)測(cè)第七章線性預(yù)測(cè)和最優(yōu)線性濾波器7.3后向線性預(yù)測(cè)7.5最優(yōu)化正規(guī)方程解法7.6用于濾波和預(yù)測(cè)維納濾波器7.1線性預(yù)測(cè)的依據(jù)和特點(diǎn)7.4預(yù)測(cè)器與格型濾波器關(guān)系第二十三頁(yè)，共108頁(yè)。

7.4預(yù)測(cè)器與格形濾波器關(guān)系預(yù)測(cè)誤差可以表示成直接型FIR濾波器第二十四頁(yè)，共108頁(yè)。

7.4預(yù)測(cè)器與格形濾波器關(guān)系前后向預(yù)測(cè)誤差濾波器系數(shù)之間關(guān)系的z域表示：第二十五頁(yè)，共108頁(yè)。直接型FIR濾波器的全零點(diǎn)格型濾波器等效：其中為反射系數(shù)，為后向預(yù)測(cè)誤差。

7.4預(yù)測(cè)器與格形濾波器關(guān)系第二十六頁(yè)，共108頁(yè)。

7.4預(yù)測(cè)器與格形濾波器關(guān)系全零點(diǎn)格型濾波器和前后向預(yù)測(cè)器誤差的關(guān)系：第二十七頁(yè)，共108頁(yè)。

7.4預(yù)測(cè)器與格形濾波器關(guān)系3.格型濾波器的Z域表示相應(yīng)的z變換的表達(dá)式為格型濾波器的時(shí)域表達(dá)式為第二十八頁(yè)，共108頁(yè)。

7.4預(yù)測(cè)器與格形濾波器關(guān)系3.格型濾波器的Z域表示它們z變換的表達(dá)式為把它們都除以X(z)得到其對(duì)應(yīng)的矩陣形式為第二十九頁(yè)，共108頁(yè)。

7.4預(yù)測(cè)器與格形濾波器關(guān)系4.預(yù)測(cè)系數(shù)遞推公式從上式可以推出：第三十頁(yè)，共108頁(yè)。

7.4預(yù)測(cè)器與格形濾波器關(guān)系4.預(yù)測(cè)系數(shù)遞推公式遞推關(guān)系：具體如下：第三十一頁(yè)，共108頁(yè)。

7.4預(yù)測(cè)器與格形濾波器關(guān)系5.反射系數(shù)遞推公式遞推公式為：詳細(xì)公式為：第三十二頁(yè)，共108頁(yè)。7.2前向線性預(yù)測(cè)第七章線性預(yù)測(cè)和最優(yōu)線性濾波器7.3后向線性預(yù)測(cè)7.5最優(yōu)化正規(guī)方程解法7.6用于濾波和預(yù)測(cè)維納濾波器7.1線性預(yù)測(cè)的依據(jù)和特點(diǎn)7.4預(yù)測(cè)器與格型濾波器關(guān)系第三十三頁(yè)，共108頁(yè)。7.5最優(yōu)化正規(guī)方程解法1.正規(guī)方程前向預(yù)測(cè)誤差均方值最小化得到的預(yù)測(cè)器系數(shù)為正規(guī)方程，即其對(duì)應(yīng)的緊湊形式為其MMSE為第三十四頁(yè)，共108頁(yè)。7.5最優(yōu)化正規(guī)方程解法二者結(jié)合得到擴(kuò)展正規(guī)方程為：2.Levinson-Durbin算法正規(guī)方程的緊湊形式為第三十五頁(yè)，共108頁(yè)。7.5最優(yōu)化正規(guī)方程解法其對(duì)應(yīng)的自相關(guān)矩陣為由于Toeplitz矩陣Hermitian矩陣2.Levinson-Durbin算法第三十六頁(yè)，共108頁(yè)。7.5最優(yōu)化正規(guī)方程解法2.Levinson-Durbin算法算法思路為利用矩陣Toeplitz性質(zhì)，遞推處理得到最后的解。先從階數(shù)1的預(yù)測(cè)器開始，再遞推地增加階數(shù)，使用低階的解得到下一個(gè)高階解。通過求解如下方程一階預(yù)測(cè)器的解為第三十七頁(yè)，共108頁(yè)。7.5最優(yōu)化正規(guī)方程解法2.Levinson-Durbin算法對(duì)應(yīng)的一階MMSE為：對(duì)于二階通過求解如下方程得到兩個(gè)方程為第三十八頁(yè)，共108頁(yè)。7.5最優(yōu)化正規(guī)方程解法2.Levinson-Durbin算法結(jié)合一階方程的解，得到二階預(yù)測(cè)器系數(shù)：第三十九頁(yè)，共108頁(yè)。7.5最優(yōu)化正規(guī)方程解法按照此規(guī)律即可利用前一階得到后一階的系數(shù)，將系數(shù)向量寫成向量和的形式，如下是第m-1階預(yù)測(cè)器的系數(shù)向量，向量，標(biāo)量待定。2.Levinson-Durbin算法第四十頁(yè)，共108頁(yè)。7.5最優(yōu)化正規(guī)方程解法首先處理自相關(guān)矩陣，公式如下：其中，星號(hào)表示共軛，t表示轉(zhuǎn)置，上標(biāo)b表示向量的元素按照倒序排列。2.Levinson-Durbin算法第四十一頁(yè)，共108頁(yè)。7.5最優(yōu)化正規(guī)方程解法求解如下方程：，得到如下解2.Levinson-Durbin算法通過上式得到如下兩個(gè)方程第四十二頁(yè)，共108頁(yè)。7.5最優(yōu)化正規(guī)方程解法由于，得到第一個(gè)方程的解為2.Levinson-Durbin算法結(jié)合，利用第二個(gè)方程求解第四十三頁(yè)，共108頁(yè)。7.5最優(yōu)化正規(guī)方程解法2.Levinson-Durbin算法2.Levinson-Durbin算法得到的表達(dá)式為：結(jié)合和的解，得到算法的表達(dá)式第四十四頁(yè)，共108頁(yè)。7.5最優(yōu)化正規(guī)方程解法算法對(duì)應(yīng)的MMSE表達(dá)式為2.Levinson-Durbin算法第四十五頁(yè)，共108頁(yè)。7.2前向線性預(yù)測(cè)第七章線性預(yù)測(cè)和最優(yōu)線性濾波器7.3后向線性預(yù)測(cè)7.5最優(yōu)化正規(guī)方程解法7.6用于濾波和預(yù)測(cè)維納濾波器7.1線性預(yù)測(cè)的依據(jù)和特點(diǎn)7.4預(yù)測(cè)器與格型濾波器關(guān)系第四十六頁(yè)，共108頁(yè)。7.6用于濾波和預(yù)測(cè)的維納濾波器在生產(chǎn)實(shí)踐中，信號(hào)都會(huì)受到噪聲干擾的。如何最大限度地抑制噪聲，將有用信號(hào)分離出來？濾波器：當(dāng)信號(hào)與噪聲同時(shí)輸入時(shí)，在輸出端能將信號(hào)盡可能精確地重現(xiàn)，而噪聲受到最大抑制。維納過濾與卡爾曼過濾就是一類從噪聲中提取信號(hào)的方法。1.引言第四十七頁(yè)，共108頁(yè)。7.6用于濾波和預(yù)測(cè)的維納濾波器20世紀(jì)著名數(shù)學(xué)家諾伯特·維納，從小就智力超常，三歲時(shí)就能讀寫，十四歲時(shí)就大學(xué)畢業(yè)了。幾年后，他又通過了博士論文答辯，成為美國(guó)哈佛大學(xué)的科學(xué)博士。維納維納在其50年的科學(xué)生涯中，先后涉足哲學(xué)、數(shù)學(xué)、物理學(xué)和工程學(xué)，最后轉(zhuǎn)向生物學(xué)，在各個(gè)領(lǐng)域中都取得了豐碩成果，稱得上是恩格斯頌揚(yáng)過的、本世紀(jì)多才多藝和學(xué)識(shí)淵博的科學(xué)巨人。他一生發(fā)表論文240多篇，著作14本。他的主要成果有如下幾個(gè)方面：建立維納測(cè)度引進(jìn)巴拿赫—維納空間闡述位勢(shì)理論發(fā)展調(diào)和分析發(fā)現(xiàn)維納—霍普夫方法創(chuàng)立控制論第四十八頁(yè)，共108頁(yè)。7.6用于濾波和預(yù)測(cè)的維納濾波器提出維納濾波理論：在第二次世界大戰(zhàn)期間，為了解決防空火力控制和雷達(dá)噪聲濾波問題，維納綜合運(yùn)用了他以前幾方面的工作，于1942年2月首先給出了從時(shí)間序列的過去數(shù)據(jù)推知未來的維納濾波公式，建立了在最小均方誤差準(zhǔn)則下利用時(shí)間序列進(jìn)行預(yù)測(cè)的維納濾波理論。第四十九頁(yè)，共108頁(yè)。7.6用于濾波和預(yù)測(cè)的維納濾波器維納在問題中引進(jìn)統(tǒng)計(jì)因素并使用了自相關(guān)和互相關(guān)函數(shù)，事實(shí)證明這是極其重要的。維納濾波模型在50年代被推廣到僅在有限時(shí)間區(qū)間內(nèi)進(jìn)行觀測(cè)的平穩(wěn)過程以及某些特殊的外平穩(wěn)過程，其應(yīng)用范圍也擴(kuò)充到更多的領(lǐng)域，至今它仍是處理各種動(dòng)態(tài)數(shù)據(jù)(如氣象、水文、地震勘探等)及預(yù)測(cè)未來的有力工具之一。卡爾曼在1960年提出了另一種適合于數(shù)字計(jì)算機(jī)計(jì)算的遞推濾波法，即所謂的卡爾曼濾波。這種濾波方法不需要求解積分方程，既適用于平穩(wěn)隨機(jī)過程，也適用于非平穩(wěn)隨機(jī)過程，是一種有廣泛應(yīng)用價(jià)值的工程方法?？柭谖迨?yè)，共108頁(yè)。(1)維納濾波根據(jù)估計(jì)信號(hào)的當(dāng)前值，它的解以系統(tǒng)的系統(tǒng)函數(shù)或單位脈沖響應(yīng)形式給出。這種系統(tǒng)常稱為最佳線性濾波器?？柭鼮V波用前一個(gè)估計(jì)值和最近一個(gè)觀察數(shù)據(jù)來估計(jì)信號(hào)當(dāng)前值，它用狀態(tài)方程和遞推的方法進(jìn)行估計(jì)，它的解以估計(jì)值（常是狀態(tài)變量值）形式給出。系統(tǒng)常稱為線性最優(yōu)估計(jì)器。共同點(diǎn)：都解決最佳線性濾波和預(yù)測(cè)問題，都以均方誤差最小為最優(yōu)準(zhǔn)則，平穩(wěn)條件下它們得到的穩(wěn)態(tài)結(jié)果一致。維納濾波和卡爾曼濾波比較：不同點(diǎn)：第五十一頁(yè)，共108頁(yè)。(2)維納濾波只適用于平穩(wěn)隨機(jī)過程，卡爾曼濾波適用于平穩(wěn)和非平穩(wěn)隨機(jī)過程。(3)維納濾波設(shè)計(jì)時(shí)要已知信號(hào)與噪聲的統(tǒng)計(jì)分布規(guī)律?？柭鼮V波設(shè)計(jì)時(shí)要求已知狀態(tài)方程和量測(cè)方程。(4)卡爾曼濾波比維納濾波優(yōu)越，計(jì)算方便，可用于平穩(wěn)和非平穩(wěn)隨機(jī)過程、時(shí)變和非時(shí)變系統(tǒng)。(5)卡爾曼濾波是在維納濾波基礎(chǔ)上發(fā)展的，是對(duì)最佳線性過濾問題的一種新的算法。維納濾波的物理概念更清楚。第五十二頁(yè)，共108頁(yè)。7.6用于濾波和預(yù)測(cè)的維納濾波器維納濾波器輸入－輸出關(guān)系第五十三頁(yè)，共108頁(yè)。7.6用于濾波和預(yù)測(cè)的維納濾波器希望x(n)通過線性系統(tǒng)h(n)后得到的y(n)盡量接近s(n)，稱y(n)為s(n)的估計(jì)值,用表示。這種線性系統(tǒng)h(.)稱為對(duì)于s(n)的一種估計(jì)器。第五十四頁(yè)，共108頁(yè)。7.6用于濾波和預(yù)測(cè)的維納濾波器

從當(dāng)前和過去的觀測(cè)值x(n),x(n-1),x(n-2),…x(n-m)估計(jì)當(dāng)前的信號(hào)值稱為濾波。

從過去的觀測(cè)值x(n－1),x(n-2),…x(n-m)估計(jì)當(dāng)前的或?qū)淼男盘?hào)值稱為預(yù)測(cè)或外推。

從過去的觀測(cè)值x(n－1),x(n-2),…x(n-m)估計(jì)過去的信號(hào)值，稱為平滑或內(nèi)插。第五十五頁(yè)，共108頁(yè)。7.6用于濾波和預(yù)測(cè)的維納濾波器假設(shè)s(n),w(n),d(n)是零均值廣義平穩(wěn)過程，線性濾波器是FIR或IIR濾波器。最優(yōu)化濾波器沖激響應(yīng)的準(zhǔn)則為均方誤差最小。所謂維納濾波是指最小均方誤差（MMSE）意義上的最優(yōu)線性濾波器。均方誤差是以估計(jì)結(jié)果與信號(hào)真值之間的誤差的均方值。第五十六頁(yè)，共108頁(yè)。7.6用于濾波和預(yù)測(cè)的維納濾波器2.維納濾波的應(yīng)用在通信系統(tǒng)中，為了在接收端補(bǔ)償信道傳輸引入的各種畸變，在對(duì)接收信號(hào)進(jìn)行檢測(cè)之前，通過一個(gè)濾波器對(duì)信道失真進(jìn)行校正，這個(gè)濾波器稱為信道均衡器。信道均衡器的結(jié)構(gòu)示意通信的信道均衡器第五十七頁(yè)，共108頁(yè)。7.6用于濾波和預(yù)測(cè)的維納濾波器2.維納濾波的應(yīng)用

發(fā)送端發(fā)送序列

經(jīng)信道傳輸后，接收端的濾波器輸入信號(hào)，可能包含畸變，加性噪聲，多徑效應(yīng)。

期望信號(hào)，

盡量確定維納濾波器系數(shù)，使盡可能逼近即，也就是使估計(jì)誤差的均方值最小，（均方誤差最小準(zhǔn)則）通信的信道均衡器第五十八頁(yè)，共108頁(yè)。7.6用于濾波和預(yù)測(cè)的維納濾波器系統(tǒng)辨識(shí)2.維納濾波的應(yīng)用有一個(gè)系統(tǒng)是未知的，設(shè)計(jì)一個(gè)線性濾波器盡可能精確的逼近這個(gè)未知系統(tǒng)，維納濾波器實(shí)現(xiàn)一個(gè)統(tǒng)計(jì)意義上最優(yōu)（估計(jì)誤差的均方值最?。┑膶?duì)未知系統(tǒng)的逼近。第五十九頁(yè)，共108頁(yè)。7.6用于濾波和預(yù)測(cè)的維納濾波器2.維納濾波的應(yīng)用最優(yōu)線性預(yù)測(cè)通過一個(gè)隨機(jī)信號(hào)已存在的數(shù)據(jù)來預(yù)測(cè)一個(gè)新值，這是一步前向線性預(yù)測(cè)問題。由的線性組合得到對(duì)的最優(yōu)估計(jì)，相當(dāng)于設(shè)計(jì)一個(gè)FIR濾波器對(duì) ，進(jìn)行線性運(yùn)算，來估計(jì)期望響應(yīng)，維納濾波器可以用于設(shè)計(jì)均方誤差最小的最優(yōu)預(yù)測(cè)器。第六十頁(yè)，共108頁(yè)。7.6用于濾波和預(yù)測(cè)的維納濾波器3.

維納濾波器的時(shí)域解假設(shè)濾波系統(tǒng)是一個(gè)線性時(shí)不變系統(tǒng)，它的和輸入信號(hào)都是復(fù)函數(shù)，設(shè)維納濾波器設(shè)計(jì)的任務(wù)就是選擇,使其輸出信號(hào)與期望信號(hào)誤差的均方值最小，實(shí)質(zhì)是解維納－霍夫方程。3.1維納濾波器時(shí)域求解的方法第六十一頁(yè)，共108頁(yè)。3.維納濾波器的時(shí)域解3.1維納濾波器時(shí)域求解的方法考慮系統(tǒng)的因果性，可得到濾波器的輸出設(shè)期望信號(hào)，誤差信號(hào)及其均方誤差分別為第六十二頁(yè)，共108頁(yè)。3.維納濾波器的時(shí)域解3.1維納濾波器時(shí)域求解的方法要使均方誤差為最小，需滿足：這里，表示，用，表示，。由于是一標(biāo)量，因此上式是一個(gè)標(biāo)量對(duì)復(fù)函數(shù)求導(dǎo)的問題，等價(jià)于第六十三頁(yè)，共108頁(yè)。3.維納濾波器的時(shí)域解3.1維納濾波器時(shí)域求解的方法記則式可寫為第六十四頁(yè)，共108頁(yè)。3.維納濾波器的時(shí)域解3.1維納濾波器時(shí)域求解的方法得將上式展開由于第六十五頁(yè)，共108頁(yè)。3.維納濾波器的時(shí)域解3.1維納濾波器時(shí)域求解的方法將如上各項(xiàng)代入表達(dá)式，整理得：因此等價(jià)于上式說明，均方誤差達(dá)到最小值的充要條件是誤差信號(hào)與任一進(jìn)入估計(jì)的輸入信號(hào)正交，這就是正交性原理。第六十六頁(yè)，共108頁(yè)。3.維納濾波器的時(shí)域解3.1維納濾波器時(shí)域求解的方法下面計(jì)算輸出信號(hào)與誤差信號(hào)的互相關(guān)函數(shù)假定濾波器工作于最佳狀態(tài)，濾波器的輸出與期望信號(hào)的誤差為，則可見，在濾波器工作于最佳狀態(tài)時(shí)，輸出和誤差信號(hào)也是正交的。第六十七頁(yè)，共108頁(yè)。3.維納濾波器的時(shí)域解3.2維納-霍夫方程將展開，得整理得對(duì)兩邊取共軛，并利用相關(guān)函數(shù)的性質(zhì),得第六十八頁(yè)，共108頁(yè)。3.維納濾波器的時(shí)域解3.2維納-霍夫方程此式稱為維納-霍夫(Wiener-Hopf)方程。解此方程可得到最優(yōu)權(quán)系數(shù)，此式是維納濾波器的一般方程，根據(jù)權(quán)系數(shù)是有限個(gè)還是無(wú)限個(gè)可以分別設(shè)計(jì)IIR型和FIR型維納濾波器。第六十九頁(yè)，共108頁(yè)。3.維納濾波器的時(shí)域解3.3FIR型維納濾波器FIR濾波器是一個(gè)長(zhǎng)度為M的因果序列(即是一個(gè)長(zhǎng)度為M的FIR濾波器)時(shí)，維納-霍夫方程表述為把的取值代入上式，得

時(shí)

時(shí)

時(shí)第七十頁(yè)，共108頁(yè)。3.維納濾波器的時(shí)域解3.3FIR型維納濾波器則維納-霍夫方程可寫成矩陣形式定義對(duì)上式求逆，得第七十一頁(yè)，共108頁(yè)。3.維納濾波器的時(shí)域解3.3FIR型維納濾波器維納-霍夫方程矩陣形式

此式表明，已知期望信號(hào)與觀測(cè)數(shù)據(jù)的互相關(guān)函數(shù)及觀測(cè)數(shù)據(jù)的自相關(guān)函數(shù)時(shí)，可以通過矩陣求逆運(yùn)算，得到維納濾波器的最佳解。同時(shí)可以看到，直接從時(shí)域求解維納濾波器，并不是一個(gè)有效的方法，當(dāng)較大時(shí)，計(jì)算量很大，并需計(jì)算，從而要求存儲(chǔ)量也很大。另外，具體實(shí)現(xiàn)時(shí)，濾波器的長(zhǎng)度由實(shí)驗(yàn)確定，增加，需在新基礎(chǔ)上重新計(jì)算。第七十二頁(yè)，共108頁(yè)。3.維納濾波器的時(shí)域解3.3FIR型維納濾波器FIR型維納濾波器的最小均方誤差

設(shè)所研究的信號(hào)是零均值的，濾波器為FIR型，長(zhǎng)度等于M，則第七十三頁(yè)，共108頁(yè)。3.維納濾波器的時(shí)域解3.3FIR型維納濾波器第七十四頁(yè)，共108頁(yè)。3.維納濾波器的時(shí)域解3.3FIR型維納濾波器將代入得:

第七十五頁(yè)，共108頁(yè)。7.5用于濾波和預(yù)測(cè)的維納濾波器4.離散維納濾波的Z域解時(shí)域求解維納濾波器很困難，用Z域求解。又因?yàn)閷?shí)際的系統(tǒng)是因果的，維納-霍夫方程有個(gè)的約束條件，所以不能直接轉(zhuǎn)入Z域求解它的。這是因?yàn)檩斎胄盘?hào)與期望信號(hào)的互是一個(gè)因果序列。這里我們利用將加以白化的方法來求維納-霍夫方程的Z域解(由波德(Bode)和香農(nóng)(Shannon)首先提出的方法)。第七十六頁(yè)，共108頁(yè)。7.5用于濾波和預(yù)測(cè)的維納濾波器4.離散維納濾波的Z域解

是一個(gè)因果(物理可實(shí)現(xiàn))的最小相位系統(tǒng)。把信號(hào)轉(zhuǎn)化為白噪聲的過程稱為白化。白化濾波器第七十七頁(yè)，共108頁(yè)。白噪聲功率譜密度為：s(n)的信號(hào)模型x(n)的信號(hào)模型7.6用于濾波和預(yù)測(cè)的維納濾波器4.離散維納濾波的Z域解第七十八頁(yè)，共108頁(yè)。B(z)是x(n)的形成網(wǎng)絡(luò)的傳函維納濾波器輸入－輸出的信號(hào)模型x(n)的信號(hào)模型7.6用于濾波和預(yù)測(cè)的維納濾波器4.離散維納濾波的Z域解第七十九頁(yè)，共108頁(yè)。如果是在單位圓內(nèi)()的一對(duì)共軛極點(diǎn)（零點(diǎn)），則必是單位圓外一對(duì)相應(yīng)的極點(diǎn)（零點(diǎn)）。令B(z)是由圓內(nèi)的零極點(diǎn)組成，則B(z-1)是由相應(yīng)的圓外的零極點(diǎn)組成。一個(gè)穩(wěn)定因果系統(tǒng)，其收斂域?yàn)?，即H(z)的全部極點(diǎn)應(yīng)落在單位圓內(nèi)。因此B(z)是因果且最小相位系統(tǒng)，1/B(z)也是因果最小相位系統(tǒng)。7.6用于濾波和預(yù)測(cè)的維納濾波器4.離散維納濾波的Z域解第八十頁(yè)，共108頁(yè)。利用白化x(n)的方法來求解維納－霍夫方程7.6用于濾波和預(yù)測(cè)的維納濾波器4.離散維納濾波的Z域解第八十一頁(yè)，共108頁(yè)。求解步驟：對(duì)觀測(cè)信號(hào)的自相關(guān)函數(shù)求z變換得。利用等式，找到最小相位系統(tǒng)B(z)。利用均方誤差最小原則求解G(z)。

H(z)=G(z)/B(z)，得到維納－霍夫方程的系統(tǒng)函數(shù)解。7.6用于濾波和預(yù)測(cè)的維納濾波器4.離散維納濾波的Z域解第八十二頁(yè)，共108頁(yè)。4.離散維納濾波的Z域解4.1非因果維納濾波器的求解該信號(hào)為實(shí)信號(hào)，是的逆Z變換。第八十三頁(yè)，共108頁(yè)。要使均方誤差最小，當(dāng)且僅當(dāng)因此的最佳值為4.離散維納濾波的Z域解4.1非因果維納濾波器的求解第八十四頁(yè)，共108頁(yè)。兩邊取Z變換非因果維納濾波器的最佳解為4.離散維納濾波的Z域解4.1非因果維納濾波器的求解第八十五頁(yè)，共108頁(yè)。因?yàn)?，且根?jù)相關(guān)卷積定理，得兩邊取Z變換代入得到4.離散維納濾波的Z域解4.1非因果維納濾波器的求解第八十六頁(yè)，共108頁(yè)。假定信號(hào)與噪聲不相關(guān)，即，有兩邊取Z變換，得代入表達(dá)式，得4.離散維納濾波的Z域解4.1非因果維納濾波器的求解第八十七頁(yè)，共108頁(yè)。代入式，非因果維納濾波器的復(fù)頻域最佳解非因果維納濾波器的頻率響應(yīng)為4.離散維納濾波的Z域解4.1非因果維納濾波器的求解第八十八頁(yè)，共108頁(yè)。決定于信號(hào)與噪聲的功率譜密度。(信號(hào)不失真，因?yàn)闆]有噪聲)有誤差，誤差是由于信號(hào)譜和噪聲譜交叉造成。信噪比越小，越小噪聲全部被抑制掉，因此維納濾波器有濾除噪聲的能力幅頻特性第八十九頁(yè)，共108頁(yè)。為什么維納濾波器比一般線性濾波器性能更好？第九十頁(yè)，共108頁(yè)。推導(dǎo)濾波器的最小均方誤差根據(jù)圍線積分求逆Z變換的公式，得4.離散維納濾波的Z域解4.1非因果維納濾波器的求解第九十一頁(yè)，共108頁(yè)。同理由帕塞伐爾定理取有4.離散維納濾波的Z域解4.1非因果維納濾波器的求解第九十二頁(yè)，共108頁(yè)。把，代入公式，得將代入上式，得4.離散維納濾波的Z域解4.1非因果維納濾波器的求解第九十三頁(yè)，共108頁(yè)。因?yàn)閷?shí)信號(hào)的自相關(guān)函數(shù)是偶函數(shù)，即，因此假定信號(hào)與噪聲不相關(guān)，即，則可見，維納濾波的最小均方誤差不僅與輸入信號(hào)的功率譜有關(guān)，而且與信號(hào)和噪聲的功率譜的乘積有關(guān)。也就是說，最小均方誤差與信號(hào)和噪聲功率譜的重疊部分的大小有關(guān)。4.離散維納濾波的Z域解4.1非因果維納濾波器的求解第九十四頁(yè)，共108頁(yè)。若維納濾波器是一個(gè)因果濾波器，要求則濾波器輸出估計(jì)誤差的均方值類似于前面的推導(dǎo)，得4.離散維納濾波的Z域解4.2因果維納濾波器的求解第九十五頁(yè)，共108頁(yè)。令要使均方誤差最小，當(dāng)且僅當(dāng)4.離散維納濾波的Z域解4.2因果維納濾波器的求解第九十六頁(yè)，共108頁(yè)。又由于得所以因果維納濾波器的復(fù)頻域最佳解為4.離散維納濾波的Z域解4.2因果維納濾波器的求解第九十七頁(yè)，共108頁(yè)。維納濾波的最小