自適應(yīng)濾波技術(shù)課件

2023/8/8大連理工大學(xué)12023/8/8大連理工大學(xué)1第12章自適應(yīng)濾波技術(shù)大連理工大學(xué)碩士研究生校管課程信號(hào)處理與數(shù)據(jù)分析電子信息與電氣工程學(xué)部邱天爽2015年12月2023/7/31大連理工大學(xué)12023/7/31大連理工大2023/8/8大連理工大學(xué)2

內(nèi)容概要§14.1引言

§14.2橫向自適應(yīng)濾波器結(jié)構(gòu)與隨機(jī)梯度法§14.3自適應(yīng)濾波器的最小均方（LMS）算法§14.4自適應(yīng)濾波器的遞歸最小二乘（RLS）算法§14.5自適應(yīng)濾波器的主要應(yīng)用結(jié)構(gòu)2023/7/31大連理工大學(xué)2內(nèi)容概要§14.1引言2023/8/8大連理工大學(xué)3§12.1

引言2023/7/31大連理工大學(xué)3§12.1引言2023/8/8大連理工大學(xué)44自適應(yīng)濾波的基本概念自適應(yīng)濾波（adaptivefiltering）是信號(hào)處理領(lǐng)域的一個(gè)非常重要的分支。1959年由B.Widrow提出自適應(yīng)的概念。近年來，超大規(guī)模集成電路技術(shù)和計(jì)算機(jī)技術(shù)的迅速發(fā)展，為自適應(yīng)濾波器的發(fā)展和應(yīng)用提供了重要的物質(zhì)基礎(chǔ)。另一方面，信號(hào)處理理論和應(yīng)用的發(fā)展，也為自適應(yīng)濾波理論的進(jìn)一步發(fā)展提供了必要的理論基礎(chǔ)。自適應(yīng)濾波理論和技術(shù)日益受到重視，并且已經(jīng)許多領(lǐng)域得到廣泛的應(yīng)用，并推動(dòng)這些領(lǐng)域的進(jìn)步。2023/7/31大連理工大學(xué)44自適應(yīng)濾波的基本概念2023/8/8大連理工大學(xué)55自適應(yīng)的含義“自適應(yīng)”（adaptive）一詞具有主動(dòng)適應(yīng)外部環(huán)境的含義。顧名思義，自適應(yīng)濾波器是一種能夠根據(jù)輸入信號(hào)自動(dòng)調(diào)整自身性能并進(jìn)行數(shù)字信號(hào)處理的數(shù)字濾波器，其最本質(zhì)的特點(diǎn)就是具有自學(xué)習(xí)和自調(diào)整即所謂自適應(yīng)的能力。一般來說，自適應(yīng)濾波器能夠依據(jù)某種預(yù)先確定的準(zhǔn)則，在迭代過程中自動(dòng)調(diào)整自身的參數(shù)和/或結(jié)構(gòu)，去適應(yīng)變化的環(huán)境，以實(shí)現(xiàn)在這種最優(yōu)準(zhǔn)則下的最優(yōu)濾波。2023/7/31大連理工大學(xué)55自適應(yīng)的含義2023/8/8大連理工大學(xué)62023/8/8大連理工大學(xué)670年代中期，B.維德羅等人提出自適應(yīng)濾波器及其算法，發(fā)展了最佳濾波設(shè)計(jì)理論。以最小均方誤差為準(zhǔn)則設(shè)計(jì)的自適應(yīng)濾波器的系數(shù)可以由維納-霍夫方程解得。

B.維德羅提出的一種方法，能實(shí)時(shí)求解自適應(yīng)濾波器系數(shù)，其結(jié)果接近維納－霍夫方程近似解。這種算法稱為最小均方算法或簡(jiǎn)稱LMS法。這一算法利用最陡下降法，由均方誤差的梯度估計(jì)從現(xiàn)時(shí)刻濾波器系數(shù)向量迭代計(jì)算下一個(gè)時(shí)刻的系數(shù)向量。2023/7/31大連理工大學(xué)62023/7/31大連理工大2023/8/8大連理工大學(xué)72023/8/8大連理工大學(xué)7Bernard.Widrow（維德羅）ProfessorEmeritus,ElectricalEngineeringDepartment,StanfordUniversityResearchfocuseson:adaptivesignalprocessing,adaptivecontrolsystems,adaptiveneuralnetworks,humanmemory,andhuman-likememoryforcomputers.Applicationsinclude:signalprocessing,prediction,noisecancelling,adaptivearrays,controlsystems,andpatternrecognition.

2023/7/31大連理工大學(xué)72023/7/31大連理工大2023/8/8大連理工大學(xué)82023/8/8大連理工大學(xué)8自適應(yīng)濾波器的發(fā)展20世紀(jì)40年代初期，N.維納首先應(yīng)用最小均方準(zhǔn)則設(shè)計(jì)最佳線性濾波器，用來消除噪聲、預(yù)測(cè)或平滑平穩(wěn)隨機(jī)信號(hào)。60年代初期，R.E.卡爾曼等發(fā)展并導(dǎo)出處理非平穩(wěn)隨機(jī)信號(hào)的最佳時(shí)變線性濾波設(shè)計(jì)理論。維納、卡爾曼等濾波器都是以預(yù)知信號(hào)和噪聲的統(tǒng)計(jì)特征為基礎(chǔ)，具有固定的濾波器系數(shù)。因此，僅當(dāng)實(shí)際輸入信號(hào)的統(tǒng)計(jì)特征與設(shè)計(jì)濾波器所依據(jù)的先驗(yàn)信息一致時(shí)，這類濾波器才是最佳的。否則，這類濾波器不能提供最佳性能。2023/7/31大連理工大學(xué)82023/7/31大連理工大2023/8/8大連理工大學(xué)9§12.2橫向自適應(yīng)濾波器結(jié)構(gòu)與隨機(jī)梯度法2023/7/31大連理工大學(xué)9§12.2橫向自適應(yīng)濾波2023/8/8大連理工大學(xué)1010自適應(yīng)濾波結(jié)構(gòu)自適應(yīng)濾波器是一種能夠根據(jù)輸入信號(hào)自動(dòng)調(diào)整自身特性并能進(jìn)行數(shù)字信號(hào)處理的數(shù)字濾波器，本質(zhì)特點(diǎn)是具有自學(xué)習(xí)和自調(diào)整即所謂自適應(yīng)的能力。2023/7/31大連理工大學(xué)1010自適應(yīng)濾波結(jié)構(gòu)2023/8/8大連理工大學(xué)112023/8/8大連理工大學(xué)11自適應(yīng)濾波器的原理圖圖中，x(n)、y(n)和d(n)表示時(shí)刻n的輸入信號(hào)、輸出信號(hào)和參考信號(hào)；e(n)表示時(shí)刻n的期望信號(hào)。自適應(yīng)濾波器的參數(shù)受誤差信號(hào)控制，并根據(jù)e(n)的值自動(dòng)調(diào)整,使之適合下一時(shí)刻n+1的輸入x(n+1),使輸出信號(hào)y(n+1)更加接近期望信號(hào)d(n+1)，并使誤差信號(hào)e(n+1)進(jìn)一步減小。2023/7/31大連理工大學(xué)112023/7/31大連理工

12.2.1橫向自適應(yīng)濾波器的結(jié)構(gòu)及其

性能函數(shù)橫向自適應(yīng)濾波器有兩種基本結(jié)構(gòu)單輸入結(jié)構(gòu)；多輸入結(jié)構(gòu)。大連理工大學(xué)1212.2.1橫向自適應(yīng)濾波器的結(jié)構(gòu)及其

2023/8/8大連理工大學(xué)132023/8/8大連理工大學(xué)13（1）橫向自適應(yīng)濾波器橫向自適應(yīng)濾波器（單輸入結(jié)構(gòu)）2023/7/31大連理工大學(xué)132023/7/31大連理工2023/8/8大連理工大學(xué)142023/8/8大連理工大學(xué)14橫向自適應(yīng)濾波器（多輸入結(jié)構(gòu)）2023/7/31大連理工大學(xué)142023/7/31大連理工2023/8/8大連理工大學(xué)152023/8/8大連理工大學(xué)15自適應(yīng)濾波器的數(shù)學(xué)描述自適應(yīng)濾波器的權(quán)矢量為輸入信號(hào)矢量：或輸出信號(hào)：自適應(yīng)系統(tǒng)的誤差信號(hào)2023/7/31大連理工大學(xué)152023/7/31大連理工2023/8/8大連理工大學(xué)162023/8/8大連理工大學(xué)16上式兩邊平方，并取數(shù)學(xué)期望定義輸入信號(hào)的自相關(guān)矩陣2023/7/31大連理工大學(xué)162023/7/31大連理工2023/8/8大連理工大學(xué)172023/8/8大連理工大學(xué)17定義互相關(guān)矢量這樣，有2023/7/31大連理工大學(xué)172023/7/31大連理工2023/8/8大連理工大學(xué)182023/8/8大連理工大學(xué)18（2）自適應(yīng)濾波器的性能函數(shù)稱均方誤差函數(shù)為自適應(yīng)濾波器的性能函數(shù)：當(dāng)與為平穩(wěn)隨機(jī)過程時(shí)，性能函數(shù)為的二次函數(shù)，超拋物面，碗口向上，有唯一最小值。該最小值所對(duì)應(yīng)的最佳權(quán)矢量對(duì)應(yīng)于維納濾波器的權(quán)矢量。

2023/7/31大連理工大學(xué)182023/7/31大連理工

12.2.2二次型性能表面的搜索目標(biāo)：找出性能函數(shù)的最小值，并由此得到這個(gè)最小值所對(duì)應(yīng)的最佳權(quán)矢量。方法：在數(shù)學(xué)上是利用導(dǎo)數(shù)求取曲線和曲面的極值問題。梯度：對(duì)于性能函數(shù)來說，需要求其梯度，再根據(jù)二次型的性質(zhì)，當(dāng)梯度值為0時(shí)，即對(duì)應(yīng)著性能函數(shù)的最小值。大連理工大學(xué)1912.2.2二次型性能表面的搜索目標(biāo)：找出性能函數(shù)的最2023/8/8大連理工大學(xué)202023/8/8大連理工大學(xué)20

最佳權(quán)矢量與最小均方誤差對(duì)性能函數(shù)求梯度，有令上式為0，可得：上式稱為維納—霍夫方程，與維納濾波器有相同的形式和意義。故自適應(yīng)濾波器的最佳權(quán)矢量由稱為維納權(quán)矢量。最佳權(quán)矢量需要迭代實(shí)現(xiàn)，或稱為梯度搜索。2023/7/31大連理工大學(xué)202023/7/31大連理工2023/8/8大連理工大學(xué)212023/8/8大連理工大學(xué)21最小均方誤差將最佳權(quán)矢量的表達(dá)式代入性能函數(shù)表達(dá)式，有進(jìn)一步簡(jiǎn)化，有：2023/7/31大連理工大學(xué)212023/7/31大連理工2023/8/8大連理工大學(xué)222023/8/8大連理工大學(xué)22（1）梯度搜索常用的方法：牛頓法2023/7/31大連理工大學(xué)222023/7/31大連理工2023/8/8大連理工大學(xué)232023/8/8大連理工大學(xué)232023/7/31大連理工大學(xué)232023/7/31大連理工2023/8/8大連理工大學(xué)242023/8/8大連理工大學(xué)24（2）梯度搜索常用的方法：最速下降法最速下降法是一種古老而又非常有用的方法，它通過迭代尋找極值。從幾何上來說，它使系統(tǒng)的均方誤差沿其梯度反方向下降，最終達(dá)到，并使權(quán)矢量為。2023/7/31大連理工大學(xué)242023/7/31大連理工2023/8/8大連理工大學(xué)252023/8/8大連理工大學(xué)25最速下降法的推導(dǎo)梯度矢量表示為：這樣，最速下降法表示為：其中，為正值，稱為收斂因子或迭代步長(zhǎng)。將性能函數(shù)在處進(jìn)行一階泰勒展開，有：表明，上式滿足，隨著迭代的進(jìn)行，當(dāng)時(shí)，性能函數(shù)趨于。2023/7/31大連理工大學(xué)252023/7/31大連理工2023/8/8大連理工大學(xué)262023/8/8大連理工大學(xué)26最速下降法的迭代公式最速下降法的穩(wěn)定因素：收斂因子的選??；自相關(guān)矩陣的特性。收斂因子的選取條件：其中，為自相關(guān)矩陣的最大特征值。2023/7/31大連理工大學(xué)262023/7/31大連理工2023/8/8大連理工大學(xué)272023/8/8大連理工大學(xué)27最速下降法的優(yōu)缺點(diǎn)優(yōu)點(diǎn)：算法簡(jiǎn)單，易于實(shí)現(xiàn)；缺點(diǎn)：需要大量的迭代。2023/7/31大連理工大學(xué)272023/7/31大連理工2023/8/8大連理工大學(xué)28§12.3自適應(yīng)濾波器的最小均方（LMS）算法2023/7/31大連理工大學(xué)28§12.3自適應(yīng)濾波器

12.3.1LMS算法LMS算法的思路在最速下降法中，如果能夠每一步迭代都得到準(zhǔn)確的梯度值，且適當(dāng)選擇了收斂因子，則算法肯定收斂于維納解。但是在實(shí)際應(yīng)用中，梯度需要估計(jì)，權(quán)矢量要根據(jù)數(shù)據(jù)不斷更新。LMS算法是一種以期望響應(yīng)與濾波器輸出信號(hào)之間誤差均方值最小為準(zhǔn)則的自適應(yīng)濾波器。是一種梯度最速下降法，其特點(diǎn)是簡(jiǎn)單，不需要計(jì)算相關(guān)矩陣。大連理工大學(xué)2912.3.1LMS算法LMS算法的思路大連理工大學(xué)292023/8/8大連理工大學(xué)302023/8/8大連理工大學(xué)30LMS算法原理兩個(gè)過程：濾波過程：自適應(yīng)濾波器計(jì)算其對(duì)輸入的響應(yīng)，并與期望比較，得到誤差信號(hào)。自適應(yīng)過程：系統(tǒng)估計(jì)誤差自動(dòng)調(diào)整濾波器的參數(shù)。二者構(gòu)成一個(gè)反饋環(huán)。2023/7/31大連理工大學(xué)302023/7/31大連理工2023/8/8大連理工大學(xué)312023/8/8大連理工大學(xué)31LMS算法的推導(dǎo)橫向?yàn)V波器結(jié)構(gòu)自適應(yīng)濾波器的誤差信號(hào)為：其中：2023/7/31大連理工大學(xué)312023/7/31大連理工2023/8/8大連理工大學(xué)322023/8/8大連理工大學(xué)32LMS算法的梯度估計(jì)LMS算法的梯度估計(jì)是以誤差信號(hào)的每一次迭代的瞬時(shí)平方值替代其均方值，即：經(jīng)整理，有：用梯度估值代替梯度真值，有LMS算法迭代公式2023/7/31大連理工大學(xué)322023/7/31大連理工2023/8/8大連理工大學(xué)332023/8/8大連理工大學(xué)33LMS算法的流程圖2023/7/31大連理工大學(xué)332023/7/31大連理工

12.3.2LMS算法的性能分析（1）LMS算法的收斂性梯度估計(jì)是無偏的收斂特性：只要滿足收斂條件，則LMS算法能夠穩(wěn)定收斂。收斂條件的變形：大連理工大學(xué)3412.3.2LMS算法的性能分析（1）LMS算法的收斂2023/8/8大連理工大學(xué)352023/8/8大連理工大學(xué)35（2）自適應(yīng)時(shí)間常數(shù)與學(xué)習(xí)曲線時(shí)間常數(shù)最佳權(quán)矢量學(xué)習(xí)曲線：2023/7/31大連理工大學(xué)352023/7/31大連理工2023/8/8大連理工大學(xué)362023/8/8大連理工大學(xué)36（3）LMS自適應(yīng)算法中的權(quán)失調(diào)失調(diào)系數(shù)：式中：2023/7/31大連理工大學(xué)362023/7/31大連理工2023/8/8大連理工大學(xué)372023/8/8大連理工大學(xué)37【例12.1】設(shè)自適應(yīng)濾波器結(jié)構(gòu)如圖所示，（1）寫出其性能函數(shù)表達(dá)式；（2）確定其收斂因子的范圍；（3）寫出LMS算法的迭代式。解：（1）由且有故有：2023/7/31大連理工大學(xué)372023/7/31大連理工2023/8/8大連理工大學(xué)382023/8/8大連理工大學(xué)38（2）由于有故（3）LMS算法的迭代式為：式中2023/7/31大連理工大學(xué)382023/7/31大連理工2023/8/8大連理工大學(xué)392023/8/8大連理工大學(xué)39【例12.2】試?yán)肕ATLAB編程實(shí)現(xiàn)LMS自適應(yīng)濾波器，并給出系統(tǒng)均方誤差隨迭代過程而逐步減小的收斂曲線。解：2023/7/31大連理工大學(xué)392023/7/31大連理工12.3.3LMS自適應(yīng)濾波器的改進(jìn)形式LMS自適應(yīng)濾波器的主要優(yōu)點(diǎn)：收斂性能穩(wěn)定，算法比較簡(jiǎn)單LMS自適應(yīng)濾波器固有的缺點(diǎn)：一般來說不能從任意初始點(diǎn)出發(fā)通過最短的路徑到達(dá)極值點(diǎn)；當(dāng)輸入信號(hào)自相關(guān)陣R的特征值在數(shù)值上分散性較大時(shí)，這種方法的性能趨于惡化，可能出現(xiàn)收斂緩慢甚至發(fā)散的問題。大連理工大學(xué)4012.3.3LMS自適應(yīng)濾波器的改進(jìn)形式LMS自適應(yīng)濾波2023/8/8大連理工大學(xué)412023/8/8大連理工大學(xué)41（1）歸一化LMS算法（NLMS）說明：對(duì)于保證濾波器的穩(wěn)定收斂有益。2023/7/31大連理工大學(xué)412023/7/31大連理工2023/8/8大連理工大學(xué)422023/8/8大連理工大學(xué)42（2）泄漏LMS算法式中，說明：對(duì)于常規(guī)的LMS算法，當(dāng)突然變?yōu)?時(shí)，權(quán)矢量系數(shù)將不再發(fā)生變化而保持變?yōu)?時(shí)的值。而對(duì)于泄漏LMS算法，當(dāng)值變?yōu)?值之后，濾波器的權(quán)矢量將逐漸變化，并最終變?yōu)?矢量。這個(gè)過程稱為泄漏。泄漏LMS算法在通信系統(tǒng)的自適應(yīng)差分脈沖編碼調(diào)制（ADPCM）中得到應(yīng)用，被用來減小或消除通道誤差。另一方面，泄漏LMS算法也常用來在自適應(yīng)陣列中消除旁瓣效應(yīng)。2023/7/31大連理工大學(xué)422023/7/31大連理工2023/8/8大連理工大學(xué)432023/8/8大連理工大學(xué)43（3）極性LMS算法其中，符號(hào)函數(shù)定義為特點(diǎn)：計(jì)算量小。可能引起收斂速度下降和問題誤差增加。2023/7/31大連理工大學(xué)432023/7/31大連理工2023/8/8大連理工大學(xué)442023/8/8大連理工大學(xué)44（4）LMS算法梯度估計(jì)的平滑式中對(duì)于線性平滑，一種有效的平滑方法是鄰域平均法2023/7/31大連理工大學(xué)442023/7/31大連理工2023/8/8大連理工大學(xué)452023/8/8大連理工大學(xué)45（5）解相關(guān)LMS算法LMS算法收斂慢的主要原因是輸入信號(hào)各元素有一定的相關(guān)性。對(duì)其解相關(guān)可以改善收斂速度。定義與相關(guān)系數(shù)：，其值越大，相關(guān)性越大。自適應(yīng)公式：其中：2023/7/31大連理工大學(xué)452023/7/31大連理工2023/8/8大連理工大學(xué)462023/8/8大連理工大學(xué)46（6）塊LMS算法有些實(shí)際問題要求自適應(yīng)濾波器的階數(shù)很高，例如在電話系統(tǒng)的回波抵消中，階數(shù)達(dá)到8000階。采用塊LMS自適應(yīng)算法，可以有效減小計(jì)算復(fù)雜度。塊自適應(yīng)算法每次處理一個(gè)數(shù)據(jù)塊，濾波器的系數(shù)每塊更新一次，而在每塊的處理過程中保持不變。2023/7/31大連理工大學(xué)462023/7/31大連理工2023/8/8大連理工大學(xué)472023/8/8大連理工大學(xué)47（7）變換域LMS算法變換域LMS自適應(yīng)算法的思路是通過正交變換，改善輸入信號(hào)自相關(guān)陣最大/最小特征值之比，從而改善收斂速度。2023/7/31大連理工大學(xué)472023/7/31大連理工12.3.4應(yīng)用中需要注意的問題（1）信號(hào)的有限字長(zhǎng)問題自適應(yīng)數(shù)字濾波器的有限字長(zhǎng)的運(yùn)算，造成了實(shí)際的自適應(yīng)濾波器（有限精度）與理想的自適應(yīng)濾波器（無限精度）之間的性能差別。引起這種性能差別的主要因素包括：輸入信號(hào)與期望信號(hào)的量化，濾波器系數(shù)的量化，以及濾波器運(yùn)算過程中的舍入誤差等。一般來說，理論分析是有效的，但是有困難。常通過計(jì)算機(jī)仿真來分析和測(cè)量自適應(yīng)濾波器的性能。

大連理工大學(xué)4812.3.4應(yīng)用中需要注意的問題（1）信號(hào)的有限字長(zhǎng)問題2023/8/8大連理工大學(xué)492023/8/8大連理工大學(xué)49數(shù)值穩(wěn)定性：若無限精度和有限精度的權(quán)矢量之差總是有界的，則認(rèn)為自適應(yīng)濾波器是數(shù)值穩(wěn)定的。數(shù)值穩(wěn)定性是自適應(yīng)算法的固有特性，不能通過提高數(shù)字精度來改變。只有通過改進(jìn)舍入誤差傳播系統(tǒng)的性能，才能達(dá)到自適應(yīng)濾波器的穩(wěn)定數(shù)值準(zhǔn)確性：數(shù)值準(zhǔn)確性用來度量穩(wěn)態(tài)下由于舍入誤差引起的實(shí)際值與理論值的偏差。數(shù)值準(zhǔn)確性低，會(huì)導(dǎo)致系統(tǒng)誤差增加。通過增加字長(zhǎng)，可以減小這種誤差。但若數(shù)值穩(wěn)定性低，則可能導(dǎo)致算法發(fā)散或崩潰。2023/7/31大連理工大學(xué)492023/7/31大連理工2023/8/8大連理工大學(xué)502023/8/8大連理工大學(xué)50（2）LMS自適應(yīng)濾波器的韌性自適應(yīng)濾波器的韌性可以表示為自適應(yīng)系統(tǒng)對(duì)于初始條件和系統(tǒng)最優(yōu)殘差及其它誤差的敏感程度。定義干擾能量和誤差能量。若收斂因子滿足，則。上式表示系統(tǒng)殘差的能量以干擾的能量為上限，由此表明了LMS算法的韌性。另一方面，對(duì)于所有的有限能量干擾，LMS算法夠使這兩種能量間最大可能的區(qū)別最小化，根據(jù)極大極小化準(zhǔn)則，這種算法是最優(yōu)的。2023/7/31大連理工大學(xué)502023/7/31大連理工2023/8/8大連理工大學(xué)512023/8/8大連理工大學(xué)51（3）收斂因子與系統(tǒng)誤差收斂因子是LMS自適應(yīng)濾波器的重要參數(shù)，它控制著收斂速度與穩(wěn)態(tài)失調(diào)的平衡。一般來說，較小的收斂因子會(huì)導(dǎo)致較慢的收斂速度和較小的穩(wěn)態(tài)失調(diào)。然而，在數(shù)字自適應(yīng)系統(tǒng)中，當(dāng)?shù)隽浚葱拚?xiàng)）的大小比數(shù)字量的最低有效位（LSB）的一半還小時(shí)，LMS算法的自適應(yīng)迭代將停止。因此，的減小將導(dǎo)致系統(tǒng)性能的下降。2023/7/31大連理工大學(xué)512023/7/31大連理工2023/8/8大連理工大學(xué)52§12.4

自適應(yīng)濾波器的遞歸最小二乘（RLS）算法

（自行閱讀）2023/7/31大連理工大學(xué)52§12.4自適應(yīng)濾波器的12.4.1線性最小二乘原理最小二乘法概念一種典型的根據(jù)觀測(cè)數(shù)據(jù)推斷未知參量的數(shù)據(jù)處理方法。其基本思想是使實(shí)際觀測(cè)值與計(jì)算值之間的平方乘和最小。自1795年由著名數(shù)學(xué)家高斯提出以來，LS法在許多領(lǐng)域得到了廣泛的應(yīng)用，并成為系統(tǒng)辨識(shí)、參數(shù)估計(jì)和自適應(yīng)信號(hào)處理等領(lǐng)域的基本算法之一。大連理工大學(xué)5312.4.1線性最小二乘原理最小二乘法概念大連理工大學(xué)52023/8/8大連理工大學(xué)542023/8/8大連理工大學(xué)54線性組合器誤差平方和為2023/7/31大連理工大學(xué)542023/7/31大連理工2023/8/8大連理工大學(xué)552023/8/8大連理工大學(xué)55（推導(dǎo)過程請(qǐng)見書稿）若時(shí)間平均的相關(guān)矩陣是正定的，則最小二乘估計(jì)可以由求解下列正則方程得到：平方誤差的最小值為2023/7/31大連理工大學(xué)552023/7/31大連理工12.4.2遞歸最小二乘自適應(yīng)濾波器（1）LS自適應(yīng)濾波器一種典型的根據(jù)觀測(cè)數(shù)據(jù)推斷未知參量的數(shù)據(jù)處理方法。其基本思想是使實(shí)際觀測(cè)值與計(jì)算值之間的平方乘和最小。自1795年由著名數(shù)學(xué)家高斯提出以來，LS法在許多領(lǐng)域得到了廣泛的應(yīng)用，并成為系統(tǒng)辨識(shí)、參數(shù)估計(jì)和自適應(yīng)信號(hào)處理等領(lǐng)域的基本算法之一。大連理工大學(xué)5612.4.2遞歸最小二乘自適應(yīng)濾波器（1）LS自適應(yīng)濾波2023/8/8大連理工大學(xué)572023/8/8大連理工大學(xué)57準(zhǔn)則：是典型的根據(jù)觀測(cè)數(shù)據(jù)推斷未知參量的方法；思路：是最小二乘方法的一種遞歸形式；使實(shí)際觀測(cè)值與計(jì)算值之差的平方和最小。代價(jià)函數(shù)：式中，和分別為自適應(yīng)濾波器的期望響應(yīng)和輸出信號(hào)，為瞬時(shí)誤差信號(hào)，是一個(gè)不大于1的正常數(shù)，稱為遺忘因子。2023/7/31大連理工大學(xué)572023/7/31大連理工2023/8/8大連理工大學(xué)58遺忘因子的作用遺忘因子的作用是確保濾波器能夠僅保留“最近的”數(shù)據(jù)而忘記“過去的”數(shù)據(jù)，從而使算法適用于非平穩(wěn)的環(huán)境。2023/8/8大連理工大學(xué)582023/7/31大連理工大學(xué)58遺忘因子的作用2023/72023/8/8大連理工大學(xué)592023/8/8大連理工大學(xué)59由代價(jià)函數(shù)可以得到以下三個(gè)結(jié)論：代價(jià)函數(shù)E(n)是n的函數(shù)，即在迭代的每一步均發(fā)生變化，以反映新數(shù)據(jù)樣本的影響；使E(n)最小的最優(yōu)準(zhǔn)則為加權(quán)最小二乘法；當(dāng)時(shí)，使E(n)最小的最優(yōu)準(zhǔn)則為普通最小二乘法。對(duì)代價(jià)函數(shù)相對(duì)于自適應(yīng)濾波器權(quán)系數(shù)矢量求導(dǎo)，并令導(dǎo)數(shù)為0，可以得到正則方程為：其中：2023/7/31大連理工大學(xué)592023/7/31大連理工2023/8/8大連理工大學(xué)602023/8/8大連理工大學(xué)602023/7/31大連理工大學(xué)602023/7/31大連理工2023/8/8大連理工大學(xué)612023/8/8大連理工大學(xué)612023/7/31大連理工大學(xué)612023/7/31大連理工2023/8/8大連理工大學(xué)622023/8/8大連理工大學(xué)62（2）遞歸最小二乘（RLS）算法2023/7/31大連理工大學(xué)622023/7/31大連理工12.4.3應(yīng)用中需要注意的問題（1）計(jì)算復(fù)雜度問題式（12.177）、式（12.171）和式（12.174）構(gòu)成的RLS算法的計(jì)算復(fù)雜度主要由進(jìn)行一次修正所需要的運(yùn)算量（一次乘法和一次加法）決定。（2）算法的初始化令，。這里，是很小的正數(shù)（與同數(shù)量級(jí)）。大連理工大學(xué)6312.4.3應(yīng)用中需要注意的問題（1）計(jì)算復(fù)雜度問題大連2023/8/8大連理工大學(xué)642023/8/8大連理工大學(xué)64（3）有效字長(zhǎng)效應(yīng)實(shí)際應(yīng)用中，由于受到有效字長(zhǎng)效應(yīng)的影響，RLS算法原有的準(zhǔn)確的數(shù)學(xué)關(guān)系受到影響，可能會(huì)導(dǎo)致數(shù)值不穩(wěn)定。實(shí)際上，我們可以只計(jì)算式（12.176）的上三角（或下三角）部分，然后根據(jù)其對(duì)稱性補(bǔ)充其余部分，從而保持厄米特對(duì)稱性。另外一種方法是在將修正為之后，用來代替。2023/7/31大連理工大學(xué)642023/7/31大連理工2023/8/8大連理工大學(xué)65§12.5

自適應(yīng)濾波器的主要應(yīng)用結(jié)構(gòu)2023/7/31大連理工大學(xué)65§12.5自適應(yīng)濾波器的12.5.1自適應(yīng)噪聲抵消及其應(yīng)用（1）自適應(yīng)噪聲抵消的基本原理自適應(yīng)噪聲抵消（adaptivenoisecancellation，簡(jiǎn)稱為ANC）系統(tǒng)是一種借助噪聲的相關(guān)性在噪聲中提取有用信號(hào)的自適應(yīng)方法。大連理工大學(xué)6612.5.1自適應(yīng)噪聲抵消及其應(yīng)用（1）自適應(yīng)噪聲抵消的2023/8/8大連理工大學(xué)672023/8/8大連理工大學(xué)67自適應(yīng)噪聲抵消結(jié)構(gòu)期望信號(hào)是受噪聲污染的信號(hào)，而自適應(yīng)濾波器的輸入是與相關(guān)的噪聲。自適應(yīng)濾波器的輸出要盡可能與逼近，使系統(tǒng)輸出盡量逼近。2023/7/31大連理工大學(xué)672023/7/31大連理工2023/8/8大連理工大學(xué)682023/8/8大連理工大學(xué)68（2）自適應(yīng)噪聲抵消的應(yīng)用【例12.3】試?yán)肕ATLAB編程，采用自適應(yīng)噪聲抵消系統(tǒng)，對(duì)被隨機(jī)噪聲污染的正弦信號(hào)進(jìn)行噪聲抵消處理，恢復(fù)純凈正弦信號(hào)。2023/7/31大連理工大學(xué)682023/7/31大連理工2023/8/8大連理工大學(xué)692023/8/8大連理工大學(xué)69【例12.4】母腹電極上胎兒心電信號(hào)的提取胎兒的心電圖是在孕婦母體腹壁測(cè)量的，稱為腹壁胎兒心電圖，簡(jiǎn)稱為胎兒心電圖。2023/7/31大連理工大學(xué)692023/7/31大連理工2023/8/8大連理工大學(xué)702023/8/8大連理工大學(xué)70說明：胎兒心電監(jiān)測(cè)具有重要意義。胎兒的心電信號(hào)淹沒在母體的心電信號(hào)中。其中：為胎兒心電信號(hào)，為母體心電信號(hào)，為噪聲。2023/7/31大連理工大學(xué)702023/7/31大連理工2023/8/8大連理工大學(xué)712023/8/8大連理工大學(xué)71采用自適應(yīng)噪聲抵消系統(tǒng)，以母體胸導(dǎo)得到的母親心電信號(hào)作為參考信號(hào)，以母體腹壁信號(hào)作為原始信號(hào)輸入，則可以有效消除母體心電信號(hào)對(duì)胎兒心電信號(hào)的影響，從而提取出較為純凈的胎兒心電信號(hào)。2023/7/31大連理工大學(xué)712023/7/31大連理工2023/8/8大連理工大學(xué)722023/8/8大連理工大學(xué)72心電圖中工頻干擾的抑制工頻干擾一般可以采用窄帶濾波（限波）器來抑制。若工頻頻率有漂移，則最好采用自適應(yīng)噪聲抵消系統(tǒng)來消除工頻干擾。2023/7/31大連理工大學(xué)722023/7/31大連理工2023/8/8大連理工大學(xué)732023/8/8大連理工大學(xué)73心電圖中工頻干擾抑制結(jié)果2023/7/31大連理工大學(xué)732023/7/31大連理工2023/8/8大連理工大學(xué)742023/8/8大連理工大學(xué)74心電圖中高頻電刀干擾的消除2023/7/31大連理工大學(xué)742023/7/31大連理工12.5.2自適應(yīng)譜線增強(qiáng)及其應(yīng)用自適應(yīng)譜線增強(qiáng)的基本原理自適應(yīng)譜線增強(qiáng)（adaptivelineenhancement，簡(jiǎn)稱為ALE）是一種在寬帶噪聲中檢測(cè)較弱的正弦信號(hào)或窄帶信號(hào)的自適應(yīng)方法。大連理工大學(xué)7512.5.2自適應(yīng)譜線增強(qiáng)及其應(yīng)用自適應(yīng)譜線增強(qiáng)的基本原2023/8/8大連理工大學(xué)762023/8/8大連理工大學(xué)76自適應(yīng)譜線增強(qiáng)結(jié)果左圖是輸入信號(hào)為單一正弦波加上白噪聲；右圖是噪聲消除譜線增強(qiáng)后的結(jié)果。2023/7/31大連理工大學(xué)762023/7/31大連理工2023/8/8大連理工大學(xué)772023/8/8大連理工大學(xué)77自適應(yīng)譜線增強(qiáng)結(jié)果2左圖是輸入信號(hào)為單一正弦波加上有色噪聲；右圖是噪聲消除譜線增強(qiáng)后的結(jié)果。2023/7/31大連理工大學(xué)772023/7/31大連理工2023/8/8大連理工大學(xué)782023/8/8大連理工大學(xué)7