畢業(yè)設(shè)計(jì)--自適應(yīng)濾波器及其應(yīng)用仿真.

1、本科畢業(yè)設(shè)計(jì)（論文）自適應(yīng)濾波器及其應(yīng)用仿真*燕 山 大 學(xué)2013年6 月 本科畢業(yè)設(shè)計(jì)（論文）自適應(yīng)濾波器及其應(yīng)用仿真學(xué) 院：信息科學(xué)與工程學(xué)院專 業(yè)：電子信息工程 學(xué)生姓名：* 學(xué) 號：* 指導(dǎo)教師：* 答辯日期：2013.6.24 燕山大學(xué)畢業(yè)設(shè)計(jì)（論文）任務(wù)書學(xué)院：信息科學(xué)與工程學(xué)院 系級教學(xué)單位：電子與通信工程系 學(xué)號*學(xué)生姓名*專 業(yè)班 級題目題目名稱自適應(yīng)濾波器及其應(yīng)用仿真題目性質(zhì)1.理工類：工程設(shè)計(jì) （ ）；工程技術(shù)實(shí)驗(yàn)研究型（ ）；理論研究型（ ）；計(jì)算機(jī)軟件型（ ）；綜合型（ ）2.文管理類（ ）；3.外語類（ ）；4.藝術(shù)類（ ）題目類型1.畢業(yè)設(shè)計(jì)（ ） 2.論文（

2、）題目來源科研課題（ ） 生產(chǎn)實(shí)際（ ）自選題目（ ） 主要內(nèi)容自適應(yīng)濾波器是信號處理中一個(gè)重要的環(huán)節(jié)，包括自適應(yīng)濾波器結(jié)構(gòu)和自適應(yīng)濾波算法。課題主要研究常用的自適應(yīng)濾波結(jié)構(gòu)和三種經(jīng)典的自適應(yīng)濾波算法：最小均方誤差(LMS)算法，歸一化最小均方誤差(RLS)算法和遞歸最小二乘(RLS)算法。在理論原理的基礎(chǔ)上使用Matlab仿真工具對算法進(jìn)行仿真分析?；疽? 掌握自適應(yīng)濾波的基本理論2 研究三種經(jīng)典自適應(yīng)濾波算法：LMS, RLS和NLMS算法的基本原理及性能3 學(xué)習(xí)掌握使用Matlab仿真軟件并對算法進(jìn)行仿真分析。參考資料1 郝金.自適應(yīng)濾波器原理(第四版).西安工業(yè)出版社.20102

3、燕山大學(xué)數(shù)字圖書館.中國期刊全文數(shù)據(jù)庫優(yōu)秀碩博論文周 次第14周第58周第912周第1316周第1719周應(yīng)完成的內(nèi)容收集資料，熟悉課題內(nèi)容，設(shè)計(jì)思路程序設(shè)計(jì)與調(diào)試程序設(shè)計(jì)、分析、調(diào)整、以及程序優(yōu)化實(shí)驗(yàn)結(jié)果整理及總結(jié)論文書寫，課題總結(jié)，答辯指導(dǎo)教師：*職稱：副教授 2013年3月4 日系級教學(xué)單位審批：胡正平 2013年3月6 日摘要摘要自適應(yīng)濾波器的研究是當(dāng)今自適應(yīng)信號處理中最為活躍的研究課題之一。因其具有很強(qiáng)的自學(xué)習(xí)、自跟蹤能力和算法的簡單易實(shí)現(xiàn)性等優(yōu)點(diǎn)，使得它在噪化信號的檢測增強(qiáng)，噪聲干擾的抵消，通信系統(tǒng)的自適應(yīng)均衡，圖像的自適應(yīng)增強(qiáng)復(fù)原以及未知系統(tǒng)的自適應(yīng)參數(shù)辯識等方面都得到了廣泛的應(yīng)

4、用。自適應(yīng)濾波器是指利用前一時(shí)刻的結(jié)果，自動調(diào)節(jié)當(dāng)前時(shí)刻的濾波器參數(shù)，以適應(yīng)信號和噪聲未知或隨機(jī)變化的特性，得到有效的輸出。研究自適應(yīng)濾波器可以去除輸出信號中的噪聲和無用信息，得到失真較小或者完全不失真的輸出信號。本文介紹了自適應(yīng)濾波器的理論基礎(chǔ)，重點(diǎn)講述了自適應(yīng)濾波器的幾種實(shí)現(xiàn)結(jié)構(gòu)，然后重點(diǎn)介紹了三種自適應(yīng)濾波算法:最小均方誤差(LMS)算法,歸一化最小均方誤差(NLMS)算法和遞推最小二乘(RLS)算法，并對LMS算法，NLMS算法和RLS算法性能進(jìn)行了詳細(xì)的分析。其中LMS算法結(jié)構(gòu)簡單，魯棒性強(qiáng)，但其收斂速度很慢，NLMS算法是LMS算法的改進(jìn)算法，而RLS收斂速度快，但其運(yùn)算量很大。最

5、后本文對基于LMS算法，NLMS算法和RLS算法的自適應(yīng)濾波器進(jìn)行Matlab仿真應(yīng)用。實(shí)驗(yàn)表明：在自適應(yīng)信號處理中，自適應(yīng)濾波信號占有很重要的地位，自適應(yīng)濾波器應(yīng)用領(lǐng)域廣泛；另外LMS算法和RLS算法各有優(yōu)缺點(diǎn)，LMS算法因其魯棒性強(qiáng)特點(diǎn)而應(yīng)用于自回歸預(yù)測器，而RLS算法因其收斂速度快優(yōu)點(diǎn)而應(yīng)用于信號增強(qiáng)器中。關(guān)鍵詞自適應(yīng)濾波器； LMS算法； NLMS算法；RLS算法I 燕山大學(xué)本科生畢業(yè)設(shè)計(jì)（論文）AbstractThe adaptive filter is one of the most active research topic in adaptive signal processi

6、ng today. Because it has a strong self-learning, self-tracking capabilities and algorithms simple ease of implementation, etc., making it in the detection in the noise of the signal enhancement, noise offset, communication systems, adaptive equalization, adaptive image enhanced recovery and unknown

7、adaptive parameter identification have been widely used.Adaptive filter using the results of the previous time, automatically adjust the filter parameters for the current time to adapt to the characteristics of signal and noise is unknown or random variation, the effective output. Study the adaptive

8、 filter can remove noise and useless information output signal distortion smaller or completely losing the true output signal. This paper first introduces the theoretical basis of the filter, Secondly, to highlight several of the adaptive filter structure, and then focuses on three adaptive filterin

9、g algorithm minimum mean square error (LMS) algorithm, normalized least mean square(NLMS) algorithm and recursive least square (RLS ) algorithm, LMS algorithm simple structure, robustness, but its convergence is very slow, while the RLS convergence speed, but its computational complexity. Finally, e

10、xperiments show that: MATLAB simulation applications based on the LMS algorithm ,NLMS algorithm and RLS adaptive filter algorithm in adaptive signal processing, adaptive filtering signal occupies a very important position in the widespread applications of adaptive filters; LMS algorithm advantages a

11、nd disadvantages and RLS algorithm, LMS algorithm because of its strong robustness features used in autoregressive predictor, while the RLS algorithm is its fast convergence speed advantages applied to the signal enhancer.Keywords adaptive filter; LMS algorithm; NLMS algorithm; RLS algorithmII 目 錄摘要

12、IAbstractII第1章 緒論11.1 課題研究背景及意義11.2 國內(nèi)外發(fā)展現(xiàn)狀與前景11.3 論文研究思路及主要工作2第2章 自適應(yīng)濾波器的基礎(chǔ)理論42.1 自適應(yīng)濾波器的基本理論42.2 自適應(yīng)濾波器的結(jié)構(gòu)62.3 自適應(yīng)橫向?yàn)V波器72.3 本章小結(jié)8第3章 自適應(yīng)濾波算法93.1最小均方誤差(LMS)算法93.2最小均方誤差(LMS)算法的性能分析113.3歸一化最小均方誤差(LMS)算法133.4歸一化最小均方誤差(LMS)算法的性能分析153.5遞歸最小二乘(RLS)算法153.6遞歸最小二乘(RLS)算法的性能分析183.7自適應(yīng)算法的分析比較193.8 其他自適應(yīng)濾波算法2

13、0 3.8.1 仿射投影法20 3.8.2 共軛梯度算法21 3.8.3 基于子帶分解的自適應(yīng)濾波算法213.9 本章小結(jié)22第4章 基于Matlab的自適應(yīng)濾波器仿真244.1Matlab語言簡介244.2基于LMS算法的自適應(yīng)濾波器仿真254.3基于NLMS算法的自適應(yīng)濾波器仿真294.4基于RLS算法的自適應(yīng)濾波器仿真324.5本章小結(jié)34結(jié)論35參考文獻(xiàn)36致謝38附錄139附錄245附錄350附錄455 III第1章 緒論 第1章 緒論1.1 課題研究背景及意義濾波技術(shù)在當(dāng)今信息處理領(lǐng)域中占有相當(dāng)重要的作用。濾波是從連續(xù)或離散的輸入數(shù)據(jù)中去除噪音和干擾以提取有用信息的過程，所使用的裝

14、置稱為濾波器。濾波器實(shí)際上是一種選頻系統(tǒng)，它對系統(tǒng)需要的頻率給與很小的衰減，使其順利通過，而對系統(tǒng)不需要的頻率施加很大的衰減，盡可能地阻止這些不需要的頻率通過。濾波器研究的目的就是考慮如何設(shè)計(jì)和制造最佳或最優(yōu)的濾波器。伴隨著信息數(shù)字化和通信事業(yè)的迅猛發(fā)展，自適應(yīng)濾波技術(shù)在數(shù)字信號處理中的應(yīng)用范圍也日夜擴(kuò)大。在數(shù)字信號處理中，數(shù)字濾波是語音和圖像處理、模式識別、頻譜分析等應(yīng)用的一個(gè)基本處理算法。在很多場合，由于沒法事先知道信號或者噪聲的特性或者它們是隨時(shí)間變化的，僅僅使用FIR和IIR兩種具有固定濾波系數(shù)的濾波器無法實(shí)現(xiàn)濾波的最佳或最優(yōu)化。在這種復(fù)雜情況下，必須設(shè)計(jì)自適應(yīng)濾波器以跟蹤信號和噪聲的

15、變化。自適應(yīng)濾波器是利用前一時(shí)刻已獲得的濾波器參數(shù)來自動調(diào)節(jié)、更新當(dāng)前時(shí)刻的慮波器參數(shù)，以適應(yīng)信號和噪聲的未知統(tǒng)計(jì)特性，從而實(shí)現(xiàn)最優(yōu)濾波的。在未知統(tǒng)計(jì)特性的環(huán)境下處理觀測信號，利用自適應(yīng)濾波器的自動調(diào)節(jié)和跟蹤特性可以獲得令人滿意的結(jié)果，其性能遠(yuǎn)遠(yuǎn)超過用一般通用方法設(shè)計(jì)的固定參數(shù)濾波器。1.2 國內(nèi)外發(fā)展現(xiàn)狀與前景自適應(yīng)濾波算法的基本理論經(jīng)過幾十年的發(fā)展已日趨成熟，近幾年來自適應(yīng)濾波器的研究主要針對算法與硬件實(shí)現(xiàn)。算法研究主要是對算法速度和精度的改進(jìn)，其方法大多采用軟件C、MATLAB、FPGL等仿真軟件對算法建模及修正。通常，自適應(yīng)濾波器的硬件實(shí)現(xiàn)都是采用DSP通用處理器（如TI的TMS320

16、系列）。DSP采用改進(jìn)的哈佛結(jié)構(gòu)，具有獨(dú)立的程序和數(shù)據(jù)空間，允許同時(shí)存取程序和數(shù)據(jù)，內(nèi)置高速的硬件乘法器（MAC），增強(qiáng)的多級流水線。DSP具有的硬件乘法模塊（MAC），專用的存儲器及適用高速數(shù)1第1章 緒論 據(jù)運(yùn)行的總線結(jié)構(gòu)，使DSP器件具有高速的數(shù)據(jù)運(yùn)算能力。目前，用DSP器件處理數(shù)字信號已成為電子領(lǐng)域的研究熱點(diǎn)。在自適應(yīng)信號處理領(lǐng)域，對于數(shù)據(jù)處理速度在幾兆赫以內(nèi)的，通用DSP也是首選。遲男等人在TMS320C32芯片上擴(kuò)展EPROM和RAM，實(shí)現(xiàn)了30階LMS自適應(yīng)濾波器。使用的A/D轉(zhuǎn)換器件為AD1674，最高采樣頻率為100KHZ。陸斌等人采用的TMS320C30數(shù)字信號處理器與IM

17、SA110專用濾波器并行處理的方法設(shè)計(jì)出了自適應(yīng)濾波器并應(yīng)用于直接序列的擴(kuò)頻接收系統(tǒng)1221。在數(shù)據(jù)處理速度只要求在幾兆赫以內(nèi)的應(yīng)用場合，這些用DSP實(shí)現(xiàn)的自適應(yīng)濾波器能很好的滿足系統(tǒng)的實(shí)時(shí)要求。但隨著信息化的進(jìn)程加快和計(jì)算機(jī)科學(xué)與技術(shù)、信號處理理論與方法等的迅速發(fā)展，需要處理的數(shù)據(jù)量越來越大，對實(shí)時(shí)性和精度的要求越來越高。系統(tǒng)的功能越來越強(qiáng)大，但對數(shù)據(jù)傳送與處理的速率要求也越來越高。常用的數(shù)字系統(tǒng)目標(biāo)器件除了DSP以外還有專用集成電路（ASIC），專用標(biāo)準(zhǔn)電路模塊（ASSP）和現(xiàn)場可編程門陣列（FPGA）。其中Hesener提出的用FPGA實(shí)現(xiàn)自適應(yīng)濾波器的設(shè)想，并在FPGA上實(shí)現(xiàn)了處理速度

18、可達(dá)SM的8階8位FIR濾波器。國內(nèi)有一些關(guān)于自適應(yīng)算法硬件實(shí)現(xiàn)的研究，但基本是針對自適應(yīng)濾波器中的算法，如南開大學(xué)李國峰博士的博士論文用VHDL語言描述了正負(fù)數(shù)的運(yùn)算問題和浮點(diǎn)數(shù)運(yùn)算問題完成了基于FIR的LMS自適應(yīng)濾波器的硬件設(shè)計(jì)和邏輯綜合。1.3 論文研究思路及主要工作本文的主要研究思路如下：第一章：先闡明自適應(yīng)濾波器的背景與研究意義，重點(diǎn)講述了自適應(yīng)濾波器的實(shí)用意義，然后探討了目前國內(nèi)外研究發(fā)展現(xiàn)狀與前景。第二章：闡述自適應(yīng)濾波器的基礎(chǔ)理論，介紹了自適應(yīng)濾波器的幾種實(shí)現(xiàn)結(jié)構(gòu)并重點(diǎn)講述自適應(yīng)橫向?yàn)V波器中最常使用的橫向?yàn)V波器結(jié)構(gòu)。第三章：前述一章的基礎(chǔ)上，詳細(xì)講述了三種自適應(yīng)濾波算法，即最

19、小均（LMS）算法，歸一化最小均方誤差(NLMS)算法和遞推最小二乘（RLS）算法，并且就這些算法進(jìn)行了比較，另外還簡要介紹了其他的自適應(yīng)算法。第四章：基于前述三種算法，即LMS算法，NLMS算法和RLS算法的自適應(yīng)濾波器進(jìn)行MATLAB應(yīng)用仿真實(shí)驗(yàn)，進(jìn)一步通過實(shí)驗(yàn)表明自適應(yīng)濾波器應(yīng)用領(lǐng)域廣泛，并且LMS算法和RLS算法各有優(yōu)缺點(diǎn)，它們各有自己適用的范圍。本文的主要工作如下：（1）閱讀大量有關(guān)自適應(yīng)濾波算法的中英文文獻(xiàn)，并研究自適應(yīng)濾波器的設(shè)計(jì)原理；（2）閱讀大量有關(guān)MATLAB關(guān)于自適應(yīng)濾波器設(shè)計(jì)方面的書籍，了解各種自適應(yīng)濾波算法；（3）通過對兩種最常見的自適的濾的算法LMS算法和RLS算法

20、的深入研究，了解它們各自的優(yōu)缺點(diǎn)和各自的適用場合；（4）在MATLAB環(huán)境下，基于上述兩種算法的自適應(yīng)濾波器進(jìn)行仿真實(shí)驗(yàn)，通過實(shí)驗(yàn)進(jìn)一步論證之前提出的基礎(chǔ)理論。 第2章 自適應(yīng)濾波器的基礎(chǔ)理論2.1 自適應(yīng)濾波器的基本理論所謂自適應(yīng)濾波，就是利用前一時(shí)刻已獲得的濾波器參數(shù)等結(jié)果，自動地調(diào)節(jié)現(xiàn)時(shí)刻的濾波器參數(shù)，以適應(yīng)信號和噪聲未知的或隨時(shí)間變化的統(tǒng)計(jì)特性，從而實(shí)現(xiàn)最優(yōu)濾波。所謂“最優(yōu)”是以一定的準(zhǔn)則來衡量的，最常用的三種準(zhǔn)則是最小均方誤差準(zhǔn)則,歸一化最小均方誤差準(zhǔn)則和最小二乘準(zhǔn)則。最小均方誤差準(zhǔn)則是使誤差的均方值最小，它包含了輸入數(shù)據(jù)的統(tǒng)計(jì)特性，準(zhǔn)則將在下面章節(jié)中討論；最小二乘準(zhǔn)則是使誤差的平方

21、和最小，它也將在下面的章節(jié)中詳細(xì)討論。對信號處理而言，信號濾波是其共同特點(diǎn)，以便從觀測信號中提取需要的信息。自適應(yīng)濾波器有調(diào)整自己的能力，它的最大特點(diǎn)是時(shí)變性和自調(diào)整性。調(diào)整的目的是為了達(dá)到最優(yōu)，或保持接近最優(yōu)，也就是是濾波器輸出中的噪聲效應(yīng)在某種準(zhǔn)則下達(dá)到最小。實(shí)際中廣泛應(yīng)用的是線性自適應(yīng)濾波器。需要注意的是，自適應(yīng)的調(diào)整過程是時(shí)變的和非線性的。但是，當(dāng)調(diào)整過程結(jié)束、自動調(diào)整過程不再進(jìn)行時(shí)，如果自適應(yīng)濾波器為線性系統(tǒng)，就稱它為線性自適應(yīng)濾波器。自適應(yīng)濾波器的主要性能指標(biāo)是收斂速率、失調(diào)、計(jì)算復(fù)雜度、結(jié)構(gòu)模塊化和數(shù)值特征。自適應(yīng)濾波器由數(shù)字結(jié)構(gòu)、自適應(yīng)處理器和自適應(yīng)算法三部分組成。數(shù)字結(jié)構(gòu)是指

22、自適應(yīng)濾波器中各組成部分之間的聯(lián)系。自適應(yīng)處理器是數(shù)字濾波器（FIR或IIR），所不同的是，這里的數(shù)字濾波器是參數(shù)可變的。自適應(yīng)算法則用來控制數(shù)字濾波器參數(shù)的變化。自適應(yīng)濾波器可以從不同的角度進(jìn)行分類，按其數(shù)字結(jié)構(gòu)可以分為開環(huán)自適應(yīng)濾波器和閉環(huán)自適應(yīng)濾波器；按自適應(yīng)處理器（參數(shù)可變得數(shù)字濾波器）可以分為非遞歸自適應(yīng)濾波器和遞歸自適應(yīng)濾波器；按其自適應(yīng)算法可以分為LMS自適應(yīng)濾波器、NLMS自適應(yīng)濾波器、RLS自適應(yīng)濾波器等等。而在數(shù)字結(jié)構(gòu)，自適應(yīng)處理器和自適應(yīng)算法中，自適應(yīng)算法是核心，所以將在第三章中詳細(xì)介紹三種常見的自適應(yīng)算法，即LMS算法、NLMS算法和RLS算法，并對它們進(jìn)行比較，另外簡

23、要介紹其它的自適應(yīng)算法即優(yōu)化改進(jìn)37第2章 自適應(yīng)濾波器的基礎(chǔ)理論 的自適應(yīng)算法。自適應(yīng)濾波器實(shí)際上是一種能夠自動調(diào)整本身參數(shù)的特殊維納濾波器，在設(shè)計(jì)時(shí)不需要預(yù)先知道關(guān)于輸入信號和噪聲的統(tǒng)計(jì)特性或者它們的變化規(guī)律，它能夠在工作過程中逐步了解或估計(jì)出所需的統(tǒng)計(jì)特性，并以此為依據(jù)自動調(diào)整自身的參數(shù)，以達(dá)到最佳濾波效果。自適應(yīng)濾波器的特性變化是由自適應(yīng)算法通過調(diào)整可編程濾波器系數(shù)來實(shí)現(xiàn)的。一般而言，自適應(yīng)濾波器由可編程濾波器(濾波部分)和自適應(yīng)算法(控制部分)兩部分組成。可編程濾波器即參數(shù)可調(diào)的濾波器，自適應(yīng)算法對其參數(shù)進(jìn)行控制以實(shí)現(xiàn)最佳濾波工作?？删幊虨V波器可以是FIR橫式濾波器、IIR橫式濾波器

24、以及格型濾波器。圖2-1給出了自適應(yīng)濾波器的一般結(jié)圖2-1 自適應(yīng)濾波器的結(jié)構(gòu)圖構(gòu)原理圖，其中輸入信x(n)通過可編程濾波器后產(chǎn)生輸出信號(或響應(yīng))y(n)，將其與參考信號d(n)進(jìn)行比較，形成誤差信號e(n)，并以此通過某種自適應(yīng)算法對濾波器參數(shù)進(jìn)行調(diào)整，最終使得e(n)的均方值最小。根據(jù)濾波器的輸出端信號與輸入端信號之間的函數(shù)關(guān)系，自適應(yīng)濾波器可以分為線性自適應(yīng)濾波器和非線性自適應(yīng)濾波器。由于線性自適應(yīng)濾波器和相應(yīng)的算法具有結(jié)構(gòu)簡單、計(jì)算復(fù)雜性低的優(yōu)點(diǎn)，分析和實(shí)現(xiàn)容易，而廣泛應(yīng)用于自適應(yīng)信號處理系統(tǒng)中;非線性自適應(yīng)濾波器具有更強(qiáng)的信號處理能力，在神經(jīng)網(wǎng)絡(luò)和模糊神經(jīng)網(wǎng)絡(luò)有著明顯的優(yōu)勢，具有通

25、過監(jiān)督學(xué)習(xí)逼近未知非線性輸入輸出映射的能力。但由于非線性自適應(yīng)濾波器的計(jì)算較復(fù)雜，硬件實(shí)現(xiàn)比較困難，實(shí)際用得最多的仍然是線性自適應(yīng)濾波器。線性自適應(yīng)濾波器的結(jié)構(gòu)可以是FIR型結(jié)構(gòu)，也可以是IIR型結(jié)構(gòu)。盡管IIR結(jié)構(gòu)的濾波器能夠以很小的復(fù)雜度來實(shí)現(xiàn)和FIR濾波器相同的功能，但I(xiàn)IR型濾波器在自適應(yīng)處理過程中，極點(diǎn)移出單位圓之外時(shí)，就會使濾波器產(chǎn)生不穩(wěn)定。所以在實(shí)際應(yīng)用中一般都采用FIR型結(jié)構(gòu)，主要是因?yàn)?FIR結(jié)構(gòu)的自適應(yīng)技術(shù)實(shí)現(xiàn)更容易，其權(quán)系數(shù)的修正就是濾波器性能的調(diào)整，同時(shí) FIR結(jié)構(gòu)的濾波器是絕對穩(wěn)定的，具有更好的魯棒性，這也更適合實(shí)時(shí)嵌入式應(yīng)用。通常一個(gè)穩(wěn)定的IIR濾波器總是可以用足夠

26、多階的FIR濾波器來近似代替，用FIR型結(jié)構(gòu)作為自適應(yīng)濾波器的結(jié)構(gòu)具有廣泛的應(yīng)用空間。一個(gè)自適應(yīng)的FIR濾波器的結(jié)構(gòu)，可以是橫截型結(jié)構(gòu)，對稱的橫截型結(jié)構(gòu)以及格型結(jié)構(gòu)。其中橫截型結(jié)構(gòu)是大多數(shù)應(yīng)用情況下所采用的最主要的自適應(yīng)濾波器結(jié)構(gòu)，它可應(yīng)用所有FIR濾波器，具有形式簡單，易于實(shí)現(xiàn)等特點(diǎn)，并可以用流水線提高性能;對稱的橫截型結(jié)構(gòu)可滿足符合對稱性條件的FIR濾波器，具有權(quán)系數(shù)少，計(jì)算量小的特點(diǎn)，并可以用流水線提高性能，但收到對稱性條件的約束;格型結(jié)構(gòu)具有收斂速度快，穩(wěn)定性好，對系數(shù)量化精度要求不高的特點(diǎn)，但計(jì)算量大，不容易實(shí)時(shí)實(shí)現(xiàn)，只能部分實(shí)現(xiàn)流水線。2.2 自適應(yīng)濾波器的結(jié)構(gòu) 自適應(yīng)濾波器的結(jié)構(gòu)

27、與算法有著密切的聯(lián)系，因?yàn)樽赃m應(yīng)濾波器既要估計(jì)濾波器能實(shí)現(xiàn)期望信號的輸出，又要估計(jì)濾波參數(shù)朝有利于目標(biāo)方向的調(diào)整，并保證濾波器的穩(wěn)定工作。同時(shí)，結(jié)構(gòu)的選取不僅會影響到計(jì)算復(fù)雜度(即每次迭代的算術(shù)操作數(shù))，還會對達(dá)到期望性能標(biāo)準(zhǔn)所需的迭代次數(shù)(自適應(yīng)收斂的時(shí)間)產(chǎn)生影響。另外，不同的結(jié)構(gòu)還有特定的應(yīng)用場合，需要根據(jù)實(shí)際環(huán)境來選擇相應(yīng)的結(jié)構(gòu)和算法。自適應(yīng)濾波器根據(jù)其沖擊響應(yīng)的形式一般分為有限沖擊響應(yīng)自適應(yīng)濾波器(FIR )、自適應(yīng)格型濾波器和無限沖擊響應(yīng)自適應(yīng)濾波器（IIR)三種結(jié)構(gòu)。其中自適應(yīng)FIR濾波器又稱為橫向?yàn)V波器;自適應(yīng)格型濾波器基本單元的形狀類似于FFT中的蝶形單元，系數(shù)隱含在反射系數(shù)

28、中，形式上相比橫向?yàn)V波器要復(fù)雜一些;自適應(yīng)遞歸濾波器具有IIR的結(jié)構(gòu)形式，由于存在反饋，系統(tǒng)的穩(wěn)定性和魯棒性是設(shè)計(jì)自適應(yīng)遞歸濾波器時(shí)需要注意的主要問題。2.3 自適應(yīng)橫向?yàn)V波器橫向?yàn)V波器(transversal filter)，也稱抽頭延遲線濾波器或有限脈沖響應(yīng)濾波器，它由圖2-2所示的三個(gè)基本單元構(gòu)成：(a)：單位延遲單元；(b)：乘法器；(c)：加法器。濾波器中延遲單元的個(gè)數(shù)確定了脈沖響應(yīng)的持續(xù)時(shí)間。延遲單元個(gè)數(shù)(如圖中N-1所示)，通常稱為濾波器的階數(shù)。濾波器中每個(gè)乘法器的作用是用濾波器系數(shù)(也稱為抽頭權(quán)值)乘以與其相連的抽頭輸入。于是，連接到第k個(gè)抽頭輸入u(n-k)的乘法器產(chǎn)生的輸圖

29、2-2 橫向?yàn)V波器結(jié)構(gòu)圖出，其中，是抽頭權(quán)值，k=0,1，N-1，星號表示復(fù)數(shù)共軛。這里假設(shè)抽頭輸入和抽頭權(quán)值都是復(fù)數(shù)。濾波器中加法器的合并作用是對各個(gè)乘法器輸出求和，并產(chǎn)生總的濾波器輸出。對于圖2-2所示的橫向?yàn)V波器，其輸出為 (2-1)上式叫做有限卷積和，因?yàn)樗鼘V波器的有限脈沖響應(yīng)與濾波器輸入u(n)卷積以便產(chǎn)生濾波器的輸出y(n)。自適應(yīng)橫向?yàn)V波器是研究所有自適應(yīng)濾波算法的基本結(jié)構(gòu)，由于其結(jié)構(gòu)簡單、成本較低，也是工程領(lǐng)域最常用的一種自適應(yīng)濾波器。2.3 本章小結(jié)本章描述了自適應(yīng)濾波器相關(guān)的基礎(chǔ)理論，包括自適應(yīng)處理的概念及其與普通濾波器的區(qū)別，相比普通濾波器，它具有更強(qiáng)的自適應(yīng)能力和跟蹤

30、特性，能在隨機(jī)變化的信號或者噪聲的處理中達(dá)到濾波的相對最優(yōu)，適應(yīng)復(fù)雜的信號處理環(huán)境。緊接著介紹了自適應(yīng)濾波器的一般結(jié)構(gòu)，它主要由兩部分構(gòu)成：濾波結(jié)構(gòu)和自適應(yīng)算法。在濾波結(jié)構(gòu)上，經(jīng)典自適應(yīng)濾波器選擇橫向?yàn)V波器進(jìn)行濾波；自適應(yīng)算法是自適應(yīng)濾波器中最主要的部分，它決定了設(shè)計(jì)出的自適應(yīng)濾波器的收斂速度、事變跟蹤特性以及濾波誤差等。在各種自適應(yīng)濾波器的結(jié)構(gòu)中，重點(diǎn)介紹了橫向自適應(yīng)濾波結(jié)構(gòu)，它是經(jīng)典濾波器采用的最多的濾波器結(jié)構(gòu)。第3章 自適應(yīng)濾波算法 第3章 自適應(yīng)濾波算法3.1最小均方誤差(LMS)算法該算法是一種廣泛使用的理論算法,由其創(chuàng)始人Widrow和Hoff(1960)命名為最小均方(LMS,l

31、east-mean-aquare)算法。LMS算法是隨機(jī)梯度算法族中的一員，該算法在隨機(jī)輸入維納濾波器遞歸計(jì)算中使用確定性梯度。LMS算法的一個(gè)顯著特點(diǎn)是它的簡單性。此外，它不需要計(jì)算有關(guān)的相關(guān)函數(shù)，也不需要矩陣求逆運(yùn)算。正是因?yàn)長MS算法的簡單性，使得它成為其他線性自適應(yīng)濾波算法的參照標(biāo)準(zhǔn)。LMS算法是線性自適應(yīng)濾波算法。一般來說，它包含兩個(gè)基本過程：1) 濾波過程(filtering process) 包括：(a)計(jì)算線性濾波器輸出對輸入的響應(yīng)；(b)通過比較濾波器輸出結(jié)果與期望信號產(chǎn)生估計(jì)誤差信號。2) 自適應(yīng)過程(adaptive process) 根據(jù)估計(jì)誤差以最小均方準(zhǔn)則自動調(diào)整濾

32、波器參數(shù)以達(dá)到最優(yōu)濾波。這兩個(gè)過程一起工作組成一個(gè)反饋環(huán)，如圖3-1所示。首先，我們有一個(gè)橫向?yàn)V波器(圍繞它構(gòu)造LMS算法)；該部件的作用在于完成濾波過程。圖3-1 自適應(yīng)橫向?yàn)V波器框圖其次，我們有一個(gè)對橫向?yàn)V波器抽頭權(quán)值進(jìn)行自適應(yīng)控制過程的算法，即圖中標(biāo)明的“自適應(yīng)控制算法”部分。橫向?yàn)V波器各部分的細(xì)節(jié)如圖2-2所示。抽頭輸入u(n)，u(n-1)，u(n-N+1)為M×1抽頭輸入向量u(n)的元素，其中M-1是延遲單元的個(gè)數(shù)。相應(yīng)的，抽頭權(quán)值,為M×1抽頭權(quán)向量的元素。通過LMS算法計(jì)算這個(gè)向量所得的值表示一個(gè)估計(jì)，當(dāng)?shù)螖?shù)趨近無窮時(shí)，該估計(jì)的期望值可能接近維納解(對

33、于廣義平穩(wěn)過程)。在濾波過程中，期望相應(yīng)與抽頭輸入向量一道參與處理。在這種情況下，給定一個(gè)輸入，橫向?yàn)V波器產(chǎn)生一個(gè)輸出作為期望相應(yīng)的估計(jì)。因此，我們可把估計(jì)誤差定義為期望相應(yīng)與實(shí)際濾波器輸出之差。在如圖2-2所示結(jié)構(gòu)中，橫向?yàn)V波器的輸出為 (3-1)其中，為抽頭權(quán)向量，為橫向?yàn)V波器輸入向量，T表示轉(zhuǎn)置矩陣，n表示時(shí)間指數(shù)。這個(gè)式子就是有限脈沖響應(yīng)濾波器的形式，為和的卷積。自適應(yīng)算法使用誤差信號 (3-2)為期望信號。使用輸入向量和估計(jì)誤差來更新自適應(yīng)濾波器的標(biāo)準(zhǔn)最小化相關(guān)系數(shù)。自適應(yīng)濾波器的控制機(jī)理是使用誤差信號按照某種準(zhǔn)則和算法對其權(quán)值系數(shù)進(jìn)行調(diào)節(jié)，最終使自適應(yīng)濾波的目標(biāo)(代價(jià))函數(shù)最小化，

34、以達(dá)到最優(yōu)濾波狀態(tài)。本節(jié)所用的標(biāo)準(zhǔn)是最小均方誤差(MSE)即 (3-3)LMS算法的核心思想是用平方誤差代替均方誤差。算法的基本關(guān)系式是： (3-4)其中，是自適應(yīng)步長，也稱收斂因子，決定了收斂速度和穩(wěn)定性。滿足如下條件： (3-5)是R的最大特征值。R為輸入矩陣的自相關(guān)函數(shù) (3-6)綜上所述，LMS算法的計(jì)算步驟如下：(1) 初始化：令所有權(quán)重唯一固定值或零。(2) 由現(xiàn)在時(shí)刻n的濾波器濾波系數(shù)矢量估值w(n)，輸入信號矢量x(n)及期望信號d(n)，計(jì)算誤差信號e(n):(3) 利用遞歸法計(jì)算濾波權(quán)值向量的更新值。 將時(shí)間指數(shù)增加1，回到第二步驟，重復(fù)上述計(jì)算步驟，一直到穩(wěn)定狀態(tài)為止。由

35、此可見，自適應(yīng)LMS算法簡單，它既不需要計(jì)算輸入信號的相關(guān)函數(shù)，又不要求矩陣之逆。因而得到了廣泛的應(yīng)用。3.2最小均方誤差(LMS)算法的性能分析LMS算法的性能準(zhǔn)則是采用瞬時(shí)平方誤差性能函數(shù)代替均方誤差性能函數(shù)，其實(shí)質(zhì)是以當(dāng)前輸出誤差、當(dāng)前參考信號和當(dāng)前權(quán)系數(shù)求得下個(gè)時(shí)刻的權(quán)系數(shù)。其輸出信號,輸出誤差及權(quán)系數(shù)的計(jì)算公式為： (3-7)k為迭代次數(shù)，M為濾波器的階數(shù)。式中，表示參考信號的信號矢量： （3-8）、分別表示第時(shí)刻的輸出信號與輸出誤差，W(k)表示k時(shí)刻權(quán)系數(shù)矢量。表示LMS算法步長收斂因子。自適應(yīng)濾波器收斂的條件是： (3-9)其中是輸入信號的自相關(guān)矩陣R的最大特征值。的選取必須在

36、收斂速度和失調(diào)之間取得較好的折中，既要具有較快的收斂速度,又要使穩(wěn)態(tài)誤差最小。它控制了算法穩(wěn)定性和自適應(yīng)速度，如果很小，算法的自適應(yīng)速度會很慢；如果很大，算法會變得不穩(wěn)定。由于LMS算法結(jié)構(gòu)簡單、計(jì)算量小、穩(wěn)定性好，因此被廣泛應(yīng)用于系統(tǒng)辨識、信號增強(qiáng)、自適應(yīng)波束形成、噪聲消除以及控制領(lǐng)域等。在最小均方差(LMS)算法中，步長因子的取值對算法的性能有著非常重要的影響，這些影響包括：算法的穩(wěn)定性、算法的收斂速度、算法的擾動和失調(diào)。以下我們針對在這三方面的影響分別進(jìn)行討論。為減小失調(diào)，需要設(shè)置較小的步長因子，這會使算法的收斂速度降低，這構(gòu)成了一對矛盾。因此在考慮算法的總體性能時(shí)，必須在這兩個(gè)性能之間

37、加以折中。從收斂速度的角度考慮，步長因子應(yīng)該盡可能大，但較大的取值卻會加重算法的失調(diào)。LMS算法采用瞬時(shí)的采樣值對梯度進(jìn)行估計(jì)，由于噪聲的影響，總會是會伴隨著估計(jì)的誤差，這將對算法帶來直接的影響。這些影響主要表現(xiàn)為算法的失調(diào)，而失調(diào)的嚴(yán)重程度，則和的取值存在直接關(guān)系。失調(diào)是指由于梯度估計(jì)偏差的存在，在算法收斂后，均方誤差并不無窮趨近于最小值，而是呈現(xiàn)出在最小值附近隨機(jī)的波動特性，而權(quán)值亦不無窮趨近于最優(yōu)權(quán)值，而是在最優(yōu)權(quán)值附近呈現(xiàn)隨機(jī)的波動。關(guān)于LMS算法的收斂速度，將討論兩點(diǎn)：第一，對一個(gè)特定的信號環(huán)境，收斂速度和步長因子有何關(guān)系。第二，信號環(huán)境本身的特性，對收斂速度有何影響。從收斂速度的角

38、度考慮，步長因子應(yīng)該盡可能大，再看信號環(huán)境，即的特性對算法收斂性能的影響如果當(dāng)特征值的分布范圍較大，即最大特征值和最小特征值之比較大時(shí)，公比的取值幅度也將比較大，算法的總的收斂速度將會變得比較慢。傳統(tǒng)的LMS算法確實(shí)結(jié)構(gòu)簡單、計(jì)算量小且穩(wěn)定性好，因此被廣泛地應(yīng)用于自適應(yīng)控制、雷達(dá)、系統(tǒng)辨識及信號處理等領(lǐng)域。但是固定步長的LMS自適應(yīng)算法在收斂速率、跟蹤速率及權(quán)失調(diào)噪聲之間的要求是相互矛盾的，為了克服這一缺點(diǎn)，人們研究出了各種各樣的變步長LMS的改進(jìn)算法。盡管各種改進(jìn)算法的原理不同，但變步長LMS自適應(yīng)算法基本上遵循如下調(diào)整原則：即在初始收斂階段或未知系統(tǒng)參數(shù)發(fā)生變化時(shí)，步長應(yīng)比較大，以便有較快

39、的收斂速度或?qū)r(shí)變系統(tǒng)的跟蹤速度；而在算法收斂后，不管主輸人端干擾信號有多大，都應(yīng)保持很小的調(diào)整步長以達(dá)到很小的穩(wěn)態(tài)失調(diào)噪聲。3.3歸一化最小均方誤差(LMS)算法LMS算法因其結(jié)構(gòu)簡單、穩(wěn)定性好，一直是自適應(yīng)濾波經(jīng)典有效的算法之一，被廣泛應(yīng)用于雷達(dá)、通信、聲納、系統(tǒng)辨識及信號處理等領(lǐng)域。但此算法的缺點(diǎn)是收斂速度慢，如果為了加快收斂速度而增大步長因子，則會導(dǎo)致穩(wěn)態(tài)誤差增大，甚至引起算法發(fā)散。為了改善LMS算法的性能，人們提出了各種變步長LMS算法，歸一化的LMS算法(NLMS)就是一種重要的變步長LMS算法，這種算法減輕了梯度噪聲的放大問題，無論是對非相關(guān)還是相關(guān)數(shù)據(jù)，NLMS濾波器的收斂速率

40、都快于傳統(tǒng)的LMS濾波器，但是NLMS算法的迭代步長與輸人向量的自相關(guān)矩陣有關(guān)，在平穩(wěn)環(huán)境中，迭代步長只會在濾波過程的開始階段變化，在濾波算法穩(wěn)定后不能達(dá)到一個(gè)小的步長，使得穩(wěn)態(tài)誤差增大。在上面研究的LMS算法濾波器的標(biāo)準(zhǔn)形式中，n+1次迭代中應(yīng)用于濾波器抽頭權(quán)向量的失調(diào)包含以下三項(xiàng)：步長參數(shù)u，它在設(shè)計(jì)者的控制之下。抽頭輸入向量，它由信息源提供。實(shí)數(shù)據(jù)的估計(jì)誤差或者復(fù)數(shù)據(jù)的估計(jì)誤差，他是n次迭代計(jì)算的結(jié)果。失調(diào)直接與抽頭輸入向量成正比。因此，當(dāng)較大時(shí)，LMS濾波器遇到梯度噪聲放大問題。為了克服這個(gè)困難，可使用歸一化LMS濾波器。特別的，n+1次迭代時(shí)抽頭權(quán)向量的失調(diào)相對于n次迭代時(shí)抽頭輸入向

41、量的平方歐氏范數(shù)進(jìn)行“歸一化”。就結(jié)構(gòu)而言，歸一化LMS濾波器與標(biāo)準(zhǔn)LMS濾波器完全一樣，如圖3.1所示，二者都是橫向?yàn)V波器，其不同僅僅在于權(quán)值控制機(jī)理。M×1抽頭輸入向量產(chǎn)生輸出，將其與期望相應(yīng)相減得到估計(jì)誤差，或誤差信號。在對輸入向量和誤差信號組合作用的響應(yīng)中，權(quán)值控制器將權(quán)值調(diào)整應(yīng)用到橫向?yàn)V波器。在大量迭代中，反復(fù)調(diào)整濾波器的權(quán)向量，直到濾波器達(dá)到穩(wěn)定狀態(tài)。我們可把歸一化LMS濾波器看做對普通LMS濾波器所做的性能改進(jìn)。計(jì)算歸一化LMS算法M×1階抽頭權(quán)向量的遞歸結(jié)果如下： (3-10)式中,表示第次迭代濾波器舊的權(quán)向量，表示第次迭代濾波器新的權(quán)向量。為對一次迭代到下

42、一次迭代抽頭權(quán)向量的增量變化進(jìn)行控制而不改變向量的方向而定義的一個(gè)正的實(shí)數(shù)標(biāo)度因子。式(3-10)清楚地表明使用“歸一化”的原因：乘積向量相對于抽頭輸入向量的平方歐氏范數(shù)進(jìn)行了歸一化。比較歸一化LMS濾波器的遞歸表達(dá)式(3-10)與傳統(tǒng)LMS濾波器的遞歸表達(dá)式(3-4),可知如下觀測結(jié)果：歸一化LMS濾波器的自適應(yīng)常數(shù)是無量綱的，而LMS濾波器的自適應(yīng)常數(shù)有反向功率的量綱。設(shè) (3-11)我們可以把歸一化LMS濾波器看做時(shí)變步長參數(shù)的LMS濾波器。更重要的是，無論對于不相關(guān)數(shù)據(jù)還是相關(guān)數(shù)據(jù)，歸一化LMS算法要比標(biāo)準(zhǔn)LMS算法可能呈現(xiàn)更快的收斂速度。在克服LMS濾波器梯度噪聲影響方面,人們關(guān)心的

43、問題是歸一化LMS算法自身所引起的問題,即當(dāng)抽頭輸入向量較小時(shí),不得不用較小的平方范數(shù)除以,以致有可能出現(xiàn)數(shù)值計(jì)算困難。為了克服這個(gè)問題，將式(3.10)遞歸表達(dá)式修改為 (3-12)其中，0.0001,是為了防止過小而引起步長較大,從而導(dǎo)致算法的發(fā)散。當(dāng)=0時(shí)，式(3-12)變?yōu)?3-10)的形式。歸一化最小均方誤差(NLMS)算法的步驟如下：(1) 參數(shù) M=抽頭數(shù)(即濾波器長度)，=自適應(yīng)常數(shù),0其中，一般取02=誤差信號功率=輸入信號功率=均方偏差初始化參數(shù)：如果知道抽頭權(quán)向量的先驗(yàn)知識，則用它來為抽頭權(quán)向量選擇適當(dāng)?shù)闹?；否則，令。(2) 對給定的=第n時(shí)間M×1抽頭輸入向量

44、，=第n時(shí)間步的期望響應(yīng)，計(jì)算誤差信號(3) 計(jì)算第步抽頭權(quán)向量估計(jì)，直到穩(wěn)定狀態(tài)為止3.4歸一化最小均方誤差(LMS)算法的性能分析NLMS算法是基于LMS算法的改進(jìn)算法，通過使用自適應(yīng)變化的步長參數(shù)減小制約最小均方算法的梯度噪聲放大問題。對于高斯信號來說，NLMS算法的收斂性能非常的接近傳統(tǒng)LMS算法的收斂性，并沒有非常明顯的改善。但與傳統(tǒng)LMS算法相比，NLMS算法在減小信號誤差方面有一定的改進(jìn)?；贜LMS算法的自適應(yīng)濾波器可以是輸出信號的誤差明顯減小，避免了基于傳統(tǒng)LMS算法的自適應(yīng)濾波器由于誤差大而導(dǎo)致接收信號精度不高的缺點(diǎn)。歸一化最小均方誤差算法的迭代公式中，非常重要的一個(gè)參量是

45、歸一化變步長參數(shù)，在算法中，均方偏差會隨迭代次數(shù)指數(shù)減小，因此歸一化LMS濾波器在均方誤差意義下是穩(wěn)定的，即收斂過程是單調(diào)的。3.5遞歸最小二乘(RLS)算法前面討論的基于最小均方誤差（MMSE）準(zhǔn)則的自適應(yīng)算法LMS算法收斂速度較慢，對非平穩(wěn)性信號的適應(yīng)性較差。為了克服上述缺點(diǎn)，可以采用最小二乘（LS）準(zhǔn)則，在每時(shí)每刻，對所有已輸入信號重估其誤差，并使各誤差的平方和最小。這是個(gè)在現(xiàn)有約束條件下利用了最多可利用信息的準(zhǔn)則，是在一定意義上最有效、信號非平穩(wěn)性能也最好的準(zhǔn)則。理論和實(shí)驗(yàn)都表明，最小二乘估計(jì)的性能優(yōu)于基于MMSE準(zhǔn)則的算法。最小二乘濾波的基本算法是遞歸最小二乘（RLS）算法，這種算法

46、實(shí)際上是FIR維納濾波器的一種時(shí)間遞歸實(shí)現(xiàn)，它是嚴(yán)格以最小二乘準(zhǔn)則為依據(jù)的算法。它的主要優(yōu)點(diǎn)是收斂速度快，所以在快速信道均衡、實(shí)時(shí)系統(tǒng)辨識和時(shí)間序列分析中得到了廣泛的應(yīng)用。其主要缺點(diǎn)是每次迭代需要的運(yùn)算量很大，對于N階橫向?yàn)V波器，其計(jì)算量在N的平方次數(shù)量級。而LMS算法的運(yùn)算量是在N數(shù)量級。歸最小二乘法(RLS)算法是一種快速收斂的算法，該算法判決依據(jù)是直接處理接受數(shù)據(jù)，使其二次性能指數(shù)函數(shù)最小，而前面所述的LMS算法則是使平方誤差的期望值最小。設(shè)計(jì)出的自適應(yīng)濾波器，通過調(diào)節(jié)濾波器參數(shù)，使得基于過去的觀測樣本而得到的觀測信號在某種意義上最逼近原信號。此時(shí)恢復(fù)誤差 (3-13)另一方面，可以將視

47、作為的預(yù)測。因此可定義預(yù)測誤差： (3-14)設(shè)計(jì)自適應(yīng)濾波器的目的自然是希望使恢復(fù)誤差最小。但是由于真實(shí)信號s(n)未知，故是不可觀測的或無法計(jì)算的。與此相反，預(yù)測誤差e(n)卻是可觀測的，它與恢復(fù)誤差的關(guān)系為： (3-15) 而噪聲序列n(n)是獨(dú)立的，因此不可觀測的恢復(fù)誤差的最小化等價(jià)于可觀測的預(yù)測誤差e(n)的最小化。根據(jù)最小二乘法，的最佳值應(yīng)使下列累計(jì)平方誤差性能函數(shù)最小 (3-16) 式中，為遺忘因子，通常取01。由 (3-17)可得到等價(jià)關(guān)系式： (3-18)若令： (3-19) (3-20) 則式(3-18)可簡寫為： (3-21)假定是非奇異的，則： (3-22)這就是濾波器

48、濾波參數(shù)的公式，之所以記作，是因?yàn)殡S著時(shí)間而改變。式(3-20)叫做最佳濾波器系數(shù)的Yule-Walker 方程。依據(jù)式(3-22)來調(diào)整濾波器參數(shù)有兩處不便。第一，需要矩陣求逆及矩陣乘法等運(yùn)算，因而計(jì)算量大。第二，與預(yù)測誤差之間也未建立任何關(guān)系，不能達(dá)到根據(jù)預(yù)測誤差來調(diào)整濾波器參數(shù)的要求。預(yù)測誤差由 (3-23)表示。注意到和式(3.23)，用式乘上式后得到：為了簡化第一項(xiàng)的表達(dá)，并建立與之間的關(guān)系，一種合理的想法是認(rèn)為時(shí)刻及其以前時(shí)刻的濾波器參數(shù)相同，即： 這樣，利用式(3-20)及上述假定，就有 (3-24) 另一方面，為了簡化的表達(dá)，一種合理的想法就是：認(rèn)為遺忘因子。這相當(dāng)于，只有本時(shí)

49、刻的結(jié)果被記憶下來，而將以前的各時(shí)刻的結(jié)果全部遺忘。從而，有下列的簡化結(jié)果： （3-25）將式(3-24)代入(3-22)，則得 （3-26）式(3-26)描述了一個(gè)濾波器參數(shù)受其輸入誤差控制的自適應(yīng)濾波算法，被稱作遞歸最小二乘(RLS)。為了實(shí)現(xiàn)遞推計(jì)算，還要解決逆矩陣的遞推計(jì)算問題。為此，我們先引入一個(gè)著名的結(jié)果矩陣求逆引理。矩陣求逆引理：若是非奇異的，則： （3-27）由的定義式(3-22)，顯然有 對它應(yīng)用矩陣求逆引理，得： (3-28) 綜上所分析，遞歸最小二乘法自適應(yīng)濾波(RLS)算法如下所示算法初始化：3.6遞歸最小二乘(RLS)算法的性能分析RLS(遞推最小二乘法)算法的關(guān)鍵是

50、用二乘方的時(shí)間平均的最小化鋸帶最小均方準(zhǔn)則，并按時(shí)間進(jìn)行迭代計(jì)算。對于非平穩(wěn)信號的自適應(yīng)處理，最合適的方法是采用最小二乘自適應(yīng)濾波器。它使誤差的總能量最小。RLS算法的優(yōu)點(diǎn)是收斂速度快，其收斂性能與輸入信號的頻譜特性無關(guān)，但其缺點(diǎn)是計(jì)算復(fù)雜度很高，對于N階的濾波器，RLS算法的計(jì)算量為O(N2)。為了對非平穩(wěn)信號進(jìn)行跟蹤，RLS算法引入了數(shù)加權(quán)遺忘因子。該遺忘因子的引入，使RLS算法能夠?qū)Ψ瞧椒€(wěn)信號進(jìn)行跟蹤。由于設(shè)計(jì)簡單、性能最佳，其中RLS濾波器具有穩(wěn)定的自適應(yīng)行為而且算法簡單，收斂性能良好。在最小二乘法(RLS)算法引入了的意義。統(tǒng)計(jì)量的計(jì)算是從零時(shí)刻開始的，如果不引入遺忘因子，所有采樣點(diǎn)

51、數(shù)據(jù)對當(dāng)前估計(jì)量估計(jì)的貢獻(xiàn)是相等的，在時(shí)變條件下，這顯然不合理，因?yàn)殡x當(dāng)前時(shí)刻比較遠(yuǎn)的數(shù)據(jù)，其信道與當(dāng)前信道時(shí)域相關(guān)度越低，而通過引入0到1之間的取值，可以令離當(dāng)前時(shí)刻越遠(yuǎn)的采樣數(shù)據(jù)對統(tǒng)計(jì)量估計(jì)的貢獻(xiàn)越小，由此可以實(shí)現(xiàn)對時(shí)變信道的有效跟蹤。另外，通過調(diào)節(jié)的大小，可以使算法適用于不同的信道時(shí)變速率環(huán)境。例如，信道時(shí)變速率較慢時(shí)可選用較大的，反之則選用較小的。3.7自適應(yīng)算法的分析比較LMS算法確實(shí)結(jié)構(gòu)簡單、計(jì)算量小且穩(wěn)定性好，因此被廣泛地應(yīng)用于自適應(yīng)控制、雷達(dá)、系統(tǒng)辨識及信號處理等領(lǐng)域。它的主要限制是它的收斂速度慢，這歸因于僅僅使用一階信息，影響它的收斂速度的主要因素：步長因子，較小時(shí)，自適應(yīng)速

52、率減慢，它等效于LMS濾波器有長的“記憶”。因此自適應(yīng)后平均額外均方誤差較小，這是因?yàn)闉V波器使用大量的數(shù)據(jù)估計(jì)梯度向量。另一方面，當(dāng)較大時(shí)，自適應(yīng)速率相對較快，但以自適應(yīng)后平均額外均方誤差的增加為代價(jià)。在這種情況下較少數(shù)據(jù)進(jìn)入估計(jì)，故濾波器誤差性能惡化。因此參數(shù)的倒數(shù)可以看作LMS濾波器的記憶。這種固定步長的LMS自適應(yīng)算法在收斂速率、跟蹤速率及權(quán)失調(diào)噪聲之間的要求也是相互矛盾的，LMS的收斂速度與調(diào)整步長有關(guān)，如果為了縮短響應(yīng)時(shí)間而加大運(yùn)算步長，過大的步長會使運(yùn)算過程產(chǎn)生發(fā)散，不能跟蹤目標(biāo)。也就是說，步長增大可以使收斂速率加快，但是會使權(quán)失調(diào)噪聲增大，跟蹤速度減小，從而影響穩(wěn)定性。為了克服這

53、一缺點(diǎn)，人們研究出了各種各樣的變步長LMS的改進(jìn)算法。盡管各種改進(jìn)算法的原理不同，但變步長LMS自適應(yīng)算法基本上遵循如下調(diào)整原則：即在初始收斂階段或未知系統(tǒng)參數(shù)發(fā)生變化時(shí)，步長應(yīng)比較大，以便有較快的收斂速度或?qū)r(shí)變系統(tǒng)的跟蹤速度；而在算法收斂后，不管主輸入端干擾信號有多大，都應(yīng)保持很小的調(diào)整步長以達(dá)到很小的穩(wěn)態(tài)失調(diào)噪聲。遞推最小二乘法即RLS算法，是最小二乘法的遞推形式引出一種自適應(yīng)算法，它是嚴(yán)格以最小二乘方準(zhǔn)則為依據(jù)的算法。其主要優(yōu)點(diǎn)就是收斂速度快，其收斂性能與輸入信號的頻譜特性無關(guān)。主要缺點(diǎn)是每次迭代計(jì)算量很大(對于L階橫向?yàn)V波器，計(jì)算量數(shù)量級為)。RLS算法與LMS算法的基本差別如下：LMS算法中的步長參數(shù)被(即輸入向量的相關(guān)矩陣的逆)代替這一改進(jìn)對平穩(wěn)環(huán)境下RLS算法的收斂性能有如下深刻的影響。指數(shù)加權(quán)因子的作用和的作用類似：RLS算法的收斂速度比LMS算法快一個(gè)數(shù)量級。RLS算法的收斂速度隨著的變小而加快，但穩(wěn)定性相對減弱。反之，收斂速度減慢，穩(wěn)定性加強(qiáng)。3.8 其他自適應(yīng)濾波算法3.8.1 仿射投影法仿射投影算法最早由K-Ozeki和T.Umedate提出，它是歸一化最小均方誤差(NLMS)算法的推廣。仿射投影算法的性能介于LMS算法和RLS算法之間，其計(jì)算復(fù)雜度比RLS算法低。歸一化最小均方誤差(NLMS)算法是LMS算法的改進(jìn)算法，它可以看