現(xiàn)代信號處理ch3-4-5.ppt

1、1,第三章 自適應(yīng)信號處理,2020年9月13日,2,主要內(nèi)容,隨機信號的最優(yōu)預(yù)測和濾波 最優(yōu)濾波理論與維納濾波器 橫向LMS自適應(yīng)數(shù)字濾波器 橫向RLS自適應(yīng)數(shù)字濾波器 自適應(yīng)格型濾波器 快速橫向濾波（FTF）自適應(yīng)算法 無限脈沖響應(yīng)自適應(yīng)濾波器 盲自適應(yīng)信號處理 同態(tài)濾波及倒譜 自適應(yīng)濾波器應(yīng)用,3,四、橫向RLS自適應(yīng)數(shù)字濾波器,基本思想 RLS算法 RLS濾波算法與Kalman濾波算法 比較,4,四、橫向RLS自適應(yīng)數(shù)字濾波器,基本思想 把最小二乘法(LS)推廣為一種自適應(yīng)算法，用來設(shè)計自適應(yīng)的橫向濾波器，利用n-1時刻的濾波器抽頭權(quán)系數(shù)，通過簡單的更新，求出n 時刻的濾波器抽頭權(quán)系數(shù)

2、。這樣一種自適應(yīng)的最二乘算法稱為遞歸(遞推)最小二乘算法, 簡稱RLS算法。,5,四、橫向RLS自適應(yīng)數(shù)字濾波器,RLS算法,基本方程 考慮指數(shù)加權(quán)的最小二乘法，其代價函數(shù)為,式中 , 稱為遺忘因子, 其作用是對離n時刻越近的誤差加越大的權(quán)重, 而對離n時刻越遠的誤差加越小的權(quán)重, 即該參數(shù)對各個時刻的誤差具有某種遺忘作用。 式(1a)中, 誤差函數(shù)定義為,式中 表示i 時刻的期望響應(yīng)。,BACK,6,四、橫向RLS自適應(yīng)數(shù)字濾波器,RLS算法,i) 有些著作中, 把式中的 寫作 , 且 ii)式中濾波器抽頭權(quán)向量取為n時刻的權(quán)向量, 理由如下: 在自適應(yīng)更新過程中, 濾波器特性總是越來越好,

3、 這意 味著,對任何時刻而言, 總有,故使用 作為誤差函數(shù)比使用e(i)更為合理。 iii) 和e(i)分別稱為濾波器在i 時刻后驗估計誤差和 先驗估計誤差,關(guān)于誤差函數(shù)定義式 的討論,7,四、橫向RLS自適應(yīng)數(shù)字濾波器,RLS算法,合并(1a)和(1b)得,顯然，它是 的函數(shù)。由,其解,式中,易得,式(3)表明, 指數(shù)加權(quán)最小二乘問題(2)的解亦為維納解。 下面考慮它的自適應(yīng)更新問題。,BACK,8,四、橫向RLS自適應(yīng)數(shù)字濾波器,RLS算法,自適應(yīng)更新 根據(jù)式(4)，易得其遞推估計公式,令P(n)=R-1(n) 利用,可得,定義Kalman增益向量:,則有,BACK,9,四、橫向RLS自適

4、應(yīng)數(shù)字濾波器,RLS算法 利用上式, 易證,注意:上面推導(dǎo)中,利用了(7)。再利用(3)、(5b)和(8)、(9a)得,10,四、橫向RLS自適應(yīng)數(shù)字濾波器,RLS算法 根據(jù)上式, 有,其中,作為比較,下面重列LMS算法迭代式：,結(jié)論: 用Kalman增益向量k(n)代替LMS算法中 即得RLS算法。,利用(9c)和(7),11,四、橫向RLS自適應(yīng)數(shù)字濾波器,RLS算法,步驟1：初始化： , 是一個小的正數(shù) 步驟2：更新：對n=1,2,計算,RLS算法步驟:,即(7),即(8),12,關(guān)于RLS算法的收斂速度問題 因為,四、橫向RLS自適應(yīng)數(shù)字濾波器,RLS算法,故,結(jié)論:RLS算法在權(quán)向量

5、的更新方程中, 比LMS算法多了迭代矩陣P(n), 而該矩陣可看作代價函數(shù)二階導(dǎo)數(shù)矩陣的近似逆矩陣, 因此RLS收斂速度快于LMS算法.,而,作為比較,再次重列LMS算法迭代式：,即(9c),13,四、橫向RLS自適應(yīng)數(shù)字濾波器,RLS算法與Kalman濾波算法比較,考慮一特殊的“無激勵”動態(tài)模型：,式中s(n)為模型的狀態(tài)向量, y(n)為一標量觀測值或參考信號,u(n)觀測向量, v(n)是零均值、方差為1的一標量白噪聲過程。 為正常數(shù)。由式(11a)易知,式中s(0)是狀態(tài)向量的初始值。將上式代入式(11b),則有,14,四、橫向RLS自適應(yīng)數(shù)字濾波器,RLS算法與Kalman濾波算法比

6、較,或等效寫為,從Kalman濾波觀點看,這表示無激勵動態(tài)模型的隨機性。 與采用隨機模型的Kalman濾波器不同, RLS算法則采用確定模型, 即期望信號(參考信號)可用線性回歸模型表示為,其中w0是模型參數(shù)向量,u(n)為輸入向量,e0(n)為觀測噪聲。,15,四、橫向RLS自適應(yīng)數(shù)字濾波器,RLS算法與Kalman濾波算法比較,若令Kalman濾波器中狀態(tài)向量的初始值等于RLS算法中抽頭權(quán)向量, 即,則容易看出, RLS算法的確定模型(14)與Kalman濾波算法的特殊隨機模型(13)等價的條件如下：,式中左邊為狀態(tài)空間模型參數(shù),右邊為線性回歸模型參數(shù),結(jié)論： RLS自適應(yīng)算法使用的確定性

7、線性回歸模型是Kalman濾波算法的一種特殊的無激勵的狀態(tài)空間模型,16,四、橫向RLS自適應(yīng)數(shù)字濾波器,RLS算法與Kalman濾波算法比較,表1 Kalman濾波算法與RLS濾波算法之間的變量對應(yīng)關(guān)系,17,主要內(nèi)容,隨機信號的最優(yōu)預(yù)測和濾波 最優(yōu)濾波理論與維納濾波器 橫向LMS自適應(yīng)數(shù)字濾波器 橫向RLS自適應(yīng)數(shù)字濾波器 自適應(yīng)格型濾波器 快速橫向濾波（FTF）自適應(yīng)算法 無限脈沖響應(yīng)自適應(yīng)濾波器 盲自適應(yīng)信號處理 自適應(yīng)濾波器應(yīng)用,18,五、自適應(yīng)格型濾波器,m階前向預(yù)測 m階前向預(yù)測誤差 m階前向預(yù)測誤差平方和 按使(3)式最小的準則求得的 稱為最小二乘前向預(yù)測系數(shù)。,前向預(yù)測和后向

8、預(yù)測,19,五、自適應(yīng)格型濾波器,令m階前向預(yù)測誤差矢量 、當前數(shù)據(jù)矢量 、前向預(yù)測系數(shù)矢量 以及數(shù)據(jù)矩陣 分別為 于是有,前向預(yù)測和后向預(yù)測,20,五、自適應(yīng)格型濾波器,根據(jù)矢量空間的概念，由 的列矢量對 所作的最小二乘（最佳）前向預(yù)測 是 在 上的投影，即 式中， 是 的投影矩陣，有 m階前向預(yù)測誤差矢量 是 對 的投影補 其中 是 的正交投影矩陣。,前向預(yù)測和后向預(yù)測,(10),(11),21,五、自適應(yīng)格型濾波器,m階后向預(yù)測 m階后向預(yù)測誤差 令m階后向預(yù)測誤差矢量 、后向預(yù)測矢量 ，后向預(yù)測系數(shù)矢量 以及數(shù)據(jù)矩陣 分別為,前向預(yù)測和后向預(yù)測,(12),(13),(14),(16),

9、(15),22,五、自適應(yīng)格型濾波器,則有 由矢量空間的概念，有,前向預(yù)測和后向預(yù)測,(17),(18),(19),(20),(21),23,五、自適應(yīng)格型濾波器,預(yù)測誤差矢量的范數(shù)的平方即預(yù)測誤差功率，稱為預(yù)測誤差剩余。前向和后向預(yù)測誤差剩余分別定義為,前向預(yù)測和后向預(yù)測,(22a),(22b),(23a),(23b),24,五、自適應(yīng)格型濾波器,前向預(yù)測誤差和后向預(yù)測誤差按階遞推計算（階更新）公式：,預(yù)測誤差濾波器的格型結(jié)構(gòu),25,五、自適應(yīng)格型濾波器,如果給出 就可以得到m階預(yù)測誤差濾波器的格型結(jié)構(gòu)，見書P88的圖3.28(b)。,預(yù)測誤差濾波器的格型結(jié)構(gòu),26,五、自適應(yīng)格型濾波器,前向預(yù)測誤差剩余和后向預(yù)測誤差剩余按階更新的公式分別為： 以上公式中涉及到 的更新，其更新公式為： 其中 為角參量，它的階更新公式為,最小二乘格型自適應(yīng)算法,27,五、自適應(yīng)格型濾波器,LSL自適應(yīng)算法的計算流程如下： （1）初始化 （2）迭代計算（按時間n=1,2,),最小二乘格型自適應(yīng)算法,28,五、自適應(yīng)格型濾波器,（3）迭代計算（按階m=0,1,M-1） 同階的 嵌套著按時間進行迭