LSL最小二乘格型算-劉智

LSL最小二乘格型算法2009112829劉智LSL(leastsquareoflattice)自適應(yīng)算法的目標(biāo)在于，使濾波器輸出與需要信號(hào)的誤差的平方的統(tǒng)計(jì)平均值最小。這個(gè)準(zhǔn)那么根據(jù)輸入數(shù)據(jù)的長(zhǎng)期統(tǒng)計(jì)特性尋求最正確濾波。然而，我們通常的僅是一組數(shù)據(jù)，因而只能對(duì)長(zhǎng)期統(tǒng)計(jì)特性進(jìn)行估計(jì)或近似。LMS算法、格形梯度算法都是這樣。能否直接根據(jù)一組數(shù)據(jù)尋求最正確呢？最小二乘算法就可解決這個(gè)問題。leastsquareoflattice采用遞推的方法實(shí)現(xiàn)最小二乘，一個(gè)遞推算法的完成，終止條件是估計(jì)的誤差或誤差信號(hào)能否滿足某一條件，LSL算法的關(guān)鍵是基于預(yù)測(cè)誤差濾波器的格型結(jié)構(gòu)，即由M階〔前向、后向〕預(yù)測(cè)誤差遞推計(jì)算M+1階〔前向、后向〕預(yù)測(cè)誤差

—

+——LS前向線性預(yù)測(cè)濾波器對(duì)于LS前向預(yù)測(cè)濾波器由線性系統(tǒng)理論預(yù)測(cè)向量研究目的：求最小二乘意義下的最正確解和最正確前向預(yù)測(cè)向量.將上式用矩陣方程表示為

Yule-Walker方程式由Y-W方程求得最加權(quán)系數(shù)，以及最小前向預(yù)測(cè)誤差

LSL算法原理:LS格型算法是變階型算法，即由第M階濾波器參數(shù)計(jì)算M+1階濾波器參數(shù)。通常說來，移動(dòng)環(huán)境是時(shí)變的，向量必須周期性地更新或自適應(yīng)，每次更新計(jì)算的權(quán)值向量通常相對(duì)上一次計(jì)算的權(quán)值向量只有很小的變化，而且，由于估計(jì)最優(yōu)解所需的數(shù)據(jù)受到噪聲的污染，需要對(duì)權(quán)向量的上一個(gè)解進(jìn)行更新，以平滑對(duì)最優(yōu)響應(yīng)的估計(jì)，減小噪聲的影響。算法原理：基于以上原因，通常使用自適應(yīng)算法周期性地更新權(quán)向量。迭代算法中，第n步迭代時(shí)：當(dāng)前權(quán)向量w(n)增加一個(gè)向量，形成新的權(quán)向量，w(n+1)來近似優(yōu)化解(回憶)最小二乘準(zhǔn)那么最小二乘自適應(yīng)濾波是以誤差的平方和最小作為最正確準(zhǔn)那么的誤差準(zhǔn)那么定義：其中是誤差信號(hào)的平方和，是j時(shí)刻的誤差信號(hào)，是j時(shí)刻的期望信號(hào)，Xj是j時(shí)刻的輸入信號(hào)構(gòu)成的信號(hào)，W表示濾波器的權(quán)系數(shù)構(gòu)成的向量。通過選擇W,使得取得最小值。有n個(gè)信號(hào)輸入量{x(1),x(2),…,x(n)}，對(duì)其中任何一個(gè)輸入信號(hào)量x(i)采用M個(gè)權(quán)的FIR濾波器對(duì)信號(hào)序列進(jìn)行濾波，期望信號(hào)為d(i)。LSL目的就是以較少的運(yùn)算復(fù)雜度，在快速收斂的情況下，給出最優(yōu)解，以尋找某時(shí)刻的最優(yōu)權(quán)值。算法分析如下圖

濾波器輸出的估計(jì)預(yù)測(cè)誤差為：當(dāng)在n時(shí)刻組成M維向量時(shí)那么有(M是權(quán)的個(gè)數(shù))：權(quán)向量信號(hào)向量x(n)=[x(n),x(n-1),…,x(n-M+1)]T。表示輸入信號(hào)n時(shí)刻及其之前時(shí)刻直到n一M+1時(shí)刻的輸入量。誤差信號(hào)向量e(n)=[e(1),e(2),…,e(n)]T。期望信號(hào)向量d(n)=[d(1),d(2),…,d(n)]T。輸入信號(hào)向量構(gòu)成維矩陣之所以組成矩陣，是因?yàn)槊總€(gè)輸入量都采用M個(gè)權(quán)的濾波器。其最小二乘估計(jì)為：

回憶：很多自適應(yīng)方法使用基于梯度的方法尋找可以到達(dá)最小均方誤差的權(quán)矢量。均方誤差性能曲面的梯度定義為：最優(yōu)權(quán)重矢量處梯度為零：遞推算法過程最小二乘格型算法LSL是采用遞推的方法實(shí)現(xiàn)最小二乘。輸入向量x(n)=[x(n),x(n-1),…,x(n-M+1)]T，n個(gè)輸入信號(hào)組成的數(shù)據(jù)向量。相應(yīng)的權(quán)向量為，前向預(yù)測(cè)估計(jì)為的最正確解和最正確前向預(yù)測(cè)向量分別為：遞推算法過程遞推算法過程:通過對(duì)x(n)的平移，其基向量全部是被延時(shí)的向量，現(xiàn)時(shí)向量不在其中，M階前向預(yù)測(cè)濾波器就是根據(jù)的M個(gè)基向量來計(jì)算現(xiàn)時(shí)數(shù)據(jù)向量x(n)的估計(jì)遞推算法過程當(dāng)用表示輸入數(shù)據(jù)矩陣張成的空間的投影矩陣時(shí)那么由投影定理那么n時(shí)刻前向預(yù)測(cè)誤差向量(正交投影矩陣)前向預(yù)測(cè)誤差，其中為求得現(xiàn)時(shí)刻的標(biāo)量所引入的單位現(xiàn)時(shí)向量：遞推算法過程同理，在最小二乘意義下，對(duì)后向預(yù)測(cè)濾波器有最正確解最正確估計(jì)：遞推算法過程其中：遞推算法過程用表示輸入數(shù)據(jù)矩陣張成的空間的投影矩陣，那么由那么n時(shí)刻后向預(yù)測(cè)誤差向量和后向預(yù)測(cè)誤差分別為：遞推算法過程n時(shí)刻后向預(yù)測(cè)誤差向量和后向預(yù)測(cè)誤差分別為：那么前后向預(yù)測(cè)誤差能量分別為前后向預(yù)測(cè)濾波器參數(shù)更新由標(biāo)量更新公式

代入前后向預(yù)測(cè)濾波器參數(shù)更新由以上四個(gè)式子，把調(diào)整因子帶入可以得出：

LSL濾波器遞推算法過程取

,由標(biāo)量更新公式(3.4.56)：

前向能量

更新為取

,由標(biāo)量更新公式(3.4.56)后向能量更新為：

其中偏相關(guān)系數(shù):遞推終止條件與總結(jié)可以選擇遞推終止的條件有兩個(gè)：①和②和。選擇其一即可,例如當(dāng)或滿足以下條件時(shí)迭代停止，設(shè)置迭代次數(shù)即可，或者使前向或后項(xiàng)誤差能量小于某個(gè)值例如：while(sf<50){…}orwhile(iteration<300){…}遞推終止條件與總結(jié)總結(jié)：按以下顧序計(jì)算。假設(shè)格型濾波器共M級(jí)，初始化，對(duì)n=1，2…計(jì)算對(duì)m=0,1,…,M-1計(jì)算

………….①遞推終止條件與總結(jié)

………②………③相對(duì)LMS算法LSL具有較快的收斂速度，而LMS要加快收斂速度，將付出增大噪聲的代價(jià)，LSL運(yùn)算量要遠(yuǎn)小于LMS和RLS?！?/p>