高階統(tǒng)計(jì)量在隨機(jī)信號(hào)建模中應(yīng)用.doc

第2章高階統(tǒng)計(jì)量在隨機(jī)信號(hào)建模中應(yīng)用21引言* 建模：根據(jù)采集的有限個(gè)含有噪聲的觀(guān)測(cè)信號(hào)找到一個(gè)合適的模型與觀(guān)測(cè)值或其統(tǒng)計(jì)量相匹配，這就是隨機(jī)建模。* 建模的關(guān)鍵：（1） 模型的假設(shè)（2） 參數(shù)的估計(jì)* 模型* 線(xiàn)性模型（1） 參數(shù)模型： 其中若; 若（2） 非參數(shù)模型（3） 二者關(guān)系為有限值模型為有限值* 建模的目的：由觀(guān)測(cè)值確定系統(tǒng)的的幅度與相位，或 用自相關(guān)函數(shù)建模：系統(tǒng)輸入必須為白噪聲；系統(tǒng)為最小相位系統(tǒng)。 用高階累積量建模輸入可為非高斯有色或白色噪聲; 系統(tǒng)可以是非最小相位系統(tǒng)22封閉型遞推方法模型建模方法 設(shè)系統(tǒng)，已知，, 。要求滿(mǎn)足下列條件：(1)是i.i.d.過(guò)程，(非高斯白噪聲)且, , 是未知數(shù)。(2)是高斯噪聲（有色或無(wú)色），方差未知,且與互相獨(dú)立。(3)一、與的辨識(shí)設(shè)，則上式，又，只能取0； ，只能取0設(shè) 只能取 二、 封閉型遞推方法設(shè)（歸一化）則遞推公式如下： （） （）如果為偶數(shù)。則說(shuō)明： 同理，把，代入式右端，代數(shù)化簡(jiǎn)同理可證式。三、 遞推方法(1)根據(jù)觀(guān)測(cè)值 (2)計(jì)算， （根據(jù)前面三個(gè)公式）。(3)求，(4)求，的遞推過(guò)程設(shè) 再由式及式，得， 設(shè) 再根據(jù)，式，得，依此類(lèi)推。優(yōu)點(diǎn)：簡(jiǎn)單。缺點(diǎn)：有累計(jì)誤差，且較嚴(yán)重。23公式，模型建模方法二設(shè)系統(tǒng)單位沖擊響應(yīng)為則，稱(chēng)此為公式。證明： 設(shè)時(shí)，上式變?yōu)?(I)再設(shè)(II)(I)/(II)，得同理：還可得：公式計(jì)算方法：(1)觀(guān)測(cè)值(2)估計(jì)： 24切片法設(shè)是模型沖擊響應(yīng)(IR) 根據(jù)沖擊響應(yīng)定義： (*) （此公式今后經(jīng)常見(jiàn)到。）則證明：設(shè) () 設(shè)將上式代入(I)式，得 ()由式得() 所以(II)式成為：設(shè)，則 () 設(shè),則(III)變?yōu)椋褐荒苋≡僭O(shè)，則(III)式變?yōu)椋?只能取則討論：(1) 若是模型模型變?yōu)椋河谑牵捍斯脚c公式等價(jià)。(2)若是模型，求已知和。25線(xiàn)性系統(tǒng)中二階與高階統(tǒng)計(jì)量之間的關(guān)系一、的雙譜與維譜之間的關(guān)系 一維對(duì)角線(xiàn)切片稱(chēng)此為維譜證明： 變換： 復(fù)卷積定理 曲線(xiàn)積分設(shè)，則 (*)， 第2章得出的由此得出代入式，原式得證。二、功率譜與維譜之間的關(guān)系設(shè)是相關(guān)函數(shù)變換，且，則 方程證明: 前面提到過(guò) ()而 （第2章講過(guò)） ()將()式代入()中，得：推廣：是的變換。時(shí)域方程：設(shè)系統(tǒng)為系統(tǒng)則時(shí)域方程為：證明：兩邊取反變換： 根據(jù)復(fù)卷積定理 系統(tǒng) 推廣 三、 三階累計(jì)量之間的關(guān)系第2章而來(lái)對(duì)于系統(tǒng)（過(guò)程）設(shè)，則 ()設(shè)，則()式成為： ()設(shè)對(duì)()式兩邊取變換(對(duì)取變換) () () ()/ (),得：域乘積時(shí)域解：時(shí)域卷積（此為三階累積量之間的關(guān)系）設(shè)，則 () 稱(chēng)此為累積量方程看如何轉(zhuǎn)換：設(shè)，根據(jù)()式得： 取0,1，2，表達(dá)成矩陣形式： 用最小二乘法，準(zhǔn)確度高，取出的是，符號(hào)沒(méi)了。建議：用方法識(shí)別符號(hào)。26非最小相位模型建模一、模型假設(shè)設(shè)表示一非高斯信號(hào)過(guò)程，它可以用一個(gè)模型來(lái)描述： (1)這里，如果，則退化為模型。其中，通常被觀(guān)測(cè)噪聲所污染，即觀(guān)測(cè)值為假設(shè)(1) 階次已知；(2) 輸入過(guò)程是一個(gè)不可觀(guān)測(cè)的、零均值i.i.d.非高斯過(guò)程，它至少存在一個(gè)有限的非零高階累積量，。(3) 系統(tǒng)是因果的、指數(shù)穩(wěn)定的且可以是非最小相位的，即的根在單位圓內(nèi)，而的根可以在單位圓內(nèi)，也可以在單位圓外。(4) 觀(guān)測(cè)噪聲是一個(gè)零均值有色高斯過(guò)程，其能譜密度未知，且與相互獨(dú)立。由于高斯過(guò)程的高階累積量等于零，于是的階累積量為這樣，非最小相位信號(hào)建模的實(shí)質(zhì)就是怎樣由觀(guān)測(cè)值的高階累積量估計(jì)信號(hào)模型的參數(shù)和參數(shù)。二、參數(shù)估計(jì)1.基于高階累積量的高階Yule-Walker方程設(shè)系統(tǒng)的單位沖激響應(yīng)為，則根據(jù)單位沖激響應(yīng)的定義，有 又由第1章公式(15)可知 綜合上面兩式，有 當(dāng)時(shí)，于是 (2)方程式(2)稱(chēng)作基于高階累積量的高階Yule-Walker方程。2.參數(shù)的唯一可識(shí)別性定理眾所周知，一個(gè)非高斯過(guò)程的模型給定的話(huà)，則其階累積量就唯一確定。因此，從累積量匹配的觀(guān)點(diǎn)出發(fā)，參數(shù)是由所有的階累積量對(duì)所有求解式(2)而唯一確定。由于方程組的個(gè)數(shù)是無(wú)窮大，這樣的方程組的求解顯然是不現(xiàn)實(shí)的。于是，必須選擇少量合適的高階累積量切片構(gòu)造具有唯一解的方程組。在式(2)中，取并固定，且記，得到下列由一個(gè)切片構(gòu)造的方程組 (3)或其中，為維矩陣，和均為維向量。若矩陣為滿(mǎn)矩，則由式(3)可以得到唯一的參數(shù)；然而，矩陣不一定為滿(mǎn)秩，這樣，式(3)不能保證參數(shù)的唯一可識(shí)別性。盡管單獨(dú)某個(gè)切片構(gòu)造的矩陣可能非滿(mǎn)秩，Giannakis and Mendel建議利用個(gè)一維切片構(gòu)造的矩陣則是滿(mǎn)秩的，并提出了參數(shù)的唯一可識(shí)別性定理。定理1在假設(shè)(1)(4)下，當(dāng)且僅當(dāng)模型式(1)不存在著零、極點(diǎn)相消時(shí)，參數(shù)可由個(gè)一維累積量切片構(gòu)造的下列線(xiàn)性方程組唯一確定 (4)其中，。令式（2）中，得到下列矩陣方程(5)3.參數(shù)估計(jì)的SVD-TLS方法實(shí)際上，只能由觀(guān)測(cè)值得到高階累積量的估計(jì)，同時(shí)階次也未知，因此必須確定方程式(5)的實(shí)用性問(wèn)題。1) 用奇異值分解(SVD)法確定階次設(shè)模型階次的上限為（通?？梢灶A(yù)先選定一組較大的值），??；，則矩陣的秩為，若用代替，則構(gòu)造的新矩陣的有效秩為，這樣，通過(guò)對(duì)進(jìn)行奇異值分解可以確定的有效秩，從而確定模型階次。2) 用SVD-TLS法估計(jì)參數(shù)式(5)是忽略噪聲影響的一種近似。通常有兩種方法來(lái)補(bǔ)償這種噪聲擾動(dòng)的影響。第一種方法是最小二乘(LS)法，這種方法假定在式(5)右邊的矢量中有一擾動(dòng)項(xiàng)；第二種方法是主特征矢量(PE)法，這種方法則假定式(5)左邊的系數(shù)矩陣中有一擾動(dòng)項(xiàng)。顯然，這兩種方法都是不夠的，因?yàn)槭?5)中的系數(shù)矩陣和累積量矢量中元素均由觀(guān)測(cè)值估計(jì)得到，因此都含有噪聲擾動(dòng)項(xiàng)。我們采用同時(shí)考慮這兩種噪聲擾動(dòng)項(xiàng)的整體最小二乘(TLS)法來(lái)解決這一問(wèn)題。由于TLS法通常采用SVD來(lái)實(shí)現(xiàn)，因而又稱(chēng)作SVD-TLS法。SVD-TLS法步驟如下：(1) 選擇階次上限，取，并用代替由式(4)得到矩陣方程其中，為維矩陣，為維向量，且 (2) 對(duì)進(jìn)行奇異值分解其中和分別為和的特征向量矩陣，為由奇異值所構(gòu)成的對(duì)角陣。(3) 取，計(jì)算取使明顯接近于1的轉(zhuǎn)折點(diǎn)處的值當(dāng)作有效秩。(4) 計(jì)算矩陣其中，表示由矩陣中第列向量中的個(gè)元素組成的維向量，且(5) 求解線(xiàn)性方程組其中，和均為維向量，且，的選取是以中第一個(gè)元素為1為原則，若為奇異矩陣，則以的零特征值對(duì)應(yīng)的歸一化特征向量當(dāng)作參數(shù)估計(jì)。三、MA參數(shù)估計(jì)我們采用殘差時(shí)間序列法來(lái)估計(jì)參數(shù)。設(shè)估計(jì)的參數(shù)為，則定義殘差時(shí)間序列為由式，代入得并考慮到式(1)，有如果，則由于假設(shè)(4)可知是高斯有色噪聲，故也是高斯有色噪聲，于是殘差時(shí)間序列可以看成純非高斯過(guò)程與高斯有色噪聲的合成，因此參數(shù)的估計(jì)轉(zhuǎn)化成高斯有色噪聲中的非高斯過(guò)程的參數(shù)估計(jì)問(wèn)題，我們將在下一節(jié)非最小相位模型建模中一起討論這個(gè)問(wèn)題。23非高斯相位模型建模一、模型假設(shè)設(shè)非最小相位信號(hào)模型為模型，即觀(guān)測(cè)模型為其中，動(dòng)態(tài)噪聲不可觀(guān)測(cè)，并假定：(1) 為零均值、獨(dú)立地服從同一分布的非高斯白噪聲；(2) 為零均值、高斯分布噪聲；(3) 與相互獨(dú)立，因而與也相互獨(dú)立；(4) 階次已知且。有關(guān)及更進(jìn)一步的假設(shè)將在研究不同估計(jì)算法中給出。由于系統(tǒng)是非最小相位的，故傳遞函數(shù)的零點(diǎn)可以在單位圓外。我們感興趣的問(wèn)題是，怎樣利用觀(guān)測(cè)值的統(tǒng)計(jì)量信息來(lái)估計(jì)模型參數(shù)。目前，基于高階統(tǒng)計(jì)量解決上述問(wèn)題的方法有兩大類(lèi)：非