時間序列模型

1、時間序列模型一、分類按所研究的對象的多少分，有一元時間序列和多元時間序列。按時間的連續(xù)性可將時間序列分為離散時間序列和連續(xù)時間序列兩種。按序列的統(tǒng)計特性分，有平穩(wěn)時間序列和非平穩(wěn)時間序列。狹義時間序列：如果一個時間序列的概率分布與時間t 無關(guān)。廣義時間序列：如果序列的一、二階矩存在，而且對任意時刻t 滿足均值為常數(shù)和協(xié)方差為時間間隔的函數(shù)。（下文主要研究的是廣義時間序列）。按時間序列的分布規(guī)律來分，有高斯型時間序列和非高斯型時間序列。二、確定性時間序列分析方法概述時間序列預(yù)測技術(shù)就是通過對預(yù)測目標(biāo)自身時間序列的處理，來研究其變化趨勢的。一個時間序列往往是以下幾類變化形式的疊加或耦合。長期趨勢變

2、動：它是指時間序列朝著一定的方向持續(xù)上升或下降，或停留在某一水平上的傾向，它反映了客觀事物的主要變化趨勢。通常用Tt表示。季節(jié)變動：通常用St 表示。循環(huán)變動：通常是指周期為一年以上，由非季節(jié)因素引起的漲落起伏波形相似的波動。通常用Ct表示。不規(guī)則變動。通常它分為突然變動和隨機變動。通常用Rt表示。也稱隨機干擾項。常見的時間序列模型：加法模型：yt=St+Tt+Ct+Rt；乘法模型：yt=St·Tt·Ct·Rt；混合模型：yt=St·Tt+Rt；yt=St+Tt·Ct·Rt；Rt2這三個模型中yt表示觀測目標(biāo)的觀測記錄，ERt=0,E

3、Rt2=2如果在預(yù)測時間范圍以內(nèi)，無突然變動且隨機變動的方差2較小，并且有理由認(rèn)為過去和現(xiàn)在的演變趨勢將繼續(xù)發(fā)展到未來時，可用一些經(jīng)驗方法進行預(yù)測。三、移動平均法當(dāng)時間序列的數(shù)值由于受周期變動和不規(guī)則變動的影響，起伏較大，不易顯示出發(fā)展趨勢時，可用移動平均法，消除這些因素的影響，分析、預(yù)測序列的長期趨勢。移動平均法有簡單移動平均法，加權(quán)移動平均法，趨勢移動平均法等。3.1、簡單移動平均法當(dāng)預(yù)測目標(biāo)的基本趨勢是在某一水平上下波動時，可用一次簡單移動平均方法建立預(yù)測模型：其預(yù)測目標(biāo)的標(biāo)準(zhǔn)差為：當(dāng)然我們還可以得到如下遞推關(guān)系：N的選取方式:一般N 取值范圍：5 N 200。當(dāng)歷史序列的基本趨勢變化不

4、大且序列中隨機變動成分較多時，N 的取值應(yīng)較大一些。否則N 的取值應(yīng)小一些。選擇不同的N比較若干模型的預(yù)測誤差，預(yù)測標(biāo)準(zhǔn)誤差最小者為最好。3.2、加權(quán)移動平均法在簡單移動平均公式中，每期數(shù)據(jù)在求平均時的作用是等同的。但是，每期數(shù)據(jù)所包含的信息量不一樣，近期數(shù)據(jù)包含著更多關(guān)于未來情況的信心。因此，把各期數(shù)據(jù)等同看待是不盡合理的，應(yīng)考慮各期數(shù)據(jù)的重要性，對近期數(shù)據(jù)給予較大的權(quán)重，這就是加權(quán)移動平均法的基本思想。其中wi為yt-i+1權(quán)數(shù)，體現(xiàn)了相應(yīng)的yt在加權(quán)平均數(shù)中的重要性。在加權(quán)移動平均法中，的選擇，wi同樣具有一定的經(jīng)驗性。一般的原則是：近期數(shù)據(jù)的權(quán)數(shù)大，遠(yuǎn)期數(shù)據(jù)的權(quán)數(shù)小。至于大到什么程度和

5、小到什么程度，則需要按照預(yù)測者對序列的了解和分析來確定。3.3、趨勢移動平均法簡單移動平均法和加權(quán)移動平均法，在時間序列沒有明顯的趨勢變動時，能夠準(zhǔn)確反映實際情況。但當(dāng)時間序列出現(xiàn)直線增加或減少的變動趨勢時，用簡單移動平均法和加權(quán)移動平均法來預(yù)測就會出現(xiàn)滯后偏差。因此，需要進行修正，修正的方法是作二次移動平均，利用移動平均滯后偏差的規(guī)律來建立直線趨勢的預(yù)測模型。這就是趨勢移動平均法。一次移動的平均數(shù)為二次移動的平均數(shù)為下面討論如何利用移動平均的滯后偏差建立直線趨勢預(yù)測模型:設(shè)時間序列yt 從某時期開始具有直線趨勢，且認(rèn)為未來時期也按此直線趨勢變化，則可設(shè)此直線趨勢預(yù)測模型為其中 t 為當(dāng)前時期

6、數(shù)；T 為由t 至預(yù)測期的時期數(shù)；at為截距，bt為系數(shù)，兩者均稱為平滑系數(shù)?？梢酝扑愠觯黑厔菀苿悠骄▽τ谕瑫r存在直線趨勢與周期波動的序列，是一種既能反映趨勢變化，又可以有效地分離出來周期變動的方法。四、指數(shù)平滑法一次移動平均實際上認(rèn)為最近N 期數(shù)據(jù)對未來值影響相同，都加權(quán)1N；而N 期以前的數(shù)據(jù)對未來值沒有影響，加權(quán)為0。但是，二次及更高次移動平均數(shù)的權(quán)數(shù)卻不是1N，且次數(shù)越高，權(quán)數(shù)的結(jié)構(gòu)越復(fù)雜，但永遠(yuǎn)保持對稱的權(quán)數(shù)，即兩端項權(quán)數(shù)小，中間項權(quán)數(shù)大，不符合一般系統(tǒng)的動態(tài)性。一般說來歷史數(shù)據(jù)對未來值的影響是隨時間間隔的增長而遞減的。所以，更切合實際的方法應(yīng)是對各期觀測值依時間順序進行加權(quán)平均作

7、為預(yù)測值。指數(shù)平滑法可滿足這一要求，而且具有簡單的遞推形式。指數(shù)平滑法根據(jù)平滑次數(shù)的不同，又分為一次指數(shù)平滑法、二次指數(shù)平滑法和三次指數(shù)平滑法等，分別介紹如下：4.1、一次指數(shù)平滑法其中為加權(quán)系數(shù)。預(yù)測模型為：即也就是以第t期指數(shù)平滑值作為t +1期預(yù)測值。如何選擇加權(quán)系數(shù)?具體如何選擇一般可遵循下列原則：如果時間序列波動不大，比較平穩(wěn)，則 應(yīng)取小一點，如（0.10.5）。以減少修正幅度，使預(yù)測模型能包含較長時間序列的信息；如果時間序列具有迅速且明顯的變動傾向，則 應(yīng)取大一點，如（0.60.8）。使預(yù)測模型靈敏度高一些，以便迅速跟上數(shù)據(jù)的變化。在實用上，類似移動平均法，多取幾個 值進行試算，看

8、哪個預(yù)測誤差小，就采用哪個。如何確定初值S0(1)？具體如何選擇一般可遵循下列原則：當(dāng)時間序列的數(shù)據(jù)較多，比如在20 個以上時，初始值對以后的預(yù)測值影響很少，可選用第一期數(shù)據(jù)為初始值。如果時間序列的數(shù)據(jù)較少，在20個以下時，初始值對以后的預(yù)測值影響很大，這時，就必須認(rèn)真研究如何正確確定初始值。一般以最初幾期實際值的平均值作為初始值。4.2、二次指數(shù)平滑法當(dāng)時間序列的變動出現(xiàn)直線趨勢時，采用二次指數(shù)平滑法其中St(1)為一次指數(shù)的平滑值；St(2) 為二次指數(shù)的平滑值。當(dāng)時間序列yt,從某時期開始具有直線趨勢時，類似趨勢移動平均法，可用直線趨勢模型:進行預(yù)測。4.3、三次指數(shù)平滑法當(dāng)時間序列的變

9、動表現(xiàn)為二次曲線趨勢時，則需要用三次指數(shù)平滑法。三次指數(shù)平滑是在二次指數(shù)平滑的基礎(chǔ)上，再進行一次平滑，其計算公式為式中St(3)為三次指數(shù)平滑值三次指數(shù)平滑法的預(yù)測模型為：其中：選擇值的一些基本準(zhǔn)則:指數(shù)平滑預(yù)測模型是以時刻t為起點，綜合歷史序列的信息，對未來進行預(yù)測的。選擇合適的加權(quán)系數(shù)是提高預(yù)測精度的關(guān)鍵環(huán)節(jié)。根據(jù)實踐經(jīng)驗，的取值范圍一般以0.10.3為宜。值愈大，加權(quán)系數(shù)序列衰減速度愈快，所以實際上取值大小起著控制參加平均的歷史數(shù)據(jù)的個數(shù)的作用。值愈大意味著采用的數(shù)據(jù)愈少。（1）如果序列的基本趨勢比較穩(wěn)，預(yù)測偏差由隨機因素造成，則值應(yīng)取小一些，以減少修正幅度，使預(yù)測模型能包含更多歷史數(shù)據(jù)

10、的信息。（2）如果預(yù)測目標(biāo)的基本趨勢已發(fā)生系統(tǒng)地變化，則值應(yīng)取得大一些。這樣，可以偏重新數(shù)據(jù)的信息對原模型進行大幅度修正，以使預(yù)測模型適應(yīng)預(yù)測目標(biāo)的新變化。如何確定初值？初始值可以取前35個數(shù)據(jù)的算術(shù)平均值作為初始值。五、差分指數(shù)平滑法當(dāng)時間序列的變動具有直線趨勢時，用一次指數(shù)平滑法會出現(xiàn)滯后偏差，其原因在于數(shù)據(jù)不滿足模型要求。因此，我們也可以從數(shù)據(jù)變換的角度來考慮改進措施，即在運用指數(shù)平滑法以前先對數(shù)據(jù)作一些技術(shù)上的處理，使之能適合于一次指數(shù)平滑模型，以后再對輸出結(jié)果作技術(shù)上的返回處理，使之恢復(fù)為原變量的形態(tài)。差分方法是改變數(shù)據(jù)變動趨勢的簡易方法。5.1、一階差分指數(shù)平滑法當(dāng)時間序列呈直線增

11、加時，可運用一階差分指數(shù)平滑模型來預(yù)測。其中的為差分記號。第一個式子表示對呈現(xiàn)直線增加的序列作一階差分，構(gòu)成一個平穩(wěn)的新序列，第二個式子表示把經(jīng)過一階差分后的新序列的指數(shù)平滑預(yù)測值與變量當(dāng)前的實際值迭加，作為變量下一期的預(yù)測值。指數(shù)平滑值實際上是一種加權(quán)平均數(shù)。因此把序列中逐期增量的加權(quán)平均數(shù)（指數(shù)平滑值）加上當(dāng)前值的實際數(shù)進行預(yù)測，比一次指數(shù)平滑法只用變量以往取值的加權(quán)平均數(shù)作為下一期的預(yù)測更合理。從而使預(yù)測值始終圍繞實際值上下波動，從根本上解決了在有直線增長趨勢的情況下，用一次指數(shù)平滑法所得出的結(jié)果始終落后于實際值的問題。5.2 二階差分指數(shù)平滑模型當(dāng)時間序列呈現(xiàn)二次曲線增長時，可用二階差

12、分指數(shù)平滑模型來預(yù)測，計算公式如下：其中2表示二階差分。差分方法和指數(shù)平滑法的聯(lián)合運用，除了能克服一次指數(shù)平滑法的滯后偏差之外，對初始值的問題也有顯著的改進。因為數(shù)據(jù)經(jīng)過差分處理后，所產(chǎn)生的新序列基本上是平穩(wěn)的。這時，初始值取新序列的第一期數(shù)據(jù)對于未來預(yù)測值不會有多大影響。其次，它拓展了指數(shù)平滑法的適用范圍，使一些原來需要運用配合直線趨勢模型處理的情況可用這種組合模型來取代。但是，對于指數(shù)平滑法存在的加權(quán)系數(shù)的選擇問題，以及只能逐期預(yù)測問題，差分指數(shù)平滑模型也沒有改進。六、自適應(yīng)濾波法6.1、自適應(yīng)濾波法的基本過程自適應(yīng)濾波法與移動平均法、指數(shù)平滑法一樣，也是以時間序列的歷史觀測值進行某種加權(quán)

13、平均來預(yù)測的，它要尋找一組“最佳”的權(quán)數(shù)，其辦法是先用一組給定的權(quán)數(shù)來計算一個預(yù)測值，然后計算預(yù)測誤差，再根據(jù)預(yù)測誤差調(diào)整權(quán)數(shù)以減少誤差。這樣反進行，直至找出一組“最佳”權(quán)數(shù)，使誤差減少到最低限度。由于這種調(diào)整權(quán)數(shù)的過程與通訊工程中的傳輸噪聲過濾過程極為接近，故稱為自適應(yīng)濾波法。自適應(yīng)濾波法的基本預(yù)測公式為：其中為第t+1期的預(yù)測值，wi為第t-i+1期的觀測值權(quán)數(shù)，yt-i+1 為第期的觀測值，N為權(quán)數(shù)的個數(shù)。其調(diào)整權(quán)數(shù)的公式為:式中i=1，2， ，t=N,N+1,n,n為序列數(shù)據(jù)的個數(shù)，wi為調(diào)整前的第i個權(quán)數(shù)，為調(diào)整后的第i個權(quán)數(shù)，k為學(xué)習(xí)常數(shù)，ei+1為第t+1期的預(yù)測誤差。該式表明調(diào)

14、整后的一組權(quán)數(shù)應(yīng)等于舊的一組權(quán)數(shù)加上誤差調(diào)整項，這個調(diào)整項包括預(yù)測誤差、原觀測值和學(xué)習(xí)常數(shù)等三個因素。學(xué)習(xí)常數(shù)k的大小決定權(quán)數(shù)調(diào)整的速度。6.2N, k值和初始權(quán)數(shù)的確定在開始調(diào)整權(quán)數(shù)時，首先要確定權(quán)數(shù)個數(shù)N和學(xué)習(xí)常數(shù)k。一般說來，當(dāng)時間序列的觀測值呈季節(jié)變動時，N應(yīng)取季節(jié)性長度值。如序列以一年為周期進行季節(jié)變動時，若數(shù)據(jù)是月度的，則取 N=12，若季節(jié)是季度的，則取N=4。如果時間序列無明顯的周期變動，則可用自相關(guān)系數(shù)法來確定，即取N為最高自相關(guān)系數(shù)的滯后時期。k的取值一般可定為 1/N，也可以用不同的k值來進行計算，以確定一個能使S最小的k值。初始權(quán)數(shù)的確定也很重要，如無其它依據(jù)，也可用

15、1/N作為初始權(quán)系數(shù)用。自適應(yīng)濾波法有兩個明顯的優(yōu)點：一是技術(shù)比較簡單，可根據(jù)預(yù)測意圖來選擇權(quán)數(shù)的個數(shù)和學(xué)習(xí)常數(shù)，以控制預(yù)測。也可以由計算機自動選定。二是它使用了全部歷史數(shù)據(jù)來尋求最佳權(quán)系數(shù)，并隨數(shù)據(jù)軌跡的變化而不斷更新權(quán)數(shù)，從而不斷改進預(yù)測。由于自適應(yīng)濾波法的預(yù)測模型簡單，又可以在計算機上對數(shù)據(jù)進行處理，所以這種預(yù)測方法應(yīng)用較為廣泛。七、趨勢外推預(yù)測方法趨勢外推法是根據(jù)事物的歷史和現(xiàn)時資料，尋求事物發(fā)展規(guī)律，從而推測出事物未來狀況的一種比較常用的預(yù)測方法。利用趨勢外推法進行預(yù)測，主要包括六個階段：（a）選擇應(yīng)預(yù)測的參數(shù)；（b）收集必要的數(shù)據(jù)；（c）利用數(shù)據(jù)擬合曲線；（d）趨勢外推；（e）預(yù)測

16、說明；（f）研究預(yù)測結(jié)果在進行決策中應(yīng)用的可能性。趨勢外推法常用的典型數(shù)學(xué)模型有：指數(shù)曲線、修正指數(shù)曲線、生長曲線、包絡(luò)曲線等。7.1、指數(shù)曲線一般來說，技術(shù)的進步和生產(chǎn)的增長，在其未達(dá)飽和之前的新生時期是遵循指數(shù)曲線增長規(guī)律的，因此可以用指數(shù)曲線對發(fā)展中的事物進行預(yù)測。指數(shù)曲線的數(shù)學(xué)模型為：y=y0eKt其中系數(shù)y0和K值由歷史數(shù)據(jù)利用回歸方法求得。對該式取對數(shù)得lny=lny0+Kt，令 Y=lny，A=lny0，則Y=A+Kt?？衫米钚《朔ㄇ蟮肁和K。7.2、修正指數(shù)曲線法利用指數(shù)曲線外推來進行預(yù)測時，存在著預(yù)測值隨著時間的推移會無限增大的情況。這是不符合客觀規(guī)律的。因為任何事物的發(fā)

17、展都是有一定限度的。例如某種暢銷產(chǎn)品，在其占有市場的初期是呈指數(shù)曲線增長的，但隨著產(chǎn)品銷售量的增加，產(chǎn)品總量接近于社會飽和量時。這時的預(yù)測模型應(yīng)改用修正指數(shù)曲線。在此數(shù)學(xué)模型中有三個參數(shù) a，b，K要用歷史數(shù)據(jù)來確定。修正指數(shù)曲線用于描述這樣一類現(xiàn)象：（1）、初期增長迅速，隨后增長率逐漸降低。（2）、當(dāng)K>0,a<0,0<b<1時,t,abt0,即當(dāng)K值可預(yù)先確定時，采用最小二乘法確定模型中的參數(shù)。而當(dāng)K值不能預(yù)先確定時，應(yīng)采用三和法。把時間序列的n個觀察值等分為三部分，每部分有m期，即 m=3n第一部分：y1，y2，ym；第二部分：ym+1，ym+2，y2m；第三部分

18、：y2m+1，y2m+2，y3m；則：是否適應(yīng)修正指數(shù)曲線？檢驗方法是看給定數(shù)據(jù)的逐期增長量的比率是否接近某一常數(shù)b。即yt+1-ytyt-yt-1b7.3、Compertz曲線曲線的一般形式Compertz曲線用于描述這樣一類現(xiàn)象：初期增長緩慢，以后逐漸加快。當(dāng)達(dá)到一定程度后，增長率又逐漸下降。參數(shù)估計方法如下：對上式取對數(shù)得：記則仿照修正指數(shù)曲線的三和法估計參數(shù)，令其中則系數(shù)為是否適應(yīng)Compertz曲線？檢驗方法是看給定數(shù)據(jù)的對數(shù)逐期增長量的比率是否接近某一常數(shù)blnyt+1-lnytlnyt-lnyt-1b7.4、Logistic曲線（生長曲線）生物的生長過程經(jīng)歷發(fā)生、發(fā)展到成熟三個階

19、段，在三個階段生物的生長速度是不一樣的，例如南瓜的重量增長速度，在第一階段增長的較慢，在發(fā)展時期則突然加快，而到了成熟期又趨減慢，形成一條S形曲線，這就是有名的Logistic曲線（生長曲線），很多事物，如技術(shù)和產(chǎn)品發(fā)展進程都有類似的發(fā)展過程，因此Logistic曲線在預(yù)測中有相當(dāng)廣泛的應(yīng)用。Logistic曲線的一般數(shù)學(xué)模型是式中y為預(yù)測值，L為y的極限值，r為增長率常數(shù)， r>0Logistic曲線的一般形式為對上式做變換得仿照修正指數(shù)曲線的三和法估計參數(shù)，令則各個系數(shù)為：7.5 趨勢線的選擇趨勢線的選擇有以下幾種方式。1由散點圖選擇趨勢線。2由數(shù)據(jù)本身的取值規(guī)律選擇趨勢線。3比較預(yù)

20、測標(biāo)準(zhǔn)誤差大小當(dāng)有幾種趨勢線可供選擇時，應(yīng)選擇S最小的趨勢線。八、平穩(wěn)時間序列模型這里的平穩(wěn)是指寬平穩(wěn)，其特性是序列的統(tǒng)計特性不隨時間的平移而變化，即均值和協(xié)方差不隨時間的平移而變化。8.1、一般自回歸模型AR(n)假設(shè)時間序列Xt僅與Xt-1,Xt-2,Xt-n有線性關(guān)系，而在Xt-1,Xt-2,Xt-n已知條件下，Xt與Xt-i無關(guān)，i=n+1,n+2,。 at是一個獨立于Xt-1,Xt-2,Xt-n的白噪聲序列，atN(0,2)。Xt=1Xt-1+2Xt-2+nXt-n+at上式也可以表示為：at=Xt-1Xt-1-2Xt-2-nXt-n可見AR(n)系統(tǒng)響應(yīng)Xt具有n階動態(tài)性。ARn通

21、過把Xt中依賴于Xt-1、Xt-2、Xt-n的部分消除掉之后，使得具有n階動態(tài)性的序列Xt轉(zhuǎn)化為獨立的序列at。因此，AR(n)擬合模型的過程也就是使相關(guān)序列獨立化的過程。8.2、移動平均模型MA(m)AR(n)系統(tǒng)的特征是系統(tǒng)在t時刻的響應(yīng)Xt僅與其以前時刻的響應(yīng)Xt-1,Xt-2,Xt-n有關(guān)，而與其以前時刻進入系統(tǒng)的擾動無關(guān)。如果一個系統(tǒng)在t時刻的響應(yīng) t X，與其以前時刻的響應(yīng)Xt-1,Xt-2,Xt-n無關(guān)，而與其以前時刻進入系統(tǒng)的擾動at-1,at-2,at-m存在著一定的相關(guān)關(guān)系，那么，這一類系統(tǒng)為系統(tǒng)MA(m)。Xt=at-1at-1-2at-2-nat-m8.3、自回歸移動平

22、均模型一個系統(tǒng)，如果它在時刻t的響應(yīng)Xt，不僅與其以前時刻的自身值有關(guān)，而且還與其以前時刻進入系統(tǒng)的擾動存在一定的依存關(guān)系，那么，這個系統(tǒng)就是自回歸移動平均系統(tǒng)。ARMA(n,m)模型為Xt-1Xt-1-2Xt-2-nXt-n=at-1at-1-2at-2-nat-m對于平穩(wěn)系統(tǒng)來說，由于AR(n)、MA(m)、ARMAn,m 模型都是ARMA(n,n-1)模型的特例，我們以ARMA(n,n-1)模型為一般形式來建立時序模型。九、ARMA模型的特征在時間序列的時域分析中，線性差分方程是極為有效的工具。事實上，任何一個ARMA模型都是一個線性差分方程。9.1、AR(1)系統(tǒng)的格林函數(shù)格林函數(shù)就是描述系統(tǒng)記憶擾動程度的函數(shù)。AR(1)模型為：Xt-1Xt-n=at設(shè)Xt-1=yt，則有yt+1-1yt=at顯然這是一個一階非齊次差分方程，依次遞推下去得：Xt=j=01jat-j上式就是格林函數(shù)的解。方程解的系數(shù)函數(shù)1j客觀地描述了該系統(tǒng)的動態(tài)性，故這個系統(tǒng)函數(shù)就叫做記憶函數(shù)，也叫格林函數(shù)。不妨另Gj=1j，顯然G0=10=1。定義后移算子B，BXt=Xt-1，B2Xt=Xt-2，這樣AR(1)可寫成1-1BXt=at解為：Xt=j=0Gjat-j由于格林函數(shù)就是差分方程解的系數(shù)函