淺談多元線性回歸模型及其應用.doc

鹽城師范學院畢業(yè)論文（設計）1多元線性回歸模型的概念及基本假設1.1多元線性回歸模型的概念 多元線性回歸模型是用兩個或兩個以上的解釋變量來解釋因變量的一種模型。設為因變量，為k個用來說明的被稱為解釋變量的不同變量，其中恒等于1，則 （1）式稱為多元線性回歸模型。其中，為隨即擾動項；參數(shù)稱為回歸系數(shù)。若令，則（1）式可用矩陣形式表示為： （2）式。1.2多元線性回歸模型的基本假設1.2.1 隨機擾動項的數(shù)學期望為零即,這意味著為線性回歸模型（2）的總體回歸函數(shù)。1.2.2 隨機擾動項的方差相等即，也稱為同方差性。1.2.3 隨機擾動項和解釋變量不相關數(shù)學表達式為：。1.2.4 解釋變量之間不存在多重共線性所謂多重共線性是指解釋變量之間存在完全或近似完全的線性相關。1.2.5 隨機擾動項為服從正態(tài)分布的隨機向量2多元線性回歸模型的參數(shù)估計 要想確定多元線性回歸模型，則必須估計出回歸系數(shù)的值。在回歸分析中，使用最廣泛的方法是最小二乘法，一般稱為普通最小二乘法，即使殘差平方和最小的回歸系數(shù)的估計。設與總體回歸模型（1）式對應的樣本回歸模型為： （4）式，或用矩陣表示為：,其中為總體回歸系數(shù)的最小二乘估計，為殘差向量。根據最小二乘法的定義，在線性樣本回歸模型中，使殘差平方和最小的回歸系數(shù)的估計稱為最小二乘估計。即使最小的。其中是的轉置。為使最小，可將看作是的函數(shù)，則其關于的一階偏導數(shù)必須為零，即,因此得到方程，所以。雖然計算過程十分復雜，但是在如今的計算機時代可以運用相關的統(tǒng)計軟件（如Eviews3.0）對回歸系數(shù)進行估計。3回歸系數(shù)及回歸方程的顯著性檢驗3.1 回歸系數(shù)的顯著性檢驗 運用上面的計算方法或者通過計算機的運行可以得出回歸系數(shù)的估計，但所估計的回歸系數(shù)在給定的顯著性水平下是否具有顯著性呢？這需要給予相應的顯著性檢驗，通常是構造統(tǒng)計量。那么在進行檢驗過程中需遵循以下四個步驟：提出原假設和備擇假設：原假設，備擇假設；作統(tǒng)計量：，其中為的標準差；根據樣本數(shù)據和原假設計算統(tǒng)計量的值；將統(tǒng)計量的值與臨界值相比較，若的絕對值大于臨界值，則需拒絕原假設，說明顯著不為零。反之，則需接受原假設，說明顯著為零。3.2回歸方程的顯著性檢驗 在已知回歸系數(shù)的條件下，還需對整個回歸方程進行顯著性檢驗。在對整個回歸方程進行顯著性檢驗時通常是構造統(tǒng)計量，類似的，檢驗時仍需四個步驟：提出原假設和備擇假設：原假設，備擇假設；作統(tǒng)計量：，其中SSR為殘差平方和，SSE為回歸平方和，（k-1）,(n-k)分別為SSR，SSE的自由度；根據樣本數(shù)據和原假設計算統(tǒng)計量的值；將統(tǒng)計量的值與臨界值相比較，若的值大于臨界值，則需拒絕原假設，說明回歸方程顯著。反之，則需接受原假設，說明回歸方程不顯著。4多元線性回歸模型的應用4.1 城鄉(xiāng)居民收入差距的因素分析及數(shù)據收集4.1.1 影響城鄉(xiāng)居民收入之比的因素分析影響城鄉(xiāng)居民收入差距的因素有多種，本文考慮了七種相關的因素：a. 城鄉(xiāng)二元結構系數(shù)（） 一般是指以社會化生產為主要特點的城市經濟和以小生產為主要特點的農村經濟并存的經濟結構，我國城鄉(xiāng)二元經濟結構主要表現(xiàn)為：城市經濟以現(xiàn)代化的大工業(yè)生產為主，而農村經濟以典型的小農經濟為主。不同的生產對象必然會導致收入的差距的產生。b.城鎮(zhèn)化水平（） 指一個地區(qū)城鎮(zhèn)化所達到的程度，簡單地說就是城市人口在總人口中的比例。它是區(qū)域經濟發(fā)展程度的重要標志。一個地區(qū)城鎮(zhèn)化水平越高，則城鄉(xiāng)居民收入差距就越??；反之，就會越大。c.人均GDP增長率（） 常作為衡量經濟發(fā)展狀況的指標，是重要的宏觀經濟指標之一，將一個國家核算期內（通常是一年）實現(xiàn)的國內生產總值與這個國家的常住人口相比進行計算，得到人均國內生產總值。再將各年的人均國內生產總值進行環(huán)比計算。人均GDP增長率越高，則居民收入就越高；反之，則越低。d.財政支農比率（） 是指政府為鞏固農業(yè)的基礎地位和促進整個國民經濟的協(xié)調穩(wěn)定發(fā)展,通過財政投入、農業(yè)稅收、財政補貼等政策手段,實現(xiàn)對農業(yè)的指導、鼓勵、幫助和管理。顯然財政支農比率越高，農民的收入就越高，城鄉(xiāng)居民收入差距就越?。环粗?，差距則會越大。e.農村金融發(fā)展水平（） 農村金融在我國一般是指在縣及縣以下地區(qū)提供的存款、貸款、匯兌、保險、期貨、證券等各種金融服務，其發(fā)展目的是促進農村經濟發(fā)展。從而，農村金融發(fā)展水平越高，農村經濟發(fā)展就越好，農民的收入就越高，城鄉(xiāng)居民收入差距就越??；反之就會越大。f.產業(yè)結構（） 是指各產業(yè)的構成及各產業(yè)之間的聯(lián)系和比例關系，目前分為第一、二、三產業(yè)。第一產業(yè)僅包括農、林、牧、漁業(yè)；第二產業(yè)包括采礦業(yè)、制造業(yè)、電力、燃氣及水的生產和供應業(yè)、建筑業(yè)；第三產業(yè)包括除第一、第二產業(yè)之外的其他各行業(yè)部門。若產業(yè)結構協(xié)調發(fā)展，城鄉(xiāng)居民收入差距就會縮小，反之，就會擴大。g.就業(yè)結構（） 就業(yè)結構又稱社會勞動力分配結構，一般是指國民經濟各部門所占用的勞動數(shù)量、比例及其相互關系。這一結構考察的是就業(yè)人口在國民經濟各部門的分布，在產業(yè)結構中說到，若產業(yè)結構越協(xié)調，則就業(yè)人口在各部門的分布就越均衡，從而城鄉(xiāng)居民收入差距就越小，反之，就會越大。4.1.2 數(shù)據收集本文討論的重點是城鄉(xiāng)居民收入差距的影響因素，即城鄉(xiāng)居民收入差距代表了因變量，各影響因素就是自變量。城鄉(xiāng)居民收入差距和各影響因素的數(shù)據均以黑龍江統(tǒng)計年鑒與新中國55年統(tǒng)計資料匯編中的1978年至2008年的相應數(shù)據為準。各項具體數(shù)據如表4-1所示。表4-1 黑龍江省城鄉(xiāng)收入差距及其影響因素數(shù)據年份城鄉(xiāng)居民收入之比（%）城鄉(xiāng)二元結構系數(shù)（%）城鎮(zhèn)化水平（%）人均GDP增長率（%）財政支農比率（%）農村金融發(fā)展水平（%）產業(yè)結構（%）就業(yè)結構（%）19782.653.6335.910.3714.5119.8376.547.3619792.43.0837.35.3217.2820.7276.351.1219802.052.6438.516.8417.620.137553.2219811.892.4139.42.1617.9929.0374.754.719821.832.339.97.4817.6133.2874.455.7419831.341.974110.3717.3929.1471.556.0119841.622.034214.0315.5433.437357.0319851.862.5342.910.7413.0339.8778.358.7919861.742.343.911.9610.4935.5276.959.119871.882.6544.912.2811.6540.828060.2619881.823.0445.92010.1242.6582.961.5119892.133.7346.912.8610.6645.3485.160.5419901.592.274812.1710.7828.9277.660.419911.892.814913.918.4636.518261.8219921.722.7650.115.678.8426.5982.663.2319931.913.1151.323.738.5317.4983.461.8319941.862.4852.432.798.2216.028163.2119951.912.5453.723.05815.1781.463.2219961.732.4353.818.148.3114.6681.364.119971.772.6253.911.778.1815.7582.764.6819981.895.17543.3910.3419.3984.551.3819992.126.354.22.758.629.0386.851.1620002.297.2851.99.459.4823.4687.849.7920012.386.9352.47.318.9122.9787.249.4820022.546.7752.67.29.123.78749.6220032.667.4152.611.57.3425.3587.648.7220042.496.5552.817.027.8427.4687.551.6920052.57653.115.957.132.3887.654.0120062.595.9953.512.437.5934.6187.954.8220072.485.2253.913.86834.958756.320082.385.0855.417.588.6232.5986.956.61 數(shù)據來源：黑龍江統(tǒng)計年鑒與新中國55年統(tǒng)計資料匯編4.2 模型建立與數(shù)據處理4.2.1 建立模型根據多元線性回歸模型的定義，在經濟學上研究一個變量的變化受多個因素的影響時，往往會考慮建立多元線性回歸模型進行研究分析。綜上所述，可以以城鄉(xiāng)居民收入之比（%）Y為因變量，各影響因素為解釋變量建立多元回歸模型為：，其中，是回歸系數(shù)，表示在其他影響因素保持不變的情況下，變化一單位時城鄉(xiāng)居民收入之比（%）平均變動的單位數(shù)。為常數(shù)項，為隨機擾動項。4.2.2 數(shù)據處理本文通過計量經濟學軟件Eviews3.0和EXCEL進行分析，輸出結果見表4-2和表4-3。 表4-2 運行結果（一）Dependent Variable: YMethod: Least SquaresDate: 05/02/12 Time: 12:20Sample: 1978 2008Included observations: 31VariableCoefficientStd. Errort-StatisticProb. C0.3697552.0000200.1848760.8549X1-0.1391330.131882-1.0549820.3024X2-0.0372820.018274-2.0401470.0530X30.0124810.0066791.8688610.0744X4-0.0185760.027536-0.6745990.5067X5-0.0023080.004856-0.4754150.6390X60.0977200.0298713.2714370.0034X7-0.0680290.032470-2.0951260.0474R-squared0.841845 Mean dependent var2.063871Adjusted R-squared0.793711 S.D. dependent var0.361512S.E. of regression0.164195 Akaikin focriterion-0.557884Sum squared resid0.620083 Schwarz criterion-0.187822Log likelihood16.64720 F-statistic17.48961Durbin-Watson stat1.229259 Prob(F-statistic)0.000000表4-3 運行結果（二） 變量間的相關性YX1X2X3X4X5X6X7Y1X10.7911X20.2440.5621X3-0.143-0.2640.2701X4-0.317-0.513-0.912-0.3841X5-0.039-0.041-0.200-0.1690.0821X60.6280.8240.8450.084-0.8530.0041X7-0.672-0.6880.1440.593-0.2080.092-0.1851由表4-2可得多元線性回歸方程 （0.184876）（-1.054982）（-2.040147）（1.868861）（-0.674599）（-0.475415） （3.271437）（-2.095126） 其中是擬合優(yōu)度，值用來檢驗是否存在自相關，對回歸方程檢驗，檢驗是要檢驗總體回歸方程是否顯著，并對每個參數(shù)檢驗，檢驗是要檢驗是否對某個存在線性相關關系。不太接近于1，表明數(shù)據線性擬合程度不高，,這又說明了回歸方程是顯著的，產生矛盾。再看表4-3，觀察相關系數(shù)矩陣，發(fā)現(xiàn)城鎮(zhèn)化水平和二元結構系數(shù)、財政支農比率和二元結構系數(shù)、城鎮(zhèn)化水平和產業(yè)結構、財政支農比率和城鎮(zhèn)化水平、產業(yè)結構和財政支農比率之間的相關系數(shù)都非常高，初步斷定自變量間可能存在多重共線性。4.2.3 逐步回歸逐步回歸的基本思想是逐個引入自變量，每次引入對影響最顯著的自變量，并對方程中的老變量逐個進行檢驗，把變?yōu)椴伙@著的變量逐個從方程中剔除掉，最終得到的方程中既不漏掉對影響顯著的變量，也不包含對影響不顯著的變量。將每個解釋變量帶回原回歸方程，繼續(xù)用計量經濟學Eviews3.0先選出一個最優(yōu)的解釋變量（結果見表4-4）。表4-4 回歸結果分析（一）變量檢驗經濟意義0.626024顯著合理0.059396顯著合理0.020455顯著合理0.100342顯著合理0.001522不顯著合理0.394210顯著不合理0.451586顯著合理表中結果表明、5個解釋變量通過了檢驗并且經濟意義也比較合理，但就擬合優(yōu)度而言第一個回歸方程是最優(yōu)的，所以選擇第一個為基本回歸方程。將選出了的繼續(xù)引入其他解釋變量，用Eviews3.0選出另外的解釋變量（結果見表4-5）。表4-5 回歸結果分析（二）變量檢驗經濟意義0.685144顯著合理0.630701不顯著合理0.636901顯著合理0.626063不顯著不合理0.627827不顯著不合理0.657041顯著合理表中結果很顯然引入之后，都通過了檢驗并且經濟意義也同樣合理，但就擬合優(yōu)度而言的回歸方程是最優(yōu)的，所以選擇第一個和第二個為基本回歸方程。在基礎上繼續(xù)重新引入其他解釋變量，用Eviews3.0選出其他的解釋變量（結果見表4-6）。表4-6 回歸結果分析（三）變量檢驗經濟意義0.738091顯著不合理0.737417顯著不合理0.688727顯著合理0.756753不顯著合理0.692028不顯著不合理表中結果很明顯，在引入之后，擬合優(yōu)度進一步提高，檢驗也是顯著地，經濟意義也合理。同理將三個解釋變量也引入回歸方程。同理在基礎上得出如表4-7所示的結果。表4-7 回歸結果分析（四）變量檢驗經濟意義0.739643不顯著合理0.752217顯著不合理0.793687顯著合理0.711294顯著不合理 由表4-7結果可知在基礎上增加變量后，擬合優(yōu)度明顯提高，同樣通過了檢驗，其經濟意義也是合理的。再將四個解釋變量引入回歸方程。同理在基礎上得出如表4-8所示的結果。表4-8 回歸結果分析（五）變量檢驗經濟意義0.810116不顯著合理0.800245不顯著合理0.806465不顯著不合理由表4-8結果顯示，在基礎上增加變量后雖然擬合優(yōu)度再一次的提高，但是檢驗未能通過并且的經濟意義也不合理。因而最后的回歸結果為表4-9所示。 表4-9 運行結果（三）Dependent Variable: YMethod: Least SquaresDate: 05/02/12 Time: 15:53Sample: 1978 2008Included observations: 31VariableCoefficientStd.Errort-StatisticProb. C-1.5295081.099218-1.3914510.1759X10.0831400.0359702.3113480.0290X2-0.0574620.012569-4.5717080.0001X5-0.0091490.004241-2.1574240.0404X60.0770220.0211783.6369220.0012R-squared0.793687 Mean dependent var2.063871Adjusted R-squared0.761946 S.D. dependent var0.361512S.E. of regression0.176385 Akaikeinfo criterion-0.485609Sum squared resid0.808900 Schwarz criterion-0.254321Log likelihood12.52694 F-statistic25.00546Durbin-Watson stat0.738860 Prob(F-statistic)0.000000表4-9可見，樣本決定系數(shù)=0.794，且=25.005，顯著性值0.000，通過檢驗，擬合優(yōu)度良好。同時，由表7可知所有系數(shù)的估計值都通過了檢驗且經濟意義均合理，最后得到最優(yōu)的回歸方程：。4.3 運算