多元回歸分析SPSS

1、多元線性回歸分析預(yù)測法,多元線性回歸分析法）多元線性回歸分析預(yù)測法（Multifactorlineregressionmethod編輯多元線性回歸分析預(yù)測法概述在市場的經(jīng)濟(jì)活動中，經(jīng)常會遇到某一市場現(xiàn)象的發(fā)展和變化取決于幾個(gè)影響因素的情況，也就是一個(gè)因變量和幾個(gè)自變量有依存關(guān)系的情況。而且有時(shí)幾個(gè)影響因素主次難以區(qū)分，或者有的因素雖屬次要，但也不能略去其作用。例如，某一商品的銷售量既與人口的增長變化有關(guān)，也與商品價(jià)格變化有關(guān)。這時(shí)采用一元回歸分析預(yù)測法進(jìn)行預(yù)測是難以奏效的，需要采用多元回歸分析預(yù)測法。多元回歸分析預(yù)測法，是指通過對兩上或兩個(gè)以上的自變量與一個(gè)因變量的相關(guān)分析，建立預(yù)測模型進(jìn)行預(yù)

2、測的方法。當(dāng)自變量與因變量之間存在線性關(guān)系時(shí)，稱為多元線性回歸分析。編輯多元線性回歸的計(jì)算模型1一元線性回歸是一個(gè)主要影響因素作為自變量來解釋因變量的變化，在現(xiàn)實(shí)問題研究中，因變量的變化往往受幾個(gè)重要因素的影響，此時(shí)就需要用兩個(gè)或兩個(gè)以上的影響因素作為自變量來解釋因變量的變化，這就是多元回歸亦稱多重回歸。當(dāng)多個(gè)自變量與因變量之間是線性關(guān)系時(shí)，所進(jìn)行的回歸分析就是多元性回歸。設(shè)y為因變量，工二力一卜為自變量，并且自變量與因變量之間為線性關(guān)系時(shí)，則多元線性回歸模型為：y=M+bill+MsH1-bm+e其中，bo為常數(shù)項(xiàng)，如如氏:為回歸系數(shù)，bi為工2盧3S固定時(shí)，X1每增加一個(gè)單位對y的效應(yīng)，即

3、xi對y的偏回歸系數(shù)；同理b2為'工自固定時(shí)，X2每增加一個(gè)單位對y的效應(yīng)，即，X2對y的偏回歸系數(shù)，等等。如果兩個(gè)自變量xi,X2同一個(gè)因變量y呈線相關(guān)時(shí)，可用二元線性回歸模型描述為：y=M+山丁1+加工？H1-尻割+e其中，b。為常數(shù)項(xiàng)，瓦？®顯為回歸系數(shù)，b為工2,2戶W固定時(shí)，X2每增加一個(gè)單位對y的效應(yīng)，即X2對y的偏回歸系數(shù)，等等。如果兩個(gè)自變量Xi,X2同一個(gè)因變量y呈線相關(guān)時(shí)，可用二元線性回歸模型描述為：y=bo+biXi+b2X2+e建立多元性回歸模型時(shí)，為了保證回歸模型具有優(yōu)良的解釋能力和預(yù)測效果，應(yīng)首先注意自變量的選擇，其準(zhǔn)則是：(1)自變量對因變量必須

4、有顯著的影響，并呈密切的線性相關(guān)；(2)自變量與因變量之間的線性相關(guān)必須是真實(shí)的，而不是形式上的；(3)自變量之彰應(yīng)具有一定的互斥性，即自變量之彰的相關(guān)程度不應(yīng)高于自變量與因變量之因的相關(guān)程度；(4)自變量應(yīng)具有完整的統(tǒng)計(jì)數(shù)據(jù)，其預(yù)測值容易確定。多元性回歸模型的參數(shù)估計(jì)，同一元線性回歸方程一樣，也是在要求誤差平方和為最小的前提下，用最小二乘法求解參數(shù)。以二線性回歸模型為例，求解回歸參數(shù)的標(biāo)準(zhǔn)方程組為£=兀M+瓦£叫+%力啊£工1目=即£皿+瓦+電£編評=ME叫+瓦£叫及I出工若解此方程可求得b。，b,的數(shù)值。亦可用下列矩陣法求得b（*

5、工）""（i'v）多元線性回歸模型的檢驗(yàn)1多元性回歸模型與一元線性回歸模型一樣，在得到參數(shù)的最小二乘法的估計(jì)值之后，也需要進(jìn)行必要的檢驗(yàn)與評價(jià)，以決定模型是否可以應(yīng)用1、擬合程度的測定與一元線性回歸中可決系數(shù)r2相對應(yīng)，多元線性回歸中也有多重可決系數(shù)r2,它是在因變量的總變化中，由回歸方程解釋的變動（回歸平方和）所占的比重，R越大，回歸方各對樣本數(shù)據(jù)點(diǎn)擬合的程度越強(qiáng)，所有自變量與因變量的關(guān)系越密切。計(jì)算公式為：H-£(e/-irE(y-y7其中,匯®。產(chǎn)一（如2y+瓦+&工工叫+員£/第£(y-u)2=£/-

6、!(£y)zJr£2 .估計(jì)標(biāo)準(zhǔn)誤差估計(jì)標(biāo)準(zhǔn)誤差，即因變量y的實(shí)際值與回歸方程求出的估計(jì)值g之間的標(biāo)準(zhǔn)誤差，估計(jì)標(biāo)準(zhǔn)誤差越小，回歸方程擬合程度越程其中，k為多元線性回歸方程中的自變量的個(gè)數(shù)。3 .回歸方程的顯著性檢驗(yàn)回歸方程的顯著性檢驗(yàn)，即檢驗(yàn)整個(gè)回歸方程的顯著性，或者說評價(jià)所有自變量與因變量的線性關(guān)系是否密切。能常采用F檢驗(yàn)，F(xiàn)統(tǒng)計(jì)量的計(jì)算公式為：E(0一9尸/左E(y-8尸加-k-1(1-R2)/n-k-1根據(jù)給定的顯著水平a,自由度（k,n-k-1）查F分布表，得到相應(yīng)的臨界值Fa,若F>Fa,則回歸方程具有顯著意義，回歸效果顯著；F<Fa,則回歸方程無顯

7、著意義，回歸效果不顯著。4 .回歸系數(shù)的顯著性檢驗(yàn)在一元線性回歸中，回3系數(shù)顯著性檢驗(yàn)（t檢3）與回歸方程的顯著性檢驗(yàn)（F檢驗(yàn)）是等價(jià)的，但在多元線性回歸中，這個(gè)等價(jià)不成立。t檢驗(yàn)是分別檢驗(yàn)回歸模型中各個(gè)回歸系數(shù)是否具有顯著性，以便使模型中只保留那些對因變量有顯著影響的因素。檢驗(yàn)時(shí)先計(jì)算統(tǒng)計(jì)量t，;然后根據(jù)給定的顯著水平a,自由度n-k-1查t分布表，得臨界值3或1司2,t>t-a或ta12,則回歸系數(shù)b與0有顯著關(guān)異，反之，則與0無顯著差異。統(tǒng)計(jì)量t的計(jì)算公式為：其中，G是多元線性回歸方程中求解回歸系數(shù)矩陣的逆矩陣（x'x）-1的主對角線上的第j個(gè)元素。對二元線性回歸而言，可用

8、下列公式計(jì)算:其中，I£=E（t2-,x2）2=E-Ex2）2I'S12='（為-電）（6-電）=S2i£加亞-均）£»5 .多重共線性判別若某個(gè)回歸系數(shù)的t檢驗(yàn)通不過，可能是這個(gè)系數(shù)相對應(yīng)的自變量對因變量的影平不顯著所致，此時(shí)，應(yīng)從回歸模型中剔除這個(gè)自變量，重新建立更為簡單的回歸模型或更換自變量。也可能是自變量之間有共線性所致，此時(shí)應(yīng)設(shè)法降低共線性的影響。多重共線性是指在多元線性回歸方程中，自變量之彰有較強(qiáng)的線性關(guān)系，這種關(guān)系若超過了因變量與自變量的線性關(guān)系，則回歸模型的穩(wěn)定性受到破壞，回歸系數(shù)估計(jì)不準(zhǔn)確。需要指出的是，在多元回歸模型中

9、，多重共線性的難以避免的，只要多重共線性不太嚴(yán)重就行了。判別多元線性回歸方程是否存在嚴(yán)懲的多重共線性，可分別計(jì)算每兩個(gè)自變量之間的可決系數(shù)r2,若r2>R或接近于R,則應(yīng)設(shè)法降低多重線性的影響。亦可計(jì)算自變量間的相關(guān)系數(shù)矩陣的特征值的條件數(shù)k=入i/入p（入i為最大特征值，入p為最小特征值）,k<100,則不存在多重點(diǎn)共線性；若100<k<1000,則自變量間存在較強(qiáng)的多重共線性，若k>1000,則自變量間存在嚴(yán)重的多重共線性。降低多重共線性的辦法主要是轉(zhuǎn)換自變量的取值，如變絕對數(shù)為相對數(shù)或平均數(shù)，或者更換其他的自變量。6 .檢驗(yàn)當(dāng)回歸模型是根據(jù)動態(tài)數(shù)據(jù)建立的，則

10、誤差項(xiàng)e也是一個(gè)時(shí)間序列，若誤差序列諸項(xiàng)之間相互獨(dú)立，則誤差序列各項(xiàng)之間沒有相關(guān)關(guān)系，若誤差序列之間存在密切的相關(guān)關(guān)系，則建立的回歸模型就不能表述自變量與因變量之間的真實(shí)變動關(guān)系。檢驗(yàn)就是誤差序列的自相關(guān)檢驗(yàn)。檢驗(yàn)的方法與一元線性回歸相同。編輯多元線性回歸分析預(yù)測法案例分析編輯案例一：公路客貨運(yùn)輸量多元線性回歸預(yù)測方法探討2一、背景公路客、貨運(yùn)輸量的定量預(yù)測，近幾年來在我國公路運(yùn)輸領(lǐng)域大面積廣泛地開展起來，并有效的促進(jìn)了公路運(yùn)輸經(jīng)營決策的科學(xué)化和現(xiàn)代化。關(guān)于公路客、貨運(yùn)輸量的定量預(yù)測方法很多，本文主要介紹多元線性回歸方法在公路客貨運(yùn)輸量預(yù)測中的具體操作。根據(jù)筆者先后參加的部、省、市的科研課題的

11、實(shí)踐，證明了多元線性回歸方法是對公路客、貨運(yùn)輸量預(yù)測的一種置信度較高的有效方法。二、多元線性回歸預(yù)測線性回歸分析法是以相關(guān)性原理為基礎(chǔ)的.相關(guān)性原理是預(yù)測學(xué)中的基本原理之一。由于公路客、貨運(yùn)輸量受社會經(jīng)濟(jì)有關(guān)因素的綜合影響。所以，多元線性回歸預(yù)測首先是建立公路客、貨運(yùn)輸量與其有關(guān)影響因素之間線性關(guān)系的數(shù)學(xué)模型。然后通過對各影響因素未來值的預(yù)測推算出公路客貨運(yùn)輸量的預(yù)測值。三、公路客、貨運(yùn)輸量多元線性回歸預(yù)測方法的實(shí)施步驟1 .影響因素的確定影響公路客貨運(yùn)輸量的因素很多，主要包括以下一些因素：(1)客運(yùn)量影響因素人口增長量褲保有量、國民生產(chǎn)總值、國民收入工農(nóng)業(yè)總產(chǎn)值，基本建設(shè)投資額城鄉(xiāng)居民儲蓄額

12、鐵路和水運(yùn)客運(yùn)量等。(2)貨運(yùn)量影響因素人口貨車保有量(包括拖拉機(jī))，國民生產(chǎn)總值，國民收入、工農(nóng)業(yè)總產(chǎn)值，基本建設(shè)投資額，主要工農(nóng)業(yè)產(chǎn)品產(chǎn)量，社會商品購買力，社會商品零售總額.鐵路和水運(yùn)貨運(yùn)量菩。上述影響因素僅是對一般而言，在針對具體研究對象時(shí)會有所增減。因此，在建立模型時(shí)只須列入重要的影響因素，對于非重要因素可不列入模型中。若疏漏了某些重要的影響因素，則會造成預(yù)測結(jié)果的失真。另外，影響因素太少會造成模型的敏感性太強(qiáng).反之，若將非重要影響因素列入模型，則會增加計(jì)算工作量，使模型的建立復(fù)雜化并增大隨機(jī)誤差。影響因素的選擇是建立預(yù)測模型首要的關(guān)鍵環(huán)節(jié)，可采取定性和定量相結(jié)合的方法進(jìn)行.影響因素的

13、確定可以通過專家調(diào)查法，其目的是為了充分發(fā)揮專家的聰明才智和經(jīng)驗(yàn)。具體做法就是通過對長期從事該地區(qū)公路運(yùn)輸企業(yè)和運(yùn)輸管理部門的領(lǐng)導(dǎo)干部、專家、工作人員和行家進(jìn)行調(diào)查?？赏ㄟ^組織召開座談會.也可以通過采訪，填寫調(diào)查表等方法進(jìn)行，從中選出主要影響因素為了避免影響因素確定的隨意性，提高回歸模型的精度和減少預(yù)測工作量，可通過查閱有關(guān)統(tǒng)計(jì)資料后，再對各影響因素進(jìn)行相關(guān)度(或關(guān)聯(lián)度)和共線性分析，從而再次篩選出最主要的影響因素.所謂相關(guān)度分析就是將各影響因素的時(shí)間序列與公路客貨運(yùn)量的時(shí)間序列做相關(guān)分杯事先確定一個(gè)相關(guān)系數(shù)，對相關(guān)系數(shù)小于的影響因素進(jìn)行淘汰.關(guān)聯(lián)度是灰色系統(tǒng)理論中反映事物發(fā)展變化過程中各因素

14、之間的關(guān)聯(lián)程度，可通過建空公路客、貨運(yùn)量與各影響影響因素之間關(guān)聯(lián)系數(shù)矩陣，按一定的標(biāo)準(zhǔn)系數(shù)舍去關(guān)聯(lián)度小的影響因素.所謂共線性是指某些影響因素之問存在著線性關(guān)系或接近于線性關(guān)系.由于公路運(yùn)輸經(jīng)濟(jì)自身的特點(diǎn)，影響公路客，貨運(yùn)輸量的諸多因素之問總是存在著一定的相關(guān)性，持別是與國民經(jīng)濟(jì)有關(guān)的一些價(jià)值型指標(biāo)。我們研究的不是有無相關(guān)性問題而是共線性的程度，如果影響因素之間的共線性程度很高，首先會降低參數(shù)估計(jì)值的精度。其次在回歸方程建立后的統(tǒng)計(jì)檢驗(yàn)中導(dǎo)致舍去重要的影響因素或錯(cuò)誤的地接受無顯著影響的因素，從而使整個(gè)預(yù)測工作失去實(shí)際意義。關(guān)于共線性程度的判定，可利用逐步分析估計(jì)法的數(shù)理統(tǒng)計(jì)理論編制計(jì)算機(jī)程序來實(shí)

15、現(xiàn)?；蛘咄ㄟ^比較rj和R的大小來判定。在預(yù)測學(xué)上，一般認(rèn)為當(dāng)rj>R時(shí)，共線性是嚴(yán)重的，其含義是，多元線性回歸方程中所含的任意兩個(gè)自變量x，,x1之間的相關(guān)系數(shù)rj大于或等于該方程的樣本可決系數(shù)R時(shí)，說明自變量中存在著嚴(yán)重的共線性問題。2 .建立經(jīng)驗(yàn)線性回歸方程利用最小二乘法原理尋求使誤差平方和達(dá)到撮小的經(jīng)驗(yàn)線性回歸方程：，''''''y預(yù)測的客、貨運(yùn)量g各主要影響因數(shù)3 .數(shù)據(jù)整理對收集的歷年客、貨運(yùn)輸量和各主要影響因素的統(tǒng)計(jì)資料進(jìn)行審核和加工整理是為了保證預(yù)測工作的質(zhì)量。資料整理主要包括下列內(nèi)容：(1)資料的補(bǔ)缺和推算。(2)對不可靠資

16、料加以核實(shí)調(diào)整.對查明原因的異常值加以修正。(3)對時(shí)間序列中不可比的資料加以調(diào)整和規(guī)范化；對按當(dāng)年價(jià)格計(jì)算的價(jià)值指標(biāo)應(yīng)折算成按統(tǒng)。4 .多元線性回歸模型的參數(shù)估計(jì)在經(jīng)驗(yàn)線性回歸模型中，口一，口是要估計(jì)的參數(shù)，可通過數(shù)理統(tǒng)計(jì)理論建立模型來確定。在實(shí)際預(yù)測中，可利用多元線性回歸復(fù)相關(guān)分析的計(jì)算機(jī)程序來實(shí)現(xiàn)-5.對模型參數(shù)的估計(jì)值進(jìn)行檢驗(yàn)。此項(xiàng)工作的目的在于判定估計(jì)值是否滿意、可靠。一般檢驗(yàn)工作須從以下幾方面來進(jìn)行。經(jīng)濟(jì)意義檢驗(yàn)關(guān)于經(jīng)濟(jì)預(yù)測的數(shù)學(xué)模型，首先要檢驗(yàn)?zāi)Ｐ褪欠裼薪?jīng)濟(jì)意義，丫p若參數(shù)估計(jì)值的符號和大小與公路運(yùn)輸經(jīng)濟(jì)發(fā)展以及經(jīng)濟(jì)判別不符合時(shí)，這時(shí)所估計(jì)的模型就不能或很難解釋公路運(yùn)輸經(jīng)濟(jì)的一般

17、發(fā)展規(guī)律.就應(yīng)拋棄這個(gè)模型.需要重新構(gòu)造模型或重新挑選影響因素。統(tǒng)計(jì)檢驗(yàn)統(tǒng)計(jì)檢驗(yàn)是數(shù)理統(tǒng)計(jì)理論的重要內(nèi)容，用于檢驗(yàn)?zāi)Ｐ凸烙?jì)值的可靠性。通常，在公路客、貨運(yùn)量預(yù)測中應(yīng)采用的統(tǒng)計(jì)檢驗(yàn)是：擬合度檢驗(yàn)所謂擬合度是指所建立的模型與觀察的實(shí)際情況軌跡是否吻合、接近，接近到什么程度。統(tǒng)計(jì)學(xué)是通過構(gòu)造統(tǒng)計(jì)量R2來量度的，R可由樣本數(shù)據(jù)計(jì)算得出。若建立的模型愈接近于實(shí)際，則RA2愈接近于1?；貧w方程的顯著性檢驗(yàn)回歸方程的顯著性檢驗(yàn)是通過方差分析構(gòu)造統(tǒng)計(jì)量F來進(jìn)行的，統(tǒng)計(jì)量F是通過樣本數(shù)據(jù)計(jì)算得出的。當(dāng)給定某一置信度后，可以通過查閱F表來確定回歸模型從總體效果來看是否可以采納。參數(shù)估計(jì)值的標(biāo)準(zhǔn)差檢驗(yàn)估計(jì)值的標(biāo)準(zhǔn)差

18、是衡量估計(jì)值與真實(shí)參數(shù)值的離差的一種量度。參數(shù)的標(biāo)準(zhǔn)差越大，估計(jì)值參數(shù)值標(biāo)準(zhǔn)差的檢的可靠性也就越??；反之，如果標(biāo)準(zhǔn)差越小，那么估計(jì)值的可靠性也就越大。驗(yàn)，可以通過構(gòu)造大統(tǒng)計(jì)量來進(jìn)行量度。當(dāng)給定某一置信度后，可以通過查表來確定模型中某個(gè)參數(shù)估計(jì)值的可靠性。應(yīng)當(dāng)強(qiáng)調(diào)指出.統(tǒng)計(jì)檢驗(yàn)相對于經(jīng)濟(jì)意義檢驗(yàn)來說是第二位的。如果經(jīng)濟(jì)意義檢驗(yàn)不合理，那么即使統(tǒng)計(jì)檢驗(yàn)可以達(dá)到很高的置信度，也應(yīng)當(dāng)拋棄這種估計(jì)結(jié)果，因?yàn)橛眠@樣的結(jié)果來進(jìn)行經(jīng)濟(jì)預(yù)測是沒有意義的。6 .最優(yōu)回歸方程的確定經(jīng)過上述的經(jīng)濟(jì)意義和統(tǒng)計(jì)檢驗(yàn)后，挑選出的線性回歸方程往往是好幾個(gè)、為了從中優(yōu)選出用于進(jìn)行實(shí)際預(yù)測的方程，我們可以采用定性和定量相結(jié)合的辦

19、法。從數(shù)理統(tǒng)計(jì)的原理來講，應(yīng)挑選方程的剩余均方和S-E較小為好.但作為經(jīng)濟(jì)預(yù)刪還必須盡量考慮到方程中的影響因素更切合實(shí)際和其未來值更易把握的原則來綜合考慮。當(dāng)然、有時(shí)也可以從中挑選出好幾個(gè)較優(yōu)的回歸方程.通過預(yù)測后，分別作為不同的高、中、低方案以供決策人員選擇。7 .模型的實(shí)際預(yù)測檢驗(yàn)在獲得模型參數(shù)估計(jì)值后，又經(jīng)過了上述一系列檢驗(yàn)而選出的最優(yōu)(或較優(yōu))回歸方程，還必須對模型的預(yù)測能力加以檢驗(yàn)。不難理解、最優(yōu)回歸方程對于樣本期間來說是正確的，但是對用于實(shí)際預(yù)測是否合適呢為此，還必須研究參數(shù)估計(jì)值的穩(wěn)定性及相對于樣本容量變化時(shí)的靈敏度，也必須研究確定估計(jì)出來的模型是否可以用于樣本觀察值以外的范國，

20、其具休做法是：(1)采用把增大樣本容量以后模型估計(jì)的結(jié)果與原來的估計(jì)結(jié)果進(jìn)行比較，并檢驗(yàn)其差異的顯著性。(2)把估計(jì)出來的模型用于樣本以外某一時(shí)間的實(shí)際預(yù)測，并將這個(gè)預(yù)測值與實(shí)際的觀察值作一比較，然后檢驗(yàn)其差異的顯著性。8 .模型的應(yīng)用公路客、貨運(yùn)輸量多元線性回歸預(yù)測模型的研究目的主要有以下幾個(gè)方面。(1)進(jìn)行結(jié)構(gòu)分析，研究影響該地區(qū)的公路客、貨運(yùn)輸量的主耍因素和各影響因素影響程度的大小，進(jìn)一步探討該地區(qū)公路運(yùn)輸經(jīng)濟(jì)理論。(2)預(yù)測該地區(qū)今后年份的公路客、貨運(yùn)輸量的變化，以便為公路運(yùn)輸市場、公路運(yùn)輸政策及公路運(yùn)輔建設(shè)項(xiàng)目投資作出正確決策提供理論依據(jù)。另外，還可以通過公路客.貨運(yùn)輸量與公路交通量作相關(guān)分析來對公路的飽和度發(fā)展趨勢進(jìn)行預(yù)測。從而為公路的新建、擴(kuò)建項(xiàng)目的投資提供決策分析。(3)模擬各種經(jīng)濟(jì)政策下的經(jīng)濟(jì)效果，以便對有關(guān)政策進(jìn)行評價(jià)。四、經(jīng)調(diào)查分析，影響某地區(qū)旅客運(yùn)輸量的因素為。x國民收入X2工農(nóng)業(yè)總產(chǎn)值X3社會總產(chǎn)值X"人口X5客車保有量X6城鄉(xiāng)居民儲蓄存款經(jīng)計(jì)算得下列相關(guān)系數(shù)表：XiX2X3X"X5X6Y8743Z3646Y客運(yùn)盈Z旅客周轉(zhuǎn)量若令a=，則可以舍去K這個(gè)影響因索，也就是認(rèn)為“城鄉(xiāng)居民儲蓄存款”不能作為響旅客運(yùn)輸量的主要因素。2