線性相關(guān)與回歸分析

1、第十章相關(guān)與回歸分析第一節(jié)簡單線性相關(guān)分析一、簡單線性相關(guān)（直線相關(guān)）的概念：二、相關(guān)關(guān)系的種類：（一）按相關(guān)程度劃分可分為完全相關(guān)、不完全相關(guān)、和不相關(guān)（二）按相關(guān)方向劃分可分為正相關(guān)和負相關(guān)（三）按相關(guān)的形式劃分可分為線形相關(guān)和非線形相關(guān)（四）按變量多少劃分可分為單相關(guān)、復(fù)相關(guān)和偏相關(guān)三、相關(guān)分析相關(guān)分析一樣能夠借助相關(guān)系數(shù)與相關(guān)圖來進行相關(guān)分析。（一）相關(guān)系數(shù)1 .簡單相關(guān)系數(shù)的含義反映兩個變量之間線性相關(guān)緊密程度和相關(guān)方向的統(tǒng)計測定，它是其他相關(guān)系數(shù)形成的基礎(chǔ)。2 .簡單相關(guān)系數(shù)的計算.z-（）WOE或化簡為：一，立'（）3 .相關(guān)系數(shù)的性質(zhì)（1）相關(guān)系數(shù)的取值范圍在-1和+1

2、之間，即：-lWrWlo（2）計算結(jié)果，假設(shè)r為正，那么說明兩變量為正相關(guān)；假設(shè)r為負，那么說明兩變量為負相關(guān)。（3）相關(guān)系數(shù)r的數(shù)值越接近于1（-1或+1）,表示相關(guān)系數(shù)越強；越接近于0,表示相關(guān)系數(shù)越弱。若是或-1,那么表示兩個現(xiàn)象完全直線性相關(guān)。若是0,那么表示兩個現(xiàn)象完全不相關(guān)（不是直線相關(guān)）。（4）判定兩變量線性相關(guān)緊密程度的具體標準為：0<|/j<0,3,稱為微弱相關(guān)；0.3<|r|<0,5,稱為低度相關(guān)；0.5<|/j<0,8,稱為顯著相關(guān)；0.84|vl稱為高度相關(guān)。（二）相關(guān)圖相關(guān)圖又稱散點圖。它是以直角坐標系的橫軸代表標量X,縱軸代表標量

3、Y,將兩個變量間相對應(yīng)的變量值用坐標點的形式刻畫出來,用來反映兩變量之間相關(guān)關(guān)系的圖形。四.相關(guān)系數(shù)的假設(shè)查驗1 .目的：相關(guān)系數(shù)查驗的目的是判定兩變量的整體是不是有相關(guān)關(guān)系。查驗樣本相關(guān)系數(shù)r是不是整體相關(guān)系數(shù)為0的整體，如概率P<，以為兩變量存在相關(guān)關(guān)系。2 .方式：有t查驗和查表法。（1） t查驗法：統(tǒng)計量計算為：v 二 n-2（2）查表法:是直接查相關(guān)系數(shù)界值表取得相應(yīng)的概率po統(tǒng)計量r絕對值越大，p越小。第二節(jié)簡單線性回歸分析一、回歸分析的概念與種類二、一元線性回歸1 .一元線性回歸模型丁=自+用+£2 .一元線性回歸方程Y=abX3 .回歸模型的前提條件1）線性：是

4、指反映變量Y的整體平均值與自變量X呈線性關(guān)系;2）獨立性：任意兩個觀看值之間彼此獨立；3）正態(tài)性：是指關(guān)于給定的X值，其對應(yīng)的Y值的整體和線性模型的誤差項£均服從正態(tài)散布；（£均服從均數(shù)為0的正態(tài)散布）4）等方差性：不管X如何取值，Y都有相同的方差。4 .回歸方程的查驗回歸方程的顯著性查驗查驗自變量和因變量之間的線性關(guān)系是不是顯著。具體方式是將回歸離差平方和（SS同剩余離差平方和（S組加以比較，應(yīng)用尸查驗來分析二者之間的不同是不是顯著，若是是顯著的，兩個變量之間存在線性關(guān)系；若是不顯著，兩個變量之間不存在線性關(guān)系。SS總=SS回+SS剩SS呵為回歸平方和，它反映在Y的總變異

5、中，由于X與Y的直線關(guān)系，而使得Y變異減小的部份，也即在總平方和中能夠用X說明的部份。SS回越大，說明回歸成效越好。SS制為剩余平方和，它反映X對Y的線性阻礙之外的因素，對Y的總變異的阻礙，也即在總平方和中無法用X說明的部份。SS利越小,說明直線回歸的估量誤差越小?；貧w系數(shù)的顯著性查驗bt=關(guān)于一元線性回歸，回歸方程的顯著性查驗與回歸系數(shù)的顯著性查驗是等價的。可通過方差分析或t查驗進行。三、相關(guān)與回歸分析應(yīng)用注意事項2.直線相關(guān)與回歸的區(qū)別與聯(lián)系（1）區(qū)別：相關(guān)分析耍求兩個變量均服從正態(tài)散布，而回歸分析那么有兩種不同的模型。I型回歸:定x后對y進行測量,y須服從正態(tài)散布；II型回歸:x,y均須

6、服從正態(tài)散布,如體重依身高的變更關(guān)系。關(guān)于同一資料，只能計算一個相關(guān)系數(shù)，而H型回歸能夠計算由x推y和由y推x的兩個回歸方程,但二者不是反函數(shù)的關(guān)系?；貧w反映兩變量間的依存關(guān)系，相關(guān)反映兩變量間的彼此關(guān)系。有相關(guān)聯(lián)系不必然是因果聯(lián)系。（2）聯(lián)系：同一資料r與b符號相同。同一資料r與b的假設(shè)查驗結(jié)果是等價的。r與b能夠相互換算。相關(guān)是彼此關(guān)系，兩邊向,-1WrW+1,無單位，有相關(guān)不必然有回歸；回歸是依存關(guān)系，單方向，無窮，有單位，有回歸必然有相關(guān)。第三節(jié)秩相關(guān)秩相關(guān)又稱品級相關(guān)，是一種用品級數(shù)據(jù)進行直線相關(guān)分析的非參數(shù)統(tǒng)計方式，適用于雙變量不服從正態(tài)散布的資料；整體散布型未知；品級資料或無確切

7、數(shù)值資料。秩相關(guān)用品級相關(guān)系數(shù)二表示緊密程度及方向。其取值范圍為-1WrW+1；r>0為正相關(guān)，r<0為負相關(guān)；尸0,表示無線性相關(guān)關(guān)系,為零相關(guān)。第十一章多重線性回歸一.大體概念：多重線性回歸的概念：1 .多重線性回歸是研究多個自變量與一個因變量之間線性依存關(guān)系的方式。2 .多重線性相關(guān)（復(fù)相關(guān)）是研究多個變量與一個變量線性相關(guān)關(guān)系的方式。3 .多元線性回歸是研究多個自變量與多個因變量線性依存關(guān)系的方式。4 .多元線性相關(guān)是研究多個變量與多個變量之間線性相關(guān)關(guān)系的方式。5 .偏相關(guān)是研究在多個變量中排除其它變量阻礙后一變量與另一變量的相關(guān)關(guān)系。二、多重線性回歸模型1 .意義：多重

8、線性回歸模型用于研究一個被說明變量（因變量）受多個說明變量（自變量）的阻礙，多重線性回歸模型與一元線性回歸模型大體類似，只只是說明變量由一個增加到兩個以上，被說明變量y與多個說明變量如a之間存在線性關(guān)系。2 .模型與方程: 假定被說明變量y與多個說明變量xi,x2Xk之間具有線性關(guān)系，成立多重線性回歸模型為:)'=)+月內(nèi)+外士+,+功+£(一元y=A0+gx+£)其中y為被說明變量，為k個說明變量，也為偏（部份）回歸系數(shù),£為隨機誤差項。 被說明變量y的期望值與說明變量x的多重線性回歸方程為:Y=a+bX+b2X2+-+bkXk 參數(shù)估量的方式：一樣需要

9、運算機軟件完成。如以兒子身高為因變量，父、母身高和體育鍛煉次數(shù)為自變量，成立方程如下:Y=+ .多重線性回歸模型的假設(shè)（條件）：1、因變量Y和說明變量X之間是線性關(guān)系；2、X是自變量，并在兩個或多個自變量之間沒有精準的線性關(guān)系；3、誤差項的所有觀測值的期望值為0,方差相等；4、誤差項的觀測值之間彼此獨立，不相關(guān)；5、誤差項服從正態(tài)散布。三、參數(shù)與參數(shù)估量：1 .參數(shù)估量方式：參數(shù)估量方式是最小二乘法。一樣用統(tǒng)計軟件完成。2 .偏回歸系數(shù)£,（幻：表示除工外的其他自變量固按時，工改變一個單位后F的平均轉(zhuǎn)變。3 .標準回歸系數(shù)：偏回歸系數(shù)因各自變量值的單位不同,不能直接比較其大小。對變量

10、值作標準化變換，取得的回歸系數(shù)為標準回歸系數(shù)，可直接比較其大小，反映各自變量對因變量的奉獻大小。四、多重回歸的假設(shè)查驗：1.回歸方程（模型）的假設(shè)查驗：查驗?zāi)Ｐ褪遣皇浅闪?，或方程是不是成心義。（1）方差分析：（2）整體復(fù)相關(guān)系數(shù)的假設(shè)查驗：2 .回歸系數(shù)的假設(shè)查驗：_Z?,-0'=SE（bJ3 .確信系數(shù)計算：確信系數(shù)為：/=2=1一號SSTSSTSST=sse+SSR總離差平方和二殘差平方和+回歸平方和R表示總變差中由多元回歸方程“說明”的比例；正可說明模型的擬合優(yōu)度，殘差平方和越小，決定系數(shù)越接近1,回歸方程的擬合程度越好。四.回歸分析中的變量挑選：五.多重回歸分析的要緊用途：六.多重回歸分析的一樣步驟：七.多重相關(guān)和偏相關(guān)：應(yīng)用條件：同簡單線性相關(guān)一樣，僅當(dāng)人,乂，y為多元正態(tài)散布的隨機變量時才能考慮相關(guān)分析。i.復(fù)相關(guān)系數(shù)（多重相關(guān)系數(shù)）：多重相關(guān)的實質(zhì)確實是y的實際觀看值與由個自變量預(yù)測的）值的相關(guān)。也既復(fù)相關(guān)系數(shù)反映一個因變量與一組自變量之間的相關(guān)程度。前而計算的確信系數(shù)是y與v相關(guān)系數(shù)的平方，那么復(fù)相關(guān)系數(shù)確實是確信系數(shù)的平方根。r2 .偏相關(guān)系數(shù)(部份相關(guān)系數(shù))：部份相關(guān)系數(shù)反映校正其它變量后某一變量與另一變量的相關(guān)關(guān)系，校正的意思能夠明白得為