線性相關(guān)與回歸分析

1、第十章相關(guān)與回歸分析第一節(jié)簡單線性相關(guān)分析一、簡單線性相關(guān)（直線相關(guān)）的概念：二、相關(guān)關(guān)系的種類：（一）按相關(guān)程度劃分可分為完全相關(guān)、不完全相關(guān)、和不相關(guān)（二）按相關(guān)方向劃分可分為正相關(guān)和負(fù)相關(guān)（三）按相關(guān)的形式劃分可分為線形相關(guān)和非線形相關(guān)（四）按變量多少劃分可分為單相關(guān)、復(fù)相關(guān)和偏相關(guān)三、相關(guān)分析相關(guān)分析一樣能夠借助相關(guān)系數(shù)與相關(guān)圖來進(jìn)行相關(guān)分析。（一）相關(guān)系數(shù)1 .簡單相關(guān)系數(shù)的含義反映兩個變量之間線性相關(guān)緊密程度和相關(guān)方向的統(tǒng)計(jì)測定，它是其他相關(guān)系數(shù)形成的基礎(chǔ)。2 .簡單相關(guān)系數(shù)的計(jì)算.z-（）WOE或化簡為：一，立'（）3 .相關(guān)系數(shù)的性質(zhì)（1）相關(guān)系數(shù)的取值范圍在-1和+1

2、之間，即：-lWrWlo（2）計(jì)算結(jié)果，假設(shè)r為正，那么說明兩變量為正相關(guān)；假設(shè)r為負(fù)，那么說明兩變量為負(fù)相關(guān)。（3）相關(guān)系數(shù)r的數(shù)值越接近于1（-1或+1）,表示相關(guān)系數(shù)越強(qiáng)；越接近于0,表示相關(guān)系數(shù)越弱。若是或-1,那么表示兩個現(xiàn)象完全直線性相關(guān)。若是0,那么表示兩個現(xiàn)象完全不相關(guān)（不是直線相關(guān)）。（4）判定兩變量線性相關(guān)緊密程度的具體標(biāo)準(zhǔn)為：0<|/j<0,3,稱為微弱相關(guān)；0.3<|r|<0,5,稱為低度相關(guān)；0.5<|/j<0,8,稱為顯著相關(guān)；0.84|vl稱為高度相關(guān)。（二）相關(guān)圖相關(guān)圖又稱散點(diǎn)圖。它是以直角坐標(biāo)系的橫軸代表標(biāo)量X,縱軸代表標(biāo)量

3、Y,將兩個變量間相對應(yīng)的變量值用坐標(biāo)點(diǎn)的形式刻畫出來,用來反映兩變量之間相關(guān)關(guān)系的圖形。四.相關(guān)系數(shù)的假設(shè)查驗(yàn)1 .目的：相關(guān)系數(shù)查驗(yàn)的目的是判定兩變量的整體是不是有相關(guān)關(guān)系。查驗(yàn)樣本相關(guān)系數(shù)r是不是整體相關(guān)系數(shù)為0的整體，如概率P<，以為兩變量存在相關(guān)關(guān)系。2 .方式：有t查驗(yàn)和查表法。（1） t查驗(yàn)法：統(tǒng)計(jì)量計(jì)算為：v 二 n-2（2）查表法:是直接查相關(guān)系數(shù)界值表取得相應(yīng)的概率po統(tǒng)計(jì)量r絕對值越大，p越小。第二節(jié)簡單線性回歸分析一、回歸分析的概念與種類二、一元線性回歸1 .一元線性回歸模型丁=自+用+£2 .一元線性回歸方程Y=abX3 .回歸模型的前提條件1）線性：是

4、指反映變量Y的整體平均值與自變量X呈線性關(guān)系;2）獨(dú)立性：任意兩個觀看值之間彼此獨(dú)立；3）正態(tài)性：是指關(guān)于給定的X值，其對應(yīng)的Y值的整體和線性模型的誤差項(xiàng)£均服從正態(tài)散布；（£均服從均數(shù)為0的正態(tài)散布）4）等方差性：不管X如何取值，Y都有相同的方差。4 .回歸方程的查驗(yàn)回歸方程的顯著性查驗(yàn)查驗(yàn)自變量和因變量之間的線性關(guān)系是不是顯著。具體方式是將回歸離差平方和（SS同剩余離差平方和（S組加以比較，應(yīng)用尸查驗(yàn)來分析二者之間的不同是不是顯著，若是是顯著的，兩個變量之間存在線性關(guān)系；若是不顯著，兩個變量之間不存在線性關(guān)系。SS總=SS回+SS剩SS呵為回歸平方和，它反映在Y的總變異

5、中，由于X與Y的直線關(guān)系，而使得Y變異減小的部份，也即在總平方和中能夠用X說明的部份。SS回越大，說明回歸成效越好。SS制為剩余平方和，它反映X對Y的線性阻礙之外的因素，對Y的總變異的阻礙，也即在總平方和中無法用X說明的部份。SS利越小,說明直線回歸的估量誤差越小?；貧w系數(shù)的顯著性查驗(yàn)bt=關(guān)于一元線性回歸，回歸方程的顯著性查驗(yàn)與回歸系數(shù)的顯著性查驗(yàn)是等價的。可通過方差分析或t查驗(yàn)進(jìn)行。三、相關(guān)與回歸分析應(yīng)用注意事項(xiàng)2.直線相關(guān)與回歸的區(qū)別與聯(lián)系（1）區(qū)別：相關(guān)分析耍求兩個變量均服從正態(tài)散布，而回歸分析那么有兩種不同的模型。I型回歸:定x后對y進(jìn)行測量,y須服從正態(tài)散布；II型回歸:x,y均須

6、服從正態(tài)散布,如體重依身高的變更關(guān)系。關(guān)于同一資料，只能計(jì)算一個相關(guān)系數(shù)，而H型回歸能夠計(jì)算由x推y和由y推x的兩個回歸方程,但二者不是反函數(shù)的關(guān)系?；貧w反映兩變量間的依存關(guān)系，相關(guān)反映兩變量間的彼此關(guān)系。有相關(guān)聯(lián)系不必然是因果聯(lián)系。（2）聯(lián)系：同一資料r與b符號相同。同一資料r與b的假設(shè)查驗(yàn)結(jié)果是等價的。r與b能夠相互換算。相關(guān)是彼此關(guān)系，兩邊向,-1WrW+1,無單位，有相關(guān)不必然有回歸；回歸是依存關(guān)系，單方向，無窮，有單位，有回歸必然有相關(guān)。第三節(jié)秩相關(guān)秩相關(guān)又稱品級相關(guān)，是一種用品級數(shù)據(jù)進(jìn)行直線相關(guān)分析的非參數(shù)統(tǒng)計(jì)方式，適用于雙變量不服從正態(tài)散布的資料；整體散布型未知；品級資料或無確切

7、數(shù)值資料。秩相關(guān)用品級相關(guān)系數(shù)二表示緊密程度及方向。其取值范圍為-1WrW+1；r>0為正相關(guān)，r<0為負(fù)相關(guān)；尸0,表示無線性相關(guān)關(guān)系,為零相關(guān)。第十一章多重線性回歸一.大體概念：多重線性回歸的概念：1 .多重線性回歸是研究多個自變量與一個因變量之間線性依存關(guān)系的方式。2 .多重線性相關(guān)（復(fù)相關(guān)）是研究多個變量與一個變量線性相關(guān)關(guān)系的方式。3 .多元線性回歸是研究多個自變量與多個因變量線性依存關(guān)系的方式。4 .多元線性相關(guān)是研究多個變量與多個變量之間線性相關(guān)關(guān)系的方式。5 .偏相關(guān)是研究在多個變量中排除其它變量阻礙后一變量與另一變量的相關(guān)關(guān)系。二、多重線性回歸模型1 .意義：多重

8、線性回歸模型用于研究一個被說明變量（因變量）受多個說明變量（自變量）的阻礙，多重線性回歸模型與一元線性回歸模型大體類似，只只是說明變量由一個增加到兩個以上，被說明變量y與多個說明變量如a之間存在線性關(guān)系。2 .模型與方程: 假定被說明變量y與多個說明變量xi,x2Xk之間具有線性關(guān)系，成立多重線性回歸模型為:)'=)+月內(nèi)+外士+,+功+£(一元y=A0+gx+£)其中y為被說明變量，為k個說明變量，也為偏（部份）回歸系數(shù),£為隨機(jī)誤差項(xiàng)。 被說明變量y的期望值與說明變量x的多重線性回歸方程為:Y=a+bX+b2X2+-+bkXk 參數(shù)估量的方式：一樣需要

9、運(yùn)算機(jī)軟件完成。如以兒子身高為因變量，父、母身高和體育鍛煉次數(shù)為自變量，成立方程如下:Y=+ .多重線性回歸模型的假設(shè)（條件）：1、因變量Y和說明變量X之間是線性關(guān)系；2、X是自變量，并在兩個或多個自變量之間沒有精準(zhǔn)的線性關(guān)系；3、誤差項(xiàng)的所有觀測值的期望值為0,方差相等；4、誤差項(xiàng)的觀測值之間彼此獨(dú)立，不相關(guān)；5、誤差項(xiàng)服從正態(tài)散布。三、參數(shù)與參數(shù)估量：1 .參數(shù)估量方式：參數(shù)估量方式是最小二乘法。一樣用統(tǒng)計(jì)軟件完成。2 .偏回歸系數(shù)£,（幻：表示除工外的其他自變量固按時，工改變一個單位后F的平均轉(zhuǎn)變。3 .標(biāo)準(zhǔn)回歸系數(shù)：偏回歸系數(shù)因各自變量值的單位不同,不能直接比較其大小。對變量

10、值作標(biāo)準(zhǔn)化變換，取得的回歸系數(shù)為標(biāo)準(zhǔn)回歸系數(shù)，可直接比較其大小，反映各自變量對因變量的奉獻(xiàn)大小。四、多重回歸的假設(shè)查驗(yàn)：1.回歸方程（模型）的假設(shè)查驗(yàn)：查驗(yàn)?zāi)Ｐ褪遣皇浅闪?，或方程是不是成心義。（1）方差分析：（2）整體復(fù)相關(guān)系數(shù)的假設(shè)查驗(yàn)：2 .回歸系數(shù)的假設(shè)查驗(yàn)：_Z?,-0'=SE（bJ3 .確信系數(shù)計(jì)算：確信系數(shù)為：/=2=1一號SSTSSTSST=sse+SSR總離差平方和二殘差平方和+回歸平方和R表示總變差中由多元回歸方程“說明”的比例；正可說明模型的擬合優(yōu)度，殘差平方和越小，決定系數(shù)越接近1,回歸方程的擬合程度越好。四.回歸分析中的變量挑選：五.多重回歸分析的要緊用途：六.多重回歸分析的一樣步驟：七.多重相關(guān)和偏相關(guān)：應(yīng)用條件：同簡單線性相關(guān)一樣，僅當(dāng)人,乂，y為多元正態(tài)散布的隨機(jī)變量時才能考慮相關(guān)分析。i.復(fù)相關(guān)系數(shù)（多重相關(guān)系數(shù)）：多重相關(guān)的實(shí)質(zhì)確實(shí)是y的實(shí)際觀看值與由個自變量預(yù)測的）值的相關(guān)。也既復(fù)相關(guān)系數(shù)反映一個因變量與一組自變量之間的相關(guān)程度。前而計(jì)算的確信系數(shù)是y與v相關(guān)系數(shù)的平方，那么復(fù)相關(guān)系數(shù)確實(shí)是確信系數(shù)的平方根。r2 .偏相關(guān)系數(shù)(部份相關(guān)系數(shù))：部份相關(guān)系數(shù)反映校正其它變量后某一變量與另一變量的相關(guān)關(guān)系，校正的意思能夠明白得為