多元線性回歸分析(5)參考幻燈片

1、1,第十五章 多元線性回歸分析,(Multiple Linear Regression),2,Multiple linear regression Choice of independent variable Application,Content,3,講述內(nèi)容 第一節(jié) 多元線性回歸 第二節(jié) 自變量選擇方法 第三節(jié) 多元線性回歸的應(yīng)用 及其注意事項,4,目的：作出以多個自變量估計應(yīng)變量的多元線性回歸方程。 資料：應(yīng)變量為定量指標(biāo)；自變量全部或大部分為定量指標(biāo)，若有少量定性或等級指標(biāo)需作轉(zhuǎn)換。 用途：解釋和預(yù)報。 意義：由于事物間的聯(lián)系常常是多方面的，一個應(yīng)變量的變化可能受到其它多個自變量的影響

2、，如糖尿病人的血糖變化可能受胰島素、糖化血紅蛋白、血清總膽固醇、甘油三脂等多種生化指標(biāo)的影響。,5,第一節(jié) 多元線性回歸,6,變量：應(yīng)變量 1 個，自變量m 個，共 m+1 個。 樣本含量：n 數(shù)據(jù)格式見表15-1 回歸模型一般形式：,一、多元線性回歸模型,7,表15-1 多元回歸分析數(shù)據(jù)格式,條件,8,一般步驟,建立回歸方程,(2)檢驗并評價回歸方程 及各自變量的作用大小,9,二、多元線性回歸方程的建立,例15-1 27名糖尿病人的血清總膽固醇、甘油三脂、空腹胰島素、糖化血紅蛋白、空腹血糖的測量值列于表15-2中，試建立血糖與其它幾項指標(biāo)關(guān)系的多元線性回歸方程。,10,表15-2 27名糖尿

3、病人的血糖及有關(guān)變量的測量結(jié)果,11,求偏導(dǎo)數(shù),原 理 最小二乘法,12,三、假設(shè)檢驗及其評價,1. 方差分析法：,（一）對回歸方程,13,表15-4 例15-1的方差分析表,表15-3 多元線性回歸方差分析表,14,2. 決定系數(shù)R 2：,15,3.復(fù)相關(guān)系數(shù),16,（二）對各自變量 指明方程中的每一個自變量對Y的影響（即方差分析和決定系數(shù)檢驗整體）。,1. 偏回歸平方和,17,18,表15-5 對例15-1數(shù)據(jù)作回歸分析的部分中間結(jié)果,各自變量的偏回歸平方和可以通過擬合包含不同自變量的回歸方程計算得到，表15-5給出了例15-1數(shù)據(jù)分析的部分中間結(jié)果。,19,結(jié) 果,20,2. t 檢驗法

4、 是一種與偏回歸平方和檢驗完全等價的一種方法。計算公式為,21,結(jié) 果,結(jié) 論,22,3標(biāo)準(zhǔn)化回歸系數(shù) 變量標(biāo)準(zhǔn)化是將原始數(shù)據(jù)減去相應(yīng)變量的均數(shù)，然后再除以該變量的標(biāo)準(zhǔn)差。,計算得到的回歸方程稱作標(biāo)準(zhǔn)化回歸方程，相應(yīng)的回歸系數(shù)即為標(biāo)準(zhǔn)化回歸系數(shù)。,23,注意： 一般回歸系數(shù)有單位，用來解釋各自變量對應(yīng)變量的影響，表示在其它自變量保持不變時， 增加或減少一個單位時Y的平均變化量 。不能用各 來比較各 對 的影響大小。 標(biāo)準(zhǔn)化回歸系數(shù)無單位，用來比較各自變量對應(yīng)變量的影響大小， 越大， 對 的影響越大。,24,結(jié) 論,25,第二節(jié)自變量選擇方法,目的：使得預(yù)報和（或）解釋效果好,26,一、全局擇優(yōu)

5、法,目的：預(yù)報效果好 意義：對自變量各種不同的組合所建立 的回歸方程進行比較 擇優(yōu)。 選擇方法：,27,28,29,例15-2 用全局擇優(yōu)法對例15-1數(shù)據(jù)的自變量進行選擇。,30,二、逐步選擇法,1.,1.前進法，回歸方程中的自變量從無到有、從少到多逐個引入回歸方程。此法已基本淘汰。 2.后退法，先將全部自變量選入方程，然后逐步剔除無統(tǒng)計學(xué)意義的自變量。 剔除自變量的方法是在方程中選一個偏回歸平方和最小的變量，作F檢驗決定它是否剔除，若無統(tǒng)計學(xué)意義則將其剔除，然后對剩余的自變量建立新的回歸方程。重復(fù)這一過程，直至方程中所有的自變量都不能剔除為止。理論上最好，建議使用采用此法。 3.逐步回歸法

6、，逐步回歸法是在前述兩種方法的基礎(chǔ)上，進行雙向篩選的一種方法。該方法本質(zhì)上是前進法。,31,32,表15-7 逐步回歸過程,33,表15-8 例15-3方差分析表,“最優(yōu)”回歸方程為,結(jié)果表明：血糖的變化與甘油三脂、胰島素和糖化血紅蛋白有線性回歸關(guān)系，其中與胰島素負相關(guān)。由標(biāo)準(zhǔn)化回歸系數(shù)看出，糖化血紅蛋白對空腹血糖的影響最大。,34,表15-9 例15-3的回歸系數(shù)的估計及檢驗結(jié)果,35,第三節(jié),多元線性回歸的應(yīng)用及注意事項,36,一、多元線性回歸的應(yīng)用,37,1. 影響因素分析,例如影響高血壓的因素可能有年齡、飲食習(xí)慣、吸煙狀況、工作緊張度和家族史等，在影響高血壓的眾多可疑因素中，需要研究哪

7、些因素有影響，哪些因素影響較大。,38,在臨床試驗中，則可能由于種種原因難以保證各組的指標(biāo)基線相同，如在年齡、病情等指標(biāo)不一致出現(xiàn)混雜的情況下，如何對不同的治療方法進行比較等。 這些問題都可以利用回歸分析來處理。控制混雜因素(confounding factor)的一個簡單辦法就是將其引入回歸方程中，與其他主要變量一起進行分析,39,2. 估計與預(yù)測,如由兒童的心臟橫徑、心臟縱徑和心臟寬徑估計心臟的表面積；由胎兒的孕齡、頭頸、胸徑和腹徑預(yù)測出生兒體重等。,40,3. 統(tǒng)計控制 逆估計。,例如采用射頻治療儀治療腦腫瘤，腦皮質(zhì)的毀損半徑與射頻溫度及照射時間有線性回歸關(guān)系，建立回歸方程后可以按預(yù)先給

8、定的腦皮質(zhì)毀損半徑，確定最佳控制射頻溫度和照射時間。,41,二、多元線性回歸應(yīng)用的注意事項,1指標(biāo)的數(shù)量化,分2類，可用一個（0，1）變量。如性別,分k類，k-1個（0，1）變量，如血型。,42,數(shù)據(jù)格式回歸方程,建立回歸方程,b1 ：相當(dāng)A 型相對于O 型的差別 b2 ：相當(dāng)B 型相對于O 型的差別 b3 ：相當(dāng)AB 型相對于O 型的差別,43,（3）等級 定量。 一般是將等級從弱到強轉(zhuǎn)換為 （或 ）如文化程度分為小學(xué)、中學(xué)、大學(xué)、 大學(xué)以上四個等級。Y為經(jīng)濟收入。,解釋：b(b1)反映X（X1） 增加1個單位， 增加b個單位（如：500元）。 表示中學(xué)文化較小學(xué)收入多500， 大學(xué)較中學(xué)多

9、500，余類推。,44,45,2樣本含量: n =(510)m。 3關(guān)于逐步回歸: 對逐步回歸得到的結(jié)果不要盲目的信任，所謂的“最優(yōu)”回歸方程并不一定是最好的，沒有選入方程的變量也未必沒有統(tǒng)計學(xué)意義。例如，例15-3中若將選入標(biāo)準(zhǔn)和剔除標(biāo)準(zhǔn)定為 和 選入的變量是 ， 而不是 ， 結(jié)果發(fā)生了改變。 不同回歸方程適應(yīng)于不同用途，依專業(yè)知識定。,46,4. 多重共線性 即指一些自變量之間存在較強的線性關(guān)系。如高血壓與年齡、吸煙年限、飲白酒年限等，這些自變量通常是高度相關(guān)的，有可能使通過最小二乘法建立回歸方程失效，引起下列一些不良后果： （1）參數(shù)估計值的標(biāo)準(zhǔn)誤變得很大，從而t值變得很小。 （2）回歸