第3章-廣義線性模型

主編：費(fèi)宇中國(guó)人民大學(xué)出版社2023/9/51.第3章廣義線性模型3.1廣義線性模型概述3.2Logistic模型3.3對(duì)數(shù)線性模型2023/9/52.3.1

廣義線性模型概述第2章我們研究了多元線性模型,該模型的一個(gè)重要假定是因變量是連續(xù)型的變量(通常假定服從正態(tài)分布),但在許多情況下,這種假定并不合理,例如下面這兩種情況.(1)結(jié)果變量可能是類(lèi)型變量.二值分類(lèi)變量和多分類(lèi)變量.(比如:是/否,差/一般/良好/優(yōu)秀等)顯然都不是連續(xù)型變量.2023/9/53.3.1廣義線性模型概述(2)結(jié)果變量可能是計(jì)數(shù)型變量(比如:一周交通事故的數(shù)目)這類(lèi)變量都是非負(fù)的有限值,而且它們的均值和方差通常是相關(guān)的(一般線性模型假定因變量是正態(tài)變量,而且相互獨(dú)立).普通線性回歸模型(2.3)假定因變量y服從正態(tài)分布,其均值滿(mǎn)足關(guān)系式:μ=Xβ,這表明因變量的條件均值是自變量的線性組合.本章介紹兩種常見(jiàn)的廣義線性模型:Logistic模型與對(duì)數(shù)線性模型.2023/9/54.3.1廣義線性模型概述1.廣義線性模型的定義：(1)隨機(jī)成分:設(shè)y1,y2,…,yn是來(lái)自于指數(shù)分布族的隨機(jī)樣本,即yi的密度函數(shù)為其中ai(.),b(.),ci(.)是已知函數(shù),參數(shù)αi是典則參數(shù),?是散度參數(shù).2023/9/55.1.廣義線性模型的定義：(2)聯(lián)結(jié)函數(shù):設(shè)yi的均值為μi而函數(shù)m(.)是單調(diào)可微的聯(lián)接函數(shù),使得其中是協(xié)變量,是未知參數(shù)向量.2023/9/56.指數(shù)分布族正態(tài)分布二項(xiàng)分布泊松分布2023/9/57.2.正態(tài)線性回歸模型正態(tài)分布屬于指數(shù)分布族,其密度函數(shù)為與(3.1)對(duì)照可知2023/9/58.2.正態(tài)線性回歸模型只要取聯(lián)結(jié)函數(shù)為,則正態(tài)線性回歸模型滿(mǎn)足廣義線性模型的定義.類(lèi)似的,容易驗(yàn)證,二項(xiàng)分布和泊松分布都屬于指數(shù)分布族.下面介紹實(shí)際中應(yīng)用廣泛的兩種廣義線性模型:Logistic模型和對(duì)數(shù)線性模型.2023/9/59.3.2Logistic模型1.模型定義 設(shè)yi服從參數(shù)為pi的二項(xiàng)分布,則μi=E(yi)=pi采用邏輯聯(lián)結(jié)函數(shù),即這個(gè)廣義線性模型稱(chēng)為L(zhǎng)ogistic模型.2023/9/510.例3.1(數(shù)據(jù)文件為eg3.1)表3.1某地區(qū)45個(gè)家庭的調(diào)查數(shù)據(jù)2023/9/511.2.模型的參數(shù)估計(jì)和檢驗(yàn)采用R軟件中的廣義線性模型過(guò)程glm()可以完成回歸系數(shù)的估計(jì),以及模型回歸系數(shù)的顯著性檢驗(yàn).程序如下：#eg3.1廣義線性模型:Logistic模型#打開(kāi)數(shù)據(jù)文件eg3.1.xls,選取A1:B46區(qū)域,然后復(fù)制data3.1<-read.table("clipboard",header=T)#將eg3.1.xls數(shù)據(jù)讀入到data3.1中g(shù)lm.logit<-glm(y~x,family=binomial,data=data3.1)#建立y關(guān)于x的logistic回歸#模型,數(shù)據(jù)為data3.1summary(glm.logit)#模型匯總,給出模型回歸系數(shù)的估計(jì)和顯著性檢驗(yàn)等yp<-predict(glm.logit,data.frame(x=15))p.fit<-exp(yp)/(1+exp(yp));p.fit#估計(jì)x=15時(shí)y=1的概率2023/9/512.運(yùn)行以上程序可得如下結(jié)果：Call:glm(formula=y~x,family=binomial,data=data3.1)DevianceResiduals:Min1QMedian3QMax-1.21054-0.054980.000000.004331.87356Coefficients:EstimateStd.ErrorzvaluePr(>|z|)(Intercept)-21.280210.5203-2.0230.0431*x1.64290.83311.9720.0486*Signif.codes:0‘***’0.001‘**’0.01‘*’0.05‘.’0.1‘’1(Dispersionparameterforbinomialfamilytakentobe1)Nulldeviance:62.3610on44degreesoffreedomResidualdeviance:6.1486on43degreesoffreedomAIC:10.149NumberofFisherScoringiterations:92023/9/513.2.模型的參數(shù)估計(jì)和檢驗(yàn)>yp<-predict(glm.logit,data.frame(x=15))>p.fit<-exp(yp)/(1+exp(yp));p.fit#估計(jì)x=15時(shí)y=1的概率10.9665418容易看出:回歸模型的回歸系數(shù)在5%水平上顯著,于是得回歸模型為當(dāng)x=15時(shí),估計(jì)y=1的概率約為0.97,即年收入為15萬(wàn)元的家庭有私家車(chē)的可能性約為97%.2023/9/514.3.3對(duì)數(shù)線性模型1.模型的定義設(shè)y服從參數(shù)λ為的泊松分布,則μ=E(y)=λ,采用對(duì)數(shù)聯(lián)結(jié)函數(shù),即這個(gè)廣義線性模型稱(chēng)為泊松對(duì)數(shù)線性模型.2023/9/515.例3.2(數(shù)據(jù)文件為eg3.2)表3.4

Breslow癲癇數(shù)據(jù)2023/9/516.例3.2(數(shù)據(jù)文件為eg3.2)這個(gè)數(shù)據(jù)是robust包中的Breslow癲癇數(shù)據(jù)(Breslow,1993).我們討論在治療初期的八周內(nèi),癲癇藥物對(duì)癲癇發(fā)病數(shù)的影響,響應(yīng)變量為八周內(nèi)癲癇發(fā)病數(shù)(y),預(yù)測(cè)變量為前八周內(nèi)的基礎(chǔ)發(fā)病次數(shù)(x1),年齡(x2)和治療條件(x3),其中治療條件是二值變量,x3=0表示服用安慰劑,x3=1表示服用藥物.根據(jù)這個(gè)數(shù)據(jù)建立泊松對(duì)數(shù)線性模型并對(duì)模型的系數(shù)進(jìn)行顯著性檢驗(yàn).2023/9/517.表3.2Breslow癲癇數(shù)據(jù)Nox1x2x3yNox1x2x3y1113101431192017211300143210301133625011331918119483601334242411156622055353130174…………………………284722053581336102976181425912371103038321282023/9/518.2.模型的參數(shù)估計(jì)和檢驗(yàn)采用R軟件中的廣義線性模型過(guò)程glm()來(lái)建立泊松對(duì)數(shù)線性模型并對(duì)模型的系數(shù)進(jìn)行顯著性檢驗(yàn).程序如下：#eg3.2廣義線性模型:泊松對(duì)數(shù)線性模型#打開(kāi)數(shù)據(jù)文件eg3.2.xls,選取A1:E60區(qū)域,然后復(fù)制data3.2<-read.table(“clipboard”,header=T)#將eg3.2.xls數(shù)據(jù)讀入到data3.2中g(shù)lm.ln<-glm(y~x1+x2+x3,family=poisson(link=log),data=data3.2)#建立y關(guān)于#x1,x2,x3的泊松對(duì)數(shù)線性模型summary(glm.ln)#模型匯總,給出模型回歸系數(shù)的估計(jì)和顯著性檢驗(yàn)等2023/9/519.運(yùn)行以上程序可得如下結(jié)果：Call:glm(formula=y~x1+x2+x3,family=poisson(link=log),data=data3.2)DevianceResiduals:Min1QMedian3QMax-6.0569-2.0433-0.93970.792911.0061Coefficients:EstimateStd.ErrorzvaluePr(>|z|)(Intercept)1.94882590.135619114.370<2e-16***x10.02265170.000509344.476<2e-16***x20.02274010.00402405.6511.59e-08***x3-0.15270090.0478051-3.1940.0014**Signif.codes:0‘***’0.001‘**’0.01‘*’0.05‘.’0.1‘’1(Dispersionparameterforpoissonfamilytakentobe1)Nulldeviance:2122.73on58degreesoffreedomResidualdeviance:559.44on55degreesoffreedomAIC:850.71NumberofFisherScoringiterations:52023/9/520.2.模型的參數(shù)估計(jì)和檢驗(yàn)于是得回歸模型:從檢驗(yàn)結(jié)果可以看出:x1和x2的系數(shù)都顯著,說(shuō)明基礎(chǔ)發(fā)病次數(shù)(x1),年齡(x2)和治療條件(x3)對(duì)八周內(nèi)癲癇發(fā)病數(shù)(y)重要影響.年齡(x2)的回歸系數(shù)為0.0227,表明保持其他預(yù)測(cè)變量不變,年齡增加1歲,癲癇發(fā)病數(shù)的對(duì)數(shù)均值將相應(yīng)的增加0.0227.2023/9/521.2.模型的參數(shù)估計(jì)和檢驗(yàn)在因變量的初始尺度(癲癇發(fā)病數(shù),而不是癲癇發(fā)病數(shù)的對(duì)數(shù))上解釋回歸系數(shù)比較容易,因此,指數(shù)化系數(shù):可以看出:保持其他預(yù)測(cè)變量不變,年