北京大學統(tǒng)計學經(jīng)典課件第四章-變量間的關系.ppt

變量間的關系,直到現(xiàn)在我們所涉及的僅僅是對一些互相沒有關系的變量的描述。但是現(xiàn)實世界的問題都是相互聯(lián)系的。不討論變量之間的關系，就無從談起任何有深度的應用；而沒有應用，前面講過的那些基本概念就僅僅是擺設而已。,變量間的關系,人們每時每刻都在關心事物之間的關系。比如，職業(yè)種類和收入之間的關系、政府投入和經(jīng)濟增長之間的關系、廣告投入和經(jīng)濟效益之間的關系、治療手段和治愈率之間的關系等等。這些都是二元的關系。還有更加復雜的諸多變量之間的相互關系，比如企業(yè)的固定資產(chǎn)、流動資產(chǎn)、預算分配、管理模式、生產(chǎn)率、債務和利潤等諸因素的關系是不能用簡單的一些二元關系所描述的。,例1廣告投入和銷售之間的關系（數(shù)據(jù)ads.sav）,這是什么關系？,這兩個變量是否有關系？顯然，它們有關系；這從散點圖就很容易看出?；旧箱N售額是隨著廣告投入的遞增而遞增。如果有關系，它們的關系是否顯著？這也可以從散點圖得到。當廣告投入在6萬元以下，銷售額增長很快；但大于這個投入時，銷售額增長就不明顯了。因此，這兩個變量的關系是由強變?nèi)?。這些關系是什么關系，是否可以用數(shù)學模型來描述？本例看上去是可以擬合一個回歸模型（后面會介紹），但絕不是線性的（用一條直線可以描述的）。具體細節(jié)需要進一步的分析,這是什么關系？,這個關系是否帶有普遍性？也就是說，僅僅這一個樣本有這樣的關系，還是對于其他企業(yè)也有類似的規(guī)律。這里的數(shù)據(jù)還不足以回答這個問題?？赡苄枰紤]更多的變量和收集更多的數(shù)據(jù)。一般來說，人們希望能夠從一些特殊的樣本，得到普遍的結論，以利于預測。這個關系是不是因果關系？在本問題中，看來有因果關系。這類似于一種試驗；而試驗時是容易找到因果關系的。但是，一般來說，變量之間有關系但絕不意味著存在因果關系。,定性變量間的關系（關于某項政策調(diào)查所得結果:table7.sav）,大致可以看出女性贊成的多，低收入贊成的多,定性和定量變量間的混和關系,假想關于高等學校的數(shù)據(jù)的一些指標包括:在校生人數(shù)(S),研究生比例(G),教師人數(shù)(F),職工人數(shù)(ST),SCI和SSCI文章數(shù)目(P),SCI和SSCI文章引用數(shù)目(Q),科研項目數(shù)(PR),科研經(jīng)費(B),總經(jīng)費及招生范圍(N)等,從這個數(shù)據(jù)很難馬上看到任何關系。但是從這個數(shù)據(jù)可以得到許多有用的關系和結論。比如，可以得到任何一個變量和其余變量之間的定量關系或者多個變量之間的定量關系（因而可以建立模型，進行預測和各種推斷）；也可以利用其中一些變量把各個高等學校分類；還可以把眾多的變量用少數(shù)幾個變量代替以利于分析和理解；此外這個數(shù)據(jù)可以作為高校排名的根據(jù)之一。所有這些都是未來章節(jié)的內(nèi)容。,相關和回歸分析,相關和回歸分析,顧客對商品和服務的反映對于商家是至關重要的,但是僅僅有滿意顧客的比例是不夠的,商家希望了解什么是影響顧客觀點的因素以及這些因素是如何起作用的。一般來說，統(tǒng)計可以根據(jù)目前所擁有的信息（數(shù)據(jù)）建立人們所關心的變量和其他有關變量的關系（稱為模型）。假如用Y表示感興趣的變量，用X表示其他可能有關的變量（可能是若干變量組成的向量）。則所需要的是建立一個函數(shù)關系Y=f(X)。這里Y稱為因變量或響應變量，而X稱為自變量或解釋變量或協(xié)變量。建立這種關系的過程就叫做回歸。,相關和回歸分析,一旦建立了回歸模型可以對各種變量的關系有了進一步的定量理解還可以利用該模型（函數(shù)）通過自變量對因變量做預測。這里所說的預測，是用已知的自變量的值通過模型對未知的因變量值進行估計；它并不一定涉及時間先后的概念。,例1有50個從初中升到高中的學生.為了比較初三的成績是否和高中的成績相關,得到了他們在初三和高一的各科平均成績(數(shù)據(jù):highschool.sav),從這張圖可以看出什么呢?,問題是,怎么判斷這兩個變量是否相關?如何相關?相關的度量是什么?進一步的問題是能否以初三成績?yōu)樽宰兞浚咭怀煽優(yōu)橐蜃兞縼斫⒁粋€回歸模型以描述這樣的關系，或用于預測。,還有定性變量,該數(shù)據(jù)中，除了初三和高一的成績之外，還有一個定性變量它是學生在高一時的家庭收入狀況；它有三個水平：低、中、高，分別在數(shù)據(jù)中用1、2、3表示。,還有定性變量,下面是對三種收入對高一成績和高一與初三成績差的盒形圖,例2這是200個不同年齡和性別的人對某項服務產(chǎn)品的認可的數(shù)據(jù)(logi.sav).年齡是連續(xù)變量,性別是有男和女(分別用1和0表示)兩個水平的定性變量,而(定性)變量“觀點”則為包含認可(用1表示)和不認可(用0表示)兩個水平的定性變量。,從這兩張圖又可以看出什么呢?,兩個定量變量的相關,如果兩個定量變量沒有關系，就談不上建立模型或進行回歸。但怎樣才能確定兩個變量有沒有關系呢?最簡單的辦法就是畫出它們的散點圖。,四組數(shù)據(jù)(每個有兩個變量的樣本)的散點圖,幾種相關的度量,Pearson相關系數(shù),又叫相關系數(shù)或線性相關系數(shù)。它一般用字母r表示.Kendallt相關系數(shù)(Kendallst)這里的度量原理是把所有的樣本點配對,看每一對中的x和y是否都增加來判斷總體模式.Spearman秩相關系數(shù),它和Pearson相關系數(shù)定義有些類似,只不過在定義中把點的坐標換成各自樣本的秩.它們各自都有以不相關為零假設的檢驗,即p-值小則相關.但各自的相關含義不盡相同.現(xiàn)在再來看例1的數(shù)據(jù)(highschool.sav).關于初三和高一成績的相關系數(shù)的結果是Pearson相關系數(shù)，Kendallt和Spearman秩相關系數(shù)分別為0.795,0.595和0.758。,定量變量的線性回歸分析,對例1中的兩個變量的數(shù)據(jù)進行線性回歸，就是要找到一條直線來最好地代表散點圖中的那些點。,檢驗問題等,對于系數(shù)b1=0的檢驗對于擬合的F檢驗R2(決定系數(shù))及修正的R2.,多個自變量的回歸,如何解釋擬合直線?,什么是逐步回歸方法?,自變量中有定性變量的回歸,例1的數(shù)據(jù)中,還有一個自變量是定性變量“收入”,以虛擬變量或啞元(dummyvariable)的方式出現(xiàn);這里收入的“低”,“中”,“高”，用1,2,3來代表.所以,如果要用這種啞元進行前面回歸就沒有道理了.以例1數(shù)據(jù)為例,可以用下面的模型來描述:,自變量中有定性變量的回歸,現(xiàn)在只要估計b0,b1,和a1,a2,a3即可。啞元的各個參數(shù)a1,a2,a3本身只有相對意義，無法三個都估計，只能夠在有約束條件下才能夠得到估計。約束條件可以有很多選擇，一種默認的條件是把一個參數(shù)設為0，比如a3=0，這樣和它有相對意義的a1和a2就可以估計出來了。對于例1，對b0,b1,a1,a2,a3的估計分別為28.708,0.688,-11.066,-4.679,0。這時的擬合直線有三條，對三種家庭收入各有一條:,SPSSS實現(xiàn)(hischool.sav),AnalizeGenerallinearmodelUnivariate，在Options中選擇ParameterEstimates，再在主對話框中把因變量（s1）選入DependentVariable，把定量自變量(j3)選入Covariate，把定量因變量（income）選入Factor中。然后再點擊Model，在SpecifyModel中選Custom，再把兩個有關的自變量選入右邊，再在下面BuildingTerm中選Maineffect。Continue-OK，就得到結果了。輸出的結果有回歸系數(shù)和一些檢驗結果。,SPSSSyntax:UNIANOVAs1BYincomeWITHj3/METHOD=SSTYPE(3)/INTERCEPT=INCLUDE/CRITERIA=ALPHA(.05)/DESIGN=incomej3.,注意,這里進行的線性回歸，僅僅是回歸的一種，也是歷史最悠久的一種。但是，任何模型都是某種近似；線性回歸當然也不另外。它被長期廣泛深入地研究主要是因為數(shù)學上相對簡單。它已經(jīng)成為其他回歸的一個基礎。總應該用批判的眼光看這些模型。,Logistic回歸,例2是關于200個不同年齡,性別的人對某項服務產(chǎn)品的觀點(二元定性變量)的數(shù)據(jù)(logi.sav).這里觀點是因變量,只有兩個值;所以可以把它看作成功概率為p的Bernoulli試驗的結果.但是和單純的Bernoulli試驗不同，這里的概率p為年齡和性別的函數(shù).可以假定下面的(logistic回歸)模型,Logistic回歸,為了循序漸近，先擬合沒有性別作為自變量（只有年齡x）的模型,Logistic模型擬合結果,依靠計算機，很容易得到b0和b1的估計分別為0.520和-0.069。擬合的模型為,Logistic模型擬合結果,再加上性別變量進行擬合,得到的b0,b1和a0,a1的估計(同樣事先確定為a1=0)分別為1.722,-0.072,1.778,0.可以看出年齡影響對男女混和時(0.069)差不多,而女性相對于男性認可的可能性大(a0-a1=1.778)。,擬合的年齡-概率圖,SPSSS實現(xiàn)(logi.sav),AnalizeRegressionBinaryLogistic，再把因變量(opinion)選入DependentVariable，把自變量（age和sex）選入Covaria