應(yīng)用回歸分析-第2章課后習(xí)題參考答案

2.1 一元線性回歸模型有哪些基本假定？答：1. 解釋變量 是非隨機變量，觀測值是常數(shù)。2. 等方差及不相關(guān)的假定條件為 這個條件稱為高斯-馬爾柯夫(Gauss-Markov)條件，簡稱G-M條件。在此條件下，便可以得到關(guān)于回歸系數(shù)的最小二乘估計及誤差項方差估計的一些重要性質(zhì)，如回歸系數(shù)的最小二乘估計是回歸系數(shù)的最小方差線性無偏估計等。 3. 正態(tài)分布的假定條件為 在此條件下便可得到關(guān)于回歸系數(shù)的最小二乘估計及估計的進(jìn)一步結(jié)果，如它們分別是回歸系數(shù)的最及的最小方差無偏估計等，并且可以作回歸的顯著性檢驗及區(qū)間估計。4. 通常為了便于數(shù)學(xué)上的處理，還要求及樣本容量的個數(shù)要多于解釋變量的個數(shù)。 在整個回歸分析中，線性回歸的統(tǒng)計模型最為重要。一方面是因為線性回歸的應(yīng)用最廣泛；另一方面是只有在回歸模型為線性的假設(shè)下，才能的到比較深入和一般的結(jié)果；再就是有許多非線性的回歸模型可以通過適當(dāng)?shù)霓D(zhuǎn)化變?yōu)榫€性回歸問題進(jìn)行處理。因此，線性回歸模型的理論和應(yīng)用是本書研究的重點。1. 如何根據(jù)樣本求出及方差的估計;2. 對回歸方程及回歸系數(shù)的種種假設(shè)進(jìn)行檢驗；3. 如何根據(jù)回歸方程進(jìn)行預(yù)測和控制，以及如何進(jìn)行實際問題的結(jié)構(gòu)分析。2.2 考慮過原點的線性回歸模型 誤差仍滿足基本假定。求的最小二乘估計。答：令即解得即的最小二乘估計為2.3 證明：Q (，)= (-)2 因為Q (,)=min Q (, )而Q (, ) 非負(fù)且在上可導(dǎo),當(dāng)Q取得最小值時，有即-2(-)=0 -2(-) =0又=-( +)= - =0， =0（即殘差的期望為0，殘差以變量x的加權(quán)平均值為零）2.4 解：參數(shù)0，1的最小二乘估計與最大似然估計在iN(0, 2 ) i=1,2，n的條件下等價。 證明：因為 所以 其最大似然函數(shù)為 已知使得Ln（L）最大的，就是，的最大似然估計值。 即使得下式最小 ： 因為恰好就是最小二乘估計的目標(biāo)函數(shù)相同。 所以，在 的條件下， 參數(shù)0，1的最小二乘估計與最大似然估計等價。2.5.證明是的無偏估計。 證明：若要證明是的無偏估計，則只需證明E()=。 因為，的最小二乘估計為 其中E()=E()=E()=E =E =E()+E()+E() 其中=由于=0，所以= =)=0又因為一元線性回歸模型為所以E()=0所以E()+E()+E( = =所以是的無偏估計。2.6 解：因為 ， ， 聯(lián)立 式，得到。 因為，所以 2.7 證明平方和分解公式：SST=SSE+SSR證明：2.8 驗證三種檢驗的關(guān)系，即驗證：（1）；（2）證明：（1）因為，所以又因為，所以故 得證。（2）2.9 驗證（2.63）式： 證明： 其中： 注：各個因變量是獨立的隨機變量 2.10 用第9題證明是的無偏估計量 證明： 注：2.11驗證證明：所以有以上表達(dá)式說明r 與F 等價，但我們要分別引入這兩個統(tǒng)計量，而不是只引入其中一個。理由如下：r 與F，n都有關(guān)，且當(dāng)n較小時，r較大，尤其當(dāng)n趨向于2時，|r|趨向于1，說明x與y的相關(guān)程度很高；但當(dāng)n趨向于2或等于2時，可能回歸方程并不能通過F的顯著性檢驗，即可能x與y都不存在顯著的線性關(guān)系。所以，僅憑r較大并不能斷定x與y之間有密切的相關(guān)關(guān)系，只有當(dāng)樣本量n較大時才可以用樣本相關(guān)系數(shù)r判定兩變量間的相關(guān)程度的強弱。 F檢驗檢驗是否存在顯著的線性關(guān)系，相關(guān)系數(shù)的顯著性檢驗是判斷回歸直線與回歸模型擬合的優(yōu)劣，只有二者結(jié)合起來，才可以更好的回歸結(jié)果的好壞。2.12 如果把自變量觀測值都乘以2，回歸參數(shù)的最小二乘法估計和會發(fā)生什么變化？如果把自變量觀測值都加上2，回歸參數(shù)的最小二乘估計和會發(fā)生什么變化？解: 解法（一）：我們知道當(dāng)，時，用最小二乘法估計的和分別為當(dāng)時有 將帶入得到當(dāng)時 有 將帶入得到解法（二）： 當(dāng)，時，有 當(dāng)時 當(dāng) ， ，由最小二乘法可知，離差平方和時，其估計值應(yīng)當(dāng)有 。即回歸參數(shù)的最小二乘估計和在自變量觀測值變化時不會變。2.13 如果回歸方程相應(yīng)的相關(guān)系數(shù)r很大，則用它預(yù)測時，預(yù)測誤差一定較小。這一結(jié)論能成立嗎？對你的回答說明理由。解：這一結(jié)論不成立。因為相關(guān)系數(shù)r表示x與線性關(guān)系的密切程度，而它接近1的程度與數(shù)據(jù)組數(shù)有關(guān)。n越小，r越接近1。n=2時，|r|=1。因此僅憑相關(guān)系數(shù)說明x與有密切關(guān)系是不正確的。只有在樣本量較大時，用相關(guān)系數(shù)r判定兩變量之間的相關(guān)程度才可以信服，這樣預(yù)測的誤差才會較小。2.14 解：（1）散點圖為：（2）x與y大致在一條直線上，所以x與y大致呈線性關(guān)系。（3）得到計算表：XY1104100206（-14）2（-4）221011001013（-7）2（3）2320000200042010027727254044004034142（-6）2和15100和Lxx=10Lyy=600和Lxy=70和100SSR=490SSE=110均3均20均20 所以回歸方程為：（4）= 所以，（5）因為 ，的置信區(qū)間為； 同理，因為，所以，的置信區(qū)間為。查表知， 所以，的置信區(qū)間為（-21.21,19.21），的置信區(qū)間為（0.91,13.09）。（6）決定系數(shù) （7）計算得出，方差分析表如下：方差來源平方和自由度均方F值SSR490149013.364SSE110336.667SST6004 查表知，F(xiàn)0.05(1,3)=10.13，F(xiàn)值F0.05(1,3)，故拒絕原假設(shè)，說明回歸方程顯著。（8） 做回歸系數(shù)1的顯著性檢驗 計算t統(tǒng)計量： 查表知， ，所以，tt0.05/2(3)，所以接受原假設(shè)，說明x和Y有顯著的線性關(guān)系。（9）做相關(guān)系數(shù)r的顯著性檢驗：因為 所以，相關(guān)系數(shù) 因為查表知，n-2等于3時，%的值為0.959，%的值為0.878 。 所以，%|r|5.32， 所以拒絕原假設(shè)，說明回歸方程顯著，即x與y有顯著的線性關(guān)系。（8）做回歸系數(shù)顯著性的檢驗； 由“回歸系數(shù)顯著性檢驗表（表2）”可得， 的t檢驗統(tǒng)計量為t=8.509，對應(yīng)p-值近似為0，p， 說明每周簽發(fā)的新報單數(shù)目x對每周加班工作時間y有顯著的影響。（9）做相關(guān)系數(shù)的顯著性檢驗； 分析相關(guān)雙變量，得到“相關(guān)分析表（表5）”如下：Correlations每周簽發(fā)的新保單數(shù)目x每周加班工作時間y每周簽發(fā)的新保單數(shù)目xPearson Correlation1.949*Sig. (2-tailed).000N1010每周加班工作時間yPearson Correlation.949*1Sig. (2-tailed).000N1010*. Correlation is significant at the 0.01 level (2-tailed). 由上表可知，相關(guān)系數(shù)為0.949，說明x與y顯著線性相關(guān)。（10）對回歸方程作殘差圖并作相應(yīng)的分析； 從上圖可以看出，殘差是圍繞e=0隨即波動的，滿足模型的基本假設(shè)。（11）該公司預(yù)計下一周簽發(fā)新保單=1000張，需要的加班時間是多少？ 當(dāng)=1000張時,=0.118+0.0041000=4.118小時。（12）給出的置信水平為95%的精確預(yù)測區(qū)間和近似預(yù)測區(qū)間。（13）給出E（）置信水平為95%的區(qū)間估計。 最后兩問一起解答： 在計算回歸之前，把自變量新值輸入樣本數(shù)據(jù)中，因變量的相應(yīng)值空缺，然后在Save對話框中點選Individul和Mean計算因變量單個新值和因變量平均值E()的置信區(qū)間。結(jié)果顯示在原始數(shù)據(jù)表中，如下圖所示(由于排版問題，中間部分圖省略): 的精確預(yù)測區(qū)間為：2.519，4.887 E（）的區(qū)間估計為：3.284，4.123而的近似預(yù)測區(qū)間則根據(jù)2手動計算，結(jié)果為： 4.118-20.48，4.118+20.48=3.158，5.078 2.16 解答：（1）繪制y對x的散點圖，可以用直線回歸描述兩者之間的關(guān)系嗎？如圖所示：（2）由上圖可以看出，y與x的散點分布大致呈直線趨勢，所以可以用直線回歸描述兩者之間的關(guān)系。（3）建立y對x的線性回歸。利用SPSS建立y對x的線性回歸，輸出結(jié)果如下： 表1 模型匯總模型RR 方調(diào)整 R 方標(biāo)準(zhǔn) 估計的誤差1.835a.697.6912323.256a. 預(yù)測變量: (常量), x。表2 方差分析表Anovab模型平方和df均方FSig.1回歸6.089E816.089E8112.811.000a殘差2.645E849.938總計8.734E850a. 預(yù)測變量: (常量), x。b. 因變量: y 表3 系數(shù)表系數(shù)a模型非標(biāo)準(zhǔn)化系數(shù)標(biāo)準(zhǔn)系數(shù)tSig.B標(biāo)準(zhǔn) 誤差試用版1(常量)12112.6291197.76810.113.000x3.314.312.83510.621.000a. 因變量: y（a）由表1可知，x與y決定系數(shù)為，說明模型的擬合效果一般。x與y線性相關(guān)系數(shù)R=0.835，說明x與y有較顯著的線性關(guān)系。（b）由表2（方差分析表中）看到，F(xiàn)=112.811，顯著性Sig.p,說明回歸方程