1一元線性回歸方程ppt課件.ppt

回歸分析 變量間的關(guān)系 確定性關(guān)系或函數(shù)關(guān)系y f x 人的身高和體重家庭的收入和消費商品的廣告費和銷售額糧食的施肥量和產(chǎn)量 非確定性關(guān)系 稱這種非確定性關(guān)系為統(tǒng)計關(guān)系或相關(guān) x Y 第一章一元線性回歸模型 以下設(shè)x為自變量 普通變量 Y為因變量 隨機變量 現(xiàn)給定x的n個值x1 xn 觀察Y得到相應(yīng)的n個值y1 yn xi yi i 1 2 n稱為樣本點 以 xi yi 為坐標(biāo)在平面直角坐標(biāo)系中描點 所得到的這張圖便稱之為散點圖 1 1模型的建立及其假定條件 例如 研究某市可支配收入X對人均消費支出Y的影響 建立如下理論回歸模型 Yi 0 1Xi i 其中 Yi 被解釋變量 Xi 解釋變量 I 隨機誤差項 0 1 回歸系數(shù) 隨機變量 i包含 回歸模型中省略的變量 確定數(shù)學(xué)模型的誤差 測量誤差 一 一元線性回歸模型 假設(shè)調(diào)查了某社區(qū)所有居民 他們的人均可支配收入和消費支出數(shù)據(jù)如下 描出散點圖發(fā)現(xiàn) 隨著收入的增加 消費 平均地說 也在增加 且Y的條件均值均落在一根正斜率的直線上 這條直線稱為總體回歸線 二 隨機誤差項 i的假定條件 為了估計總體回歸模型中的參數(shù) 需對隨機誤差項作出如下假定 假定1 零期望假定 E i 0 假定2 同方差性假定 Var i 2 假定4 i服從正態(tài)分布 即 i N 0 2 假定3 無序列相關(guān)假定 Cov i j 0 i j 前三個條件稱為G M條件 1 2一元線性回歸模型的參數(shù)估計 普通最小二乘法 OrdinaryLeastSquares OLS回歸直線的性質(zhì)OLSE的性質(zhì) 一 普通最小二乘法 對于所研究的問題 通常真實的回歸直線E Yi Xi 0 1Xi是觀測不到的 可以通過收集樣本來對真實的回歸直線做出估計 經(jīng)驗回歸直線 其中 為Yi的估計值 擬合值 為 0 1的估計值 如果觀測值到這條直線的縱向距離 真實值與估計值的偏差 用ei表示 稱為殘差 則經(jīng)驗回歸模型為 ei為 i的估計值 注意 分清4個式子的關(guān)系 4 經(jīng)驗 估計的 回歸直線 1 理論 真實的 回歸模型 3 經(jīng)驗 估計的 回歸模型 2 理論 真實的 回歸直線 對于參數(shù)的估計采用最小二乘估計法 最小二乘法的原則是以 殘差平方和最小 確定直線位置 即估計參數(shù) Q為殘差平方和 Q 則通過Q最小確定這條直線 即確定 以為變量 把它們看作是Q的函數(shù) 就變成了一個求極值的問題 可以通過求導(dǎo)數(shù)得到 求Q對兩個待估參數(shù)的偏導(dǎo)數(shù) 0 0 正規(guī)方程組 即 根據(jù)以上兩個偏導(dǎo)方程得以下正規(guī)方程 Normalequation 若記 則 二 OLS回歸直線的性質(zhì) 1 估計的回歸直線過點 3 Yi的擬合值的平均數(shù)等于其樣本觀測值的平均數(shù) 2 統(tǒng)計性質(zhì)線性無偏性有效性 2的估計 三 OLSE回歸直線的性質(zhì) 1 線性 這里指都是Yi的線性函數(shù) 2 無偏性 證明 類似可證 3 有效性 0 1的OLS估計量的方差比其他線性無偏估計量的方差都小 總體 隨機誤差項 真實方差 2的無偏估計量 三 2的估計 1 3回歸方程的顯著性檢驗 一 回歸參數(shù)的顯著性檢驗 t檢驗 首先 提出原假設(shè)和備擇假設(shè) H0 H1 其次 確定并計算統(tǒng)計量 如果不能拒絕H0 認(rèn)為X對Y沒有顯著影響 如果拒絕H0 認(rèn)為X對Y有顯著影響 同理 可對進行顯著性檢驗 二 回歸方程的顯著性檢驗 F檢驗 三 用樣本可決系數(shù)檢驗回歸方程的擬合優(yōu)度 R2 R2 0時表明解釋變量X與被解釋變量Y之間不存在線性關(guān)系 R2 1時表明樣本回歸線與樣本值重合 這種情況極少發(fā)生 一般情況下 R2越接近1表示擬合程度越好 X對Y的解釋能力越強 四 相關(guān)系數(shù)檢驗法 1 提出原假設(shè)2 選擇統(tǒng)計量 3 對給定的顯著性水平 查臨界值r n 2 得否定域為 R r n 2 1 4回歸系數(shù)估計值的置信區(qū)間 t 2 n 2 0t 2 n 2 由于 由大括號內(nèi)不等式表示的 1的1 的置信區(qū)間為 得 P t 2 n 2 1 同理 可 并求得的置信區(qū)間為 1 5一元線性回歸方程的預(yù)測和控制 點預(yù)測Yi區(qū)間預(yù)測 1 單個值Yi的區(qū)間預(yù)測 2 均值E Yi 的區(qū)間預(yù)測控制 如果經(jīng)過檢驗 樣本回歸方程的擬合優(yōu)度好 且回歸系數(shù)的估計值顯著不為0 則可以用回歸方程進行預(yù)測和控制 1 點預(yù)測 假設(shè)X0為解釋變量的一個已知點 則帶入樣本回歸方程即可得到Y(jié)0的估計值 2 區(qū)間預(yù)測 估計值是一個點預(yù)測值 它可以是 1 總體真值Y0的預(yù)測值 也可以是 2 總體回歸線E Y0 的預(yù)測值 現(xiàn)在根據(jù)來對 1 2 進行區(qū)間預(yù)測 1 Y0的預(yù)測區(qū)間 的分布是 所以