自變量的選擇

第四章自變量的選擇§4.1引言在實(shí)際問(wèn)題中可以提出許多可能對(duì)有影響的自變量，如何從中選擇確實(shí)對(duì)有影響的變量來(lái)建立回歸方程是一個(gè)十分重要的問(wèn)題。如果方程中包含的變量過(guò)多，那么不僅使用不便，還可能削弱估計(jì)和預(yù)測(cè)的精度，而自變量過(guò)少或先得不恰當(dāng)，又會(huì)使所建立的模型與實(shí)際有偏離而不能使用。然而，自變量的選擇又是一個(gè)十分復(fù)雜的問(wèn)題，而涉及的計(jì)算量都很大，本章的目的是對(duì)自變量選擇作一些理論分析，提出一些變量選擇準(zhǔn)則，并介紹有關(guān)的計(jì)算方法?！?.2自變量選擇的后果自變量的選擇問(wèn)題可以看成是這樣二個(gè)問(wèn)題：究竟應(yīng)用全模型還是用選模型；若用選模型，則究竟應(yīng)包含多少變量最適合。如果全模型為真，而我們用了選模型，這就表示在方程中丟掉了部分有用變量，相反，如果選模型為真，而我們選用了全模型，這就表示在方程中引入了一些無(wú)用變量，下面從參數(shù)估計(jì)和預(yù)測(cè)兩個(gè)角度來(lái)看一看由于模型選擇不當(dāng)帶來(lái)的后果?！?.3自變量選擇準(zhǔn)則§5.6逐步回歸的思想當(dāng)可供選擇的自變量太多時(shí)，當(dāng)然可用前面所述的自變量選擇的準(zhǔn)則去選擇好的方程，但很復(fù)雜，因此很實(shí)用。為此需要找一些簡(jiǎn)便的方法找到較好的方程。SAS中實(shí)現(xiàn)自變量的選擇選項(xiàng)2slentry=value;對(duì)forward和stepwise方法規(guī)定變量選入回歸模型里的顯著性水平。對(duì)forward方法缺省值是0.50,對(duì)stepwise是0.15.slstay=value;對(duì)backward和stepwise方法規(guī)定變量保留在模型里的顯著性水平。對(duì)backward方法缺省值是0.10，對(duì)stepwise是0.15.僅用于selection=adjrsq或cp的任選項(xiàng)mse：平均殘差平方和aic：AIC信息量bic:BIC信息量jp：預(yù)測(cè)偏差的方差sp：平均預(yù)測(cè)均方誤差例子5.1(pp.124)libname

s'd:\user';datas.page124;inputx1-x4y;cards;72666078.5129155274.31156820104.3113184787.675263395.91155922109.2371176102.7131224472.5254182293.12147426115.9140233483.81166912113.31068812109.4;proc

reg;modely=x1x2x3x4/selection=stepwise;run;AIC準(zhǔn)則proc

reg;modely=x1x2x3x4/selection=cpaic;run;JP