第5章實(shí)驗(yàn)設(shè)計(jì)與數(shù)值分析A

1、材料合成與制備第5章 實(shí)驗(yàn)設(shè)計(jì)與數(shù)值分析初步實(shí)驗(yàn)設(shè)計(jì)與數(shù)值分析初步 5.1 實(shí)驗(yàn)設(shè)計(jì)實(shí)驗(yàn)設(shè)計(jì) 5.1.1 引言引言 實(shí)驗(yàn)設(shè)計(jì)是研究如何通過(guò)合理地安排實(shí)驗(yàn)設(shè)計(jì)是研究如何通過(guò)合理地安排實(shí)驗(yàn)計(jì)劃而充分獲得有用信息的方法。它實(shí)驗(yàn)計(jì)劃而充分獲得有用信息的方法。它的主要內(nèi)容是討論如何科學(xué)地安排實(shí)驗(yàn)的主要內(nèi)容是討論如何科學(xué)地安排實(shí)驗(yàn),以以盡可能少的實(shí)驗(yàn)次數(shù)、較短的實(shí)驗(yàn)時(shí)間、盡可能少的實(shí)驗(yàn)次數(shù)、較短的實(shí)驗(yàn)時(shí)間、較低的費(fèi)用較低的費(fèi)用,得到較滿意的實(shí)驗(yàn)結(jié)果。在科得到較滿意的實(shí)驗(yàn)結(jié)果。在科學(xué)分析的基礎(chǔ)上學(xué)分析的基礎(chǔ)上,獲得最優(yōu)實(shí)驗(yàn)方案獲得最優(yōu)實(shí)驗(yàn)方案,同時(shí)使同時(shí)使實(shí)驗(yàn)數(shù)據(jù)處理方便易行實(shí)驗(yàn)數(shù)據(jù)處理方便易行,結(jié)果更加可

2、靠。實(shí)結(jié)果更加可靠。實(shí)驗(yàn)設(shè)計(jì)是實(shí)驗(yàn)的最優(yōu)化設(shè)計(jì)。驗(yàn)設(shè)計(jì)是實(shí)驗(yàn)的最優(yōu)化設(shè)計(jì)。 一個(gè)好的實(shí)驗(yàn)方案應(yīng)包括以下三個(gè)方面一個(gè)好的實(shí)驗(yàn)方案應(yīng)包括以下三個(gè)方面:科學(xué)的實(shí)驗(yàn)設(shè)計(jì)科學(xué)的實(shí)驗(yàn)設(shè)計(jì):明確實(shí)驗(yàn)?zāi)康拿鞔_實(shí)驗(yàn)?zāi)康?確定需要考確定需要考察的因素及其變動(dòng)范圍察的因素及其變動(dòng)范圍,制定出合理的實(shí)驗(yàn)方制定出合理的實(shí)驗(yàn)方案案;實(shí)驗(yàn)的實(shí)施實(shí)驗(yàn)的實(shí)施:按照設(shè)計(jì)的實(shí)驗(yàn)方案準(zhǔn)確進(jìn)行實(shí)按照設(shè)計(jì)的實(shí)驗(yàn)方案準(zhǔn)確進(jìn)行實(shí)驗(yàn)驗(yàn),取得必要的實(shí)驗(yàn)數(shù)據(jù)取得必要的實(shí)驗(yàn)數(shù)據(jù);實(shí)驗(yàn)結(jié)果分析實(shí)驗(yàn)結(jié)果分析:采用圖表以及科學(xué)的數(shù)學(xué)方法采用圖表以及科學(xué)的數(shù)學(xué)方法對(duì)實(shí)驗(yàn)數(shù)據(jù)進(jìn)行分析對(duì)實(shí)驗(yàn)數(shù)據(jù)進(jìn)行分析,分析實(shí)驗(yàn)數(shù)據(jù)的規(guī)律和分析實(shí)驗(yàn)數(shù)據(jù)的規(guī)律和可靠性可靠性,剔

3、除沉余信息剔除沉余信息,發(fā)掘二次信息發(fā)掘二次信息,判斷所判斷所考察因素的相對(duì)重要性考察因素的相對(duì)重要性,從而確定出最佳實(shí)驗(yàn)、從而確定出最佳實(shí)驗(yàn)、生產(chǎn)或經(jīng)營(yíng)方案生產(chǎn)或經(jīng)營(yíng)方案,也即最優(yōu)方案。也即最優(yōu)方案。 5.1.2 常用實(shí)驗(yàn)設(shè)計(jì)方法常用實(shí)驗(yàn)設(shè)計(jì)方法 5.1.2.1 因子設(shè)計(jì)因子設(shè)計(jì) 2k因子設(shè)計(jì)和因子設(shè)計(jì)和3k因子設(shè)計(jì)因子設(shè)計(jì): k考察的因子考察的因子個(gè)數(shù)個(gè)數(shù),2和和3代表因子水平。代表因子水平。 因子設(shè)計(jì)是一種有效的實(shí)驗(yàn)設(shè)計(jì)方法因子設(shè)計(jì)是一種有效的實(shí)驗(yàn)設(shè)計(jì)方法,但它只是在實(shí)驗(yàn)方案已設(shè)計(jì)好的情況下進(jìn)但它只是在實(shí)驗(yàn)方案已設(shè)計(jì)好的情況下進(jìn)行行,并未涉及到最佳實(shí)驗(yàn)方案問(wèn)題并未涉及到最佳實(shí)驗(yàn)方案問(wèn)題,

4、因此實(shí)驗(yàn)因此實(shí)驗(yàn)工作量可能很大工作量可能很大;雖然考慮了因子間的交互雖然考慮了因子間的交互作用作用,但把高等級(jí)的交互作用作為誤差估計(jì)但把高等級(jí)的交互作用作為誤差估計(jì)可能得出準(zhǔn)確度很低的結(jié)論可能得出準(zhǔn)確度很低的結(jié)論,特別是偏離線特別是偏離線性關(guān)系的過(guò)程性關(guān)系的過(guò)程;另外另外,對(duì)實(shí)驗(yàn)結(jié)果的分析也較對(duì)實(shí)驗(yàn)結(jié)果的分析也較復(fù)雜。復(fù)雜。 5.1.2.2 正交實(shí)驗(yàn)設(shè)計(jì)正交實(shí)驗(yàn)設(shè)計(jì) 與因子實(shí)驗(yàn)設(shè)計(jì)相比與因子實(shí)驗(yàn)設(shè)計(jì)相比,正交實(shí)驗(yàn)設(shè)計(jì)是優(yōu)正交實(shí)驗(yàn)設(shè)計(jì)是優(yōu)化設(shè)計(jì)方案的有效方法之一。它不必要對(duì)每化設(shè)計(jì)方案的有效方法之一。它不必要對(duì)每個(gè)因子的各個(gè)水平的所有組合進(jìn)行全面實(shí)驗(yàn)個(gè)因子的各個(gè)水平的所有組合進(jìn)行全面實(shí)驗(yàn),只需要

5、利用正交表來(lái)安排實(shí)驗(yàn)只需要利用正交表來(lái)安排實(shí)驗(yàn),因而可以較大因而可以較大幅度地減少實(shí)驗(yàn)工作量幅度地減少實(shí)驗(yàn)工作量,降低實(shí)驗(yàn)費(fèi)用降低實(shí)驗(yàn)費(fèi)用,節(jié)省時(shí)節(jié)省時(shí)間間,實(shí)驗(yàn)數(shù)據(jù)的分析更為方便實(shí)驗(yàn)數(shù)據(jù)的分析更為方便,結(jié)果也更加可靠。結(jié)果也更加可靠。具有整齊可比、均衡分散、簡(jiǎn)單易行的特點(diǎn)。具有整齊可比、均衡分散、簡(jiǎn)單易行的特點(diǎn)。 正交表正交表 符號(hào)符號(hào): 。n:實(shí)驗(yàn)組數(shù)實(shí)驗(yàn)組數(shù);m:因子水平因子水平;k:因因子個(gè)數(shù)。子個(gè)數(shù)。 knmL L4(23)正交表: 表5.1 L4(23)正交表 123111121-1(2)-1(2)3-1(2)1-1(2)4-1(2)-1(2)1 L9(34)正交表正交表: 表表5

6、.2 正交表正交表 1234111112122231333421235223162312731328321393321 正交實(shí)驗(yàn)設(shè)計(jì)的具體方正交實(shí)驗(yàn)設(shè)計(jì)的具體方法、方差分析、效應(yīng)計(jì)算與法、方差分析、效應(yīng)計(jì)算與指標(biāo)值的預(yù)估計(jì)參閱指標(biāo)值的預(yù)估計(jì)參閱: 陳陳 魁魁:實(shí)驗(yàn)設(shè)計(jì)與分析實(shí)驗(yàn)設(shè)計(jì)與分析 朱偉勇朱偉勇:最優(yōu)設(shè)計(jì)的計(jì)算機(jī)最優(yōu)設(shè)計(jì)的計(jì)算機(jī)證明與構(gòu)造證明與構(gòu)造 5.1.2.3 二次回歸正交設(shè)計(jì)二次回歸正交設(shè)計(jì) 回歸正交設(shè)計(jì)將古典回歸分析與正交回歸正交設(shè)計(jì)將古典回歸分析與正交實(shí)驗(yàn)設(shè)計(jì)的優(yōu)點(diǎn)結(jié)合起來(lái)實(shí)驗(yàn)設(shè)計(jì)的優(yōu)點(diǎn)結(jié)合起來(lái),將實(shí)驗(yàn)安排、數(shù)將實(shí)驗(yàn)安排、數(shù)據(jù)處理和回歸方程的精度統(tǒng)一成一個(gè)整體據(jù)處理和回歸方程的

7、精度統(tǒng)一成一個(gè)整體來(lái)加以研究來(lái)加以研究,從而可用較少的實(shí)驗(yàn)次數(shù)得到從而可用較少的實(shí)驗(yàn)次數(shù)得到精度較高的回歸方程。精度較高的回歸方程?；驹砘驹?二次回歸正交設(shè)計(jì)得到的回歸方二次回歸正交設(shè)計(jì)得到的回歸方程是二次的程是二次的,它包括常數(shù)項(xiàng)、一次項(xiàng)、交叉它包括常數(shù)項(xiàng)、一次項(xiàng)、交叉項(xiàng)和平方項(xiàng)。當(dāng)變量個(gè)數(shù)為項(xiàng)和平方項(xiàng)。當(dāng)變量個(gè)數(shù)為 時(shí)時(shí),二次回歸二次回歸方程的一般形式為方程的一般形式為: n (5.1) 式中式中 、 、 與與 都是回歸系數(shù)。上式都是回歸系數(shù)。上式共有共有 項(xiàng)。為了求出項(xiàng)。為了求出 個(gè)回歸系個(gè)回歸系數(shù)數(shù),實(shí)驗(yàn)次數(shù)不應(yīng)小于實(shí)驗(yàn)次數(shù)不應(yīng)小于 次。為了減少實(shí)次。為了減少實(shí)驗(yàn)次數(shù)驗(yàn)次數(shù),且

8、每個(gè)因素能多取幾個(gè)水平進(jìn)行且每個(gè)因素能多取幾個(gè)水平進(jìn)行實(shí)驗(yàn)實(shí)驗(yàn),故采用組合設(shè)計(jì)方法。故采用組合設(shè)計(jì)方法。 定義定義1 組合設(shè)計(jì)組合設(shè)計(jì):在因子空間中選擇幾類(lèi)在因子空間中選擇幾類(lèi)具有不同特性的點(diǎn)具有不同特性的點(diǎn),把它們適當(dāng)?shù)亟M合起把它們適當(dāng)?shù)亟M合起來(lái)而形成的設(shè)計(jì)為組合設(shè)計(jì)來(lái)而形成的設(shè)計(jì)為組合設(shè)計(jì)。 2110jnjjjjijiijjnjjxbxxbxbby0bjbijbjjb22nCCtCtCt 一般一般P個(gè)因子的組合設(shè)計(jì)由下列個(gè)因子的組合設(shè)計(jì)由下列N個(gè)點(diǎn)組成個(gè)點(diǎn)組成: 。其中。其中: :二水平全因子實(shí)驗(yàn)的實(shí)驗(yàn)點(diǎn)個(gè)數(shù)二水平全因子實(shí)驗(yàn)的實(shí)驗(yàn)點(diǎn)個(gè)數(shù) 或它部分實(shí)施時(shí)的實(shí)驗(yàn)點(diǎn)個(gè)數(shù)或它部分實(shí)施時(shí)的實(shí)驗(yàn)點(diǎn)個(gè)數(shù)

9、 , , ,等等。等等。 2P:分布在分布在P個(gè)坐標(biāo)軸上的星號(hào)點(diǎn)個(gè)數(shù)。個(gè)坐標(biāo)軸上的星號(hào)點(diǎn)個(gè)數(shù)。三因子的因子空間見(jiàn)下圖。三因子的因子空間見(jiàn)下圖。 :各因子都取零水平的中心點(diǎn)的重各因子都取零水平的中心點(diǎn)的重復(fù)實(shí)驗(yàn)次數(shù)。復(fù)實(shí)驗(yàn)次數(shù)。cmP212P22P0m02mPmNcP=3111-1-1-1zxy0 組合設(shè)計(jì)具體方法是選取組合設(shè)計(jì)具體方法是選取幾類(lèi)不同的點(diǎn)組成實(shí)驗(yàn)計(jì)劃幾類(lèi)不同的點(diǎn)組成實(shí)驗(yàn)計(jì)劃,這這幾類(lèi)點(diǎn)是幾類(lèi)點(diǎn)是: 每個(gè)變量只取每個(gè)變量只取+1和和-1水平水平,這類(lèi)點(diǎn)共有這類(lèi)點(diǎn)共有 個(gè)個(gè),記為記為 ,列如當(dāng)有三個(gè)變量時(shí)列如當(dāng)有三個(gè)變量時(shí),第一類(lèi)點(diǎn)第一類(lèi)點(diǎn)有下列有下列8個(gè)點(diǎn)個(gè)點(diǎn): n2ncm2 1

10、1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 11x3x2x 一個(gè)變量的值只取一個(gè)變量的值只取 ( 稱(chēng)為星號(hào)臂稱(chēng)為星號(hào)臂,取值法后敘取值法后敘),其余變量的值都取其余變量的值都取0水平。這水平。這類(lèi)點(diǎn)共有類(lèi)點(diǎn)共有 個(gè)。當(dāng)個(gè)。當(dāng) =3時(shí)時(shí),這類(lèi)點(diǎn)共有這類(lèi)點(diǎn)共有6個(gè)個(gè): 0 0 0 0 0 0 0 0 0 0 0 0 nn1x3x2x 適當(dāng)選取中心點(diǎn)適當(dāng)選取中心點(diǎn),即所有變量都取即所有變量都取0水平水平的點(diǎn)的點(diǎn): 為中心點(diǎn)的實(shí)驗(yàn)次數(shù)為中心點(diǎn)的實(shí)驗(yàn)次數(shù),與與 值有關(guān)。值有關(guān)。 可見(jiàn)可見(jiàn),取這樣一些點(diǎn)做實(shí)驗(yàn)取這樣一些點(diǎn)做實(shí)驗(yàn),可使變量在可使變量在5個(gè)水平上取值

11、個(gè)水平上取值,且實(shí)驗(yàn)次數(shù)較少。當(dāng)適當(dāng)選且實(shí)驗(yàn)次數(shù)較少。當(dāng)適當(dāng)選取取 值時(shí)值時(shí),可使實(shí)驗(yàn)成為可使實(shí)驗(yàn)成為正交正交的。當(dāng)變量個(gè)的。當(dāng)變量個(gè)數(shù)為數(shù)為 時(shí)時(shí),設(shè)計(jì)方案如下設(shè)計(jì)方案如下:0000003210 xxxm0mn00 .00 .0.0.00.000000.0000002111111111111112.0321行行行mnxxxxnn 前前 行可以按下述方法排列行可以按下述方法排列:第一列先第一列先取取 個(gè)個(gè)1,再取再取 個(gè)個(gè)1,第二列交替第二列交替取取 個(gè)個(gè)1和和1,依此類(lèi)推依此類(lèi)推,最后一列交最后一列交替取一個(gè)替取一個(gè)-1和一個(gè)和一個(gè)1。 上述點(diǎn)取好后上述點(diǎn)取好后,因?yàn)槭嵌卧O(shè)計(jì)因?yàn)槭嵌卧O(shè)計(jì)

12、,故還故還應(yīng)有二次乘積項(xiàng)和平方項(xiàng)。以應(yīng)有二次乘積項(xiàng)和平方項(xiàng)。以 為列為列,回歸模型中共有回歸模型中共有10項(xiàng)項(xiàng)(見(jiàn)下頁(yè)見(jiàn)下頁(yè)),這里這里取取 : 上列數(shù)表上列數(shù)表,排成矩陣后排成矩陣后,稱(chēng)為結(jié)構(gòu)矩陣稱(chēng)為結(jié)構(gòu)矩陣,記為記為X:n212n12n22n3n10m 000000000100000001000000010000000100000001000000010000000111111111111111111111111111111111111111111111111111111111111111111111111111111111151413121110987654321222222232221

13、3231213210 xxxxxxxxxxxxx 為使組合設(shè)計(jì)具有正交性為使組合設(shè)計(jì)具有正交性,應(yīng)使相應(yīng)使相關(guān)矩陣成關(guān)矩陣成(XX)1為對(duì)角矩陣。為了推為對(duì)角矩陣。為了推導(dǎo)方便導(dǎo)方便,將將X中的列重排一下中的列重排一下,將平方列將平方列移至移至 列之后列之后,即排成即排成: 再設(shè)再設(shè): , 則則信息矩陣信息矩陣 為為:nnnnxxxxxxxxxxxxxx131212122322210,22cme42cmfXX0 x (5.2)ccccccccmmeefmmemfmemmfeeeeNXX0000000000000000000000000000000其逆矩陣具有相同形式其逆矩陣具有相同形式: (5

14、.3) 11111000ccmmeeFGGEGFGEGGFEEEENXX其中: (5.4) 02mnmNc2412neNmnNfHccmnfHK12142112enNmnNfHFc412eHEcNmeHG21 從從(5.3)式可見(jiàn)式可見(jiàn),要使要使(XX)1為對(duì)角矩陣為對(duì)角矩陣,應(yīng)使應(yīng)使E和和G都等于零。因此都等于零。因此,欲使欲使 =0,使使 即可。將即可。將 及及N之值代入之值代入,有有: (5.5) 當(dāng)當(dāng) 時(shí)時(shí)(全因子實(shí)驗(yàn)全因子實(shí)驗(yàn)),有有: (5.6) 當(dāng)當(dāng) 時(shí)時(shí)(1/2因子實(shí)驗(yàn)因子實(shí)驗(yàn)),有有: (5.7) cNmeHG2102cNmee02202202402mnmmmmnmmcccc

15、cncm205 . 0220124mnnn12ncm05 . 02202214mnnn 給定了給定了 和和 后后,就可以用上述二式求就可以用上述二式求出出 。當(dāng)。當(dāng) 時(shí)時(shí),一般用一般用1/2實(shí)施實(shí)施,計(jì)算計(jì)算 值值用用(5.7)式。為使式。為使E也為零也為零,采用中心化方采用中心化方法。具體做法是先求出平方列中每列的法。具體做法是先求出平方列中每列的和和 , 然 后 平 方 列 中 的 每 一 項(xiàng) 都 減然 后 平 方 列 中 的 每 一 項(xiàng) 都 減去去 ,即用即用 (5.8) 代替原來(lái)的代替原來(lái)的 ,這時(shí)這時(shí):n0m5n2ixNixN121NijjxNxx12212jx 相關(guān)矩陣成為對(duì)角矩陣

16、。相關(guān)矩陣成為對(duì)角矩陣。 按上述做法按上述做法,在在 的情況下的情況下: , 根據(jù)實(shí)驗(yàn)結(jié)果根據(jù)實(shí)驗(yàn)結(jié)果,即可求得回歸方程即可求得回歸方程: (5.9) 將將 代入上式得回歸方程代入上式得回歸方程: (5.10)01NjxE1, 30mn215. 1730. 0952.1015/122jjjxxx110iniiijijiijiniixbxxbxbbyNijjxNxx12212110iniiijijiijiniixbxxbxbby 但這還不是最后所要求的回歸方程。因?yàn)樵诘@還不是最后所要求的回歸方程。因?yàn)樵诙位貧w正交設(shè)計(jì)中二次回歸正交設(shè)計(jì)中,設(shè)計(jì)矩陣中只有設(shè)計(jì)矩陣中只有5個(gè)數(shù)個(gè)數(shù)字字 出現(xiàn)出現(xiàn),

17、故應(yīng)對(duì)各因子變化范圍進(jìn)故應(yīng)對(duì)各因子變化范圍進(jìn)行變換行變換,也即將各因子的實(shí)際變化范圍變換也即將各因子的實(shí)際變化范圍變換到到 這一范圍內(nèi)。此過(guò)程稱(chēng)為這一范圍內(nèi)。此過(guò)程稱(chēng)為編碼編碼。具。具體做法是設(shè)第體做法是設(shè)第 個(gè)因子個(gè)因子 的上下界限分別為的上下界限分別為 和和 ,并設(shè)并設(shè) , (5.11) 其中其中 要根據(jù)要根據(jù) 和和 的值事先求出。然后的值事先求出。然后做變換做變換 (5.12) 可得因子編碼公式可得因子編碼公式,見(jiàn)表見(jiàn)表5.3:, 1 , 0 , 1,iixiz2iz12/120iiizzz212iiizzn0miiiizzx0 表5.3 因子編碼公式表 ix1z 2znz21z 22z

18、nz2101z 202znnz001z02znz0101z 202znnz011z12znz1因 子 1 0 -1 - 這樣回歸方程實(shí)際上就是這樣回歸方程實(shí)際上就是: (5.13) 整理后得整理后得: (5.14) 這里得到的是關(guān)于原變量的回歸系數(shù)及回這里得到的是關(guān)于原變量的回歸系數(shù)及回歸方程歸方程,其中的其中的 已不同于已不同于(5.9)中的中的 。還是將還是將 的符號(hào)改為的符號(hào)改為 , 改為改為 ,最后得回最后得回歸方程歸方程: (5.15) 20100010iiiniiijjjiiijiijiiiniizzbzzzzbzzbby2110iniiijijiijiniizbzzbzbby0b

19、0bbbzx2110iniiijijiijiniixbxxbxbby 式式(5.15)中的變量中的變量 也不同于也不同于(5.10)中的變中的變量量 。后者是在。后者是在 內(nèi)取值的標(biāo)準(zhǔn)化變內(nèi)取值的標(biāo)準(zhǔn)化變量量;而前者是以而前者是以 為變化區(qū)間的變量。為變化區(qū)間的變量。顯著性檢驗(yàn)顯著性檢驗(yàn): 回歸方程的檢驗(yàn)用統(tǒng)計(jì)量回歸方程的檢驗(yàn)用統(tǒng)計(jì)量: 回歸系數(shù)顯著性檢驗(yàn)用統(tǒng)計(jì)量回歸系數(shù)顯著性檢驗(yàn)用統(tǒng)計(jì)量: 一次效應(yīng)一次效應(yīng): , 交互效應(yīng)交互效應(yīng): , 二次效應(yīng)二次效應(yīng): , ixix,iizz21,1 pNSpS剩回1 pNSQi剩n, 2 , 11 pNSQij剩ji 1 pNSQii剩n, 2 , 1

20、 如果在中心點(diǎn)有如果在中心點(diǎn)有 次重復(fù)實(shí)驗(yàn)次重復(fù)實(shí)驗(yàn),且實(shí)驗(yàn)結(jié)且實(shí)驗(yàn)結(jié)果分別為果分別為 ,則可用由此產(chǎn)生的則可用由此產(chǎn)生的誤差平方和誤差平方和 對(duì)失擬平方和對(duì)失擬平方和 進(jìn)行檢驗(yàn)進(jìn)行檢驗(yàn),然后再對(duì)回歸方程和回歸系數(shù)進(jìn)行顯著性然后再對(duì)回歸方程和回歸系數(shù)進(jìn)行顯著性檢驗(yàn)。這里檢驗(yàn)。這里: 二次回歸正交設(shè)計(jì)主要用于尋求最佳二次回歸正交設(shè)計(jì)主要用于尋求最佳配方和建立生產(chǎn)過(guò)程的數(shù)學(xué)模型。配方和建立生產(chǎn)過(guò)程的數(shù)學(xué)模型。 程序及說(shuō)明參閱程序及說(shuō)明參閱:朱偉勇朱偉勇:最優(yōu)設(shè)計(jì)的最優(yōu)設(shè)計(jì)的計(jì)算機(jī)證明與構(gòu)造計(jì)算機(jī)證明與構(gòu)造0m000201,myyy誤SfLS.1,012000mfyySmii誤誤誤剩誤剩，fffSS

21、SfLfL. 5.1.2.6 具有邊界效應(yīng)混料模型的具有邊界效應(yīng)混料模型的 D-最優(yōu)設(shè)計(jì)的構(gòu)造最優(yōu)設(shè)計(jì)的構(gòu)造 混料模型混料模型:在試驗(yàn)設(shè)計(jì)中在試驗(yàn)設(shè)計(jì)中,有這樣一類(lèi)問(wèn)題有這樣一類(lèi)問(wèn)題,試試驗(yàn)指標(biāo)僅與各種成分所占的百分比有關(guān)驗(yàn)指標(biāo)僅與各種成分所占的百分比有關(guān),與它與它們的總量無(wú)關(guān)們的總量無(wú)關(guān),各種成分的百分比可在一定范各種成分的百分比可在一定范圍內(nèi)變化圍內(nèi)變化,且這些百分比的和是且這些百分比的和是1,這就是混料這就是混料設(shè)計(jì)問(wèn)題。設(shè)設(shè)計(jì)問(wèn)題。設(shè) 分別表示分別表示 個(gè)因個(gè)因子子 , 如 果 一 個(gè) 試 驗(yàn) 計(jì) 劃 有 個(gè) 試 驗(yàn)如 果 一 個(gè) 試 驗(yàn) 計(jì) 劃 有 個(gè) 試 驗(yàn)點(diǎn)點(diǎn) ,且每個(gè)試驗(yàn)點(diǎn)且每

22、個(gè)試驗(yàn)點(diǎn)都滿足條件都滿足條件: , 則則 這種試驗(yàn)稱(chēng)為因子混料試驗(yàn)或這種試驗(yàn)稱(chēng)為因子混料試驗(yàn)或 因子混料試因子混料試驗(yàn)。驗(yàn)。pxxx,21pnnaxxxapaa, 2 , 1,21121apaaxxx1,021apaaxxxn 對(duì)于混料模型的對(duì)于混料模型的D-最優(yōu)性問(wèn)題最優(yōu)性問(wèn)題,直接構(gòu)造直接構(gòu)造帶有邊界效應(yīng)的混料帶有邊界效應(yīng)的混料D-最優(yōu)設(shè)計(jì)是比較困難最優(yōu)設(shè)計(jì)是比較困難的的,而用數(shù)值方法構(gòu)造這類(lèi)模型的而用數(shù)值方法構(gòu)造這類(lèi)模型的D-最優(yōu)設(shè)計(jì)最優(yōu)設(shè)計(jì)是很有效的方法。但用數(shù)值方法構(gòu)造這類(lèi)模是很有效的方法。但用數(shù)值方法構(gòu)造這類(lèi)模型的型的D-最優(yōu)設(shè)計(jì)時(shí)最優(yōu)設(shè)計(jì)時(shí),迭帶過(guò)程收斂較慢迭帶過(guò)程收斂較慢,因而

23、只因而只要求設(shè)計(jì)的方差函數(shù)的最大值與參數(shù)個(gè)數(shù)要求設(shè)計(jì)的方差函數(shù)的最大值與參數(shù)個(gè)數(shù) 充分靠近即可。另外充分靠近即可。另外,對(duì)具有邊界效應(yīng)的混料對(duì)具有邊界效應(yīng)的混料模 型模 型 , 一 般 要 對(duì) 因 子 取 值 加 以 限 制一 般 要 對(duì) 因 子 取 值 加 以 限 制 , 即即設(shè)設(shè): 。 的值常取為的值常取為0.05,即要求各因子都在即要求各因子都在0.05,1范圍內(nèi)取值。描述范圍內(nèi)取值。描述具有邊界效應(yīng)的混料模型的基本形式有具有邊界效應(yīng)的混料模型的基本形式有:mpixii, 2 , 1,i 線性倒數(shù)模型線性倒數(shù)模型: (5.16) 二次倒數(shù)模型二次倒數(shù)模型: (5.17) 線性對(duì)數(shù)模型線性

24、對(duì)數(shù)模型: (5.18) 二次對(duì)數(shù)模型二次對(duì)數(shù)模型: (5.19) 相應(yīng)的實(shí)驗(yàn)計(jì)劃參閱相應(yīng)的實(shí)驗(yàn)計(jì)劃參閱:朱偉勇朱偉勇:最優(yōu)設(shè)計(jì)的最優(yōu)設(shè)計(jì)的計(jì)算機(jī)證明與構(gòu)造計(jì)算機(jī)證明與構(gòu)造 pipiiiiixxyE111 pipiiijijiijiixxxxyE111 pipiiiiixxyE11ln pipiiijijiijiixxxxyE11ln表表5.4 模型模型(5.18)的測(cè)度設(shè)計(jì)的測(cè)度設(shè)計(jì)/近似近似D-最優(yōu)測(cè)度設(shè)計(jì)最優(yōu)測(cè)度設(shè)計(jì)1 410M,maxxdX支撐點(diǎn)集中的支撐點(diǎn)集中的代表點(diǎn)代表點(diǎn)集中的點(diǎn)數(shù)集中的點(diǎn)數(shù)(0.05,0.05,0.9)30.10021/10(0.05,0.225,0.725)60

25、.102391/10(1/3,1/3,1/3)10.08561/100.24320.24236.0036.06 圖5.1 時(shí)模型(5.18)的近似D-最優(yōu)測(cè)度設(shè)計(jì)譜點(diǎn) (0.05,0.05,0.90) (0.225,0.05,0.725) (0.05,0.225,0.725) (0.725,0.05,0.225) (0.05,0.725,0.225)(0.90,0.05,0.05) (0.05,0.90,0.05) (0.725,0.225,0.05) (0.225,0.725,0.05) (1/3,1/3,1/3)3p 由圖由圖5.1可見(jiàn)可見(jiàn),模型模型(5.18)的近似的近似D-最優(yōu)測(cè)度設(shè)計(jì)

26、譜點(diǎn)幾乎都在頂點(diǎn)附近最優(yōu)測(cè)度設(shè)計(jì)譜點(diǎn)幾乎都在頂點(diǎn)附近,僅除僅除(1/3,1/3,1/3)之外。這是因?yàn)橹?。這是因?yàn)?只有只有在這個(gè)邊界附近多放置幾個(gè)設(shè)計(jì)點(diǎn)才在這個(gè)邊界附近多放置幾個(gè)設(shè)計(jì)點(diǎn)才能測(cè)定響應(yīng)在邊界附近的迅速變化。能測(cè)定響應(yīng)在邊界附近的迅速變化。 對(duì)于含倒數(shù)項(xiàng)的模型對(duì)于含倒數(shù)項(xiàng)的模型(5.16),Draper和和St.John算出了三分量近似算出了三分量近似D-最優(yōu)測(cè)最優(yōu)測(cè)度設(shè)計(jì)度設(shè)計(jì),其譜點(diǎn)如圖其譜點(diǎn)如圖5.2所示。所示。 圖5.2 時(shí)模型(5.16)的近似D-最優(yōu)測(cè)度設(shè)計(jì)譜點(diǎn) (0.05,0.05,0.90) (0.17,0.05 ,0.78) (0.05,0.17,0.78) （

27、0.2,0.2,0.6） (0.78,0.05 , 0.17) （0.6,0.2,0.2） （0.2,0.6,0.2） (0.05 ,0.78, 0.17)(0.09,0.05,0.05) (0.05,0.09,0.05) (0.78, 0.17,0.05) (0.17,0.78, 0.05)3p 比較圖比較圖5.1與圖與圖5.2可知可知,模型模型 (5.18)式的式的(0.05,0.225,0.725)這類(lèi)譜點(diǎn)要比模這類(lèi)譜點(diǎn)要比模型型(5.16)的的(0.05,0.17,0.78)這類(lèi)點(diǎn)更遠(yuǎn)離這類(lèi)點(diǎn)更遠(yuǎn)離頂點(diǎn)頂點(diǎn),盡管它門(mén)相似。這是因?yàn)楸M管它門(mén)相似。這是因?yàn)?當(dāng)當(dāng) 時(shí)時(shí), 趨于無(wú)窮要比趨于無(wú)

28、窮要比 來(lái)得緩慢的緣故。來(lái)得緩慢的緣故。同時(shí)還可以看到同時(shí)還可以看到,模型模型(5.18)的近似的近似D-最最優(yōu)設(shè)計(jì)譜點(diǎn)優(yōu)設(shè)計(jì)譜點(diǎn) 要比模型要比模型(5.16)少少,即它沒(méi)即它沒(méi)有類(lèi)似于有類(lèi)似于(0.2,0.2,0.6)這樣的點(diǎn)。似乎是這樣的點(diǎn)。似乎是這類(lèi)點(diǎn)退化成這類(lèi)點(diǎn)退化成(1/3,1/3,1/3)這一點(diǎn)。這一點(diǎn)。 0ixixln1x 表表5.4中的設(shè)計(jì)中的設(shè)計(jì) 是一個(gè)靠近是一個(gè)靠近D-最最優(yōu)設(shè)計(jì)的確切設(shè)計(jì)優(yōu)設(shè)計(jì)的確切設(shè)計(jì),它只含有它只含有10個(gè)點(diǎn)。個(gè)點(diǎn)。這個(gè)設(shè)計(jì)對(duì)于試驗(yàn)者是更為可取的。這個(gè)設(shè)計(jì)對(duì)于試驗(yàn)者是更為可取的。但是但是,由于近似由于近似D-最優(yōu)設(shè)計(jì)最優(yōu)設(shè)計(jì) 是所有其是所有其它確切設(shè)計(jì)

29、的參考設(shè)計(jì)它確切設(shè)計(jì)的參考設(shè)計(jì),所以它是十分所以它是十分重要的重要的,當(dāng)試驗(yàn)次數(shù)比較多時(shí)當(dāng)試驗(yàn)次數(shù)比較多時(shí),從它直接從它直接就可以產(chǎn)生相當(dāng)有效的確切設(shè)計(jì)。就可以產(chǎn)生相當(dāng)有效的確切設(shè)計(jì)。1 應(yīng)當(dāng)指出的是應(yīng)當(dāng)指出的是,正象模型正象模型(5.18)是是Scheffe一次典型多項(xiàng)式的推廣一樣一次典型多項(xiàng)式的推廣一樣,該該模型的近似模型的近似D-最優(yōu)設(shè)計(jì)也是最優(yōu)設(shè)計(jì)也是Scheffe一一次典型的次典型的D-最優(yōu)設(shè)計(jì)的推廣最優(yōu)設(shè)計(jì)的推廣,即后者即后者D-最優(yōu)設(shè)計(jì)的譜點(diǎn)是前者近似最優(yōu)設(shè)計(jì)的譜點(diǎn)是前者近似D-最優(yōu)設(shè)最優(yōu)設(shè)計(jì)的譜點(diǎn)的一個(gè)子集。當(dāng)進(jìn)行模型簡(jiǎn)計(jì)的譜點(diǎn)的一個(gè)子集。當(dāng)進(jìn)行模型簡(jiǎn)化時(shí)化時(shí),為估計(jì)對(duì)數(shù)項(xiàng)所加

30、的譜點(diǎn)可用來(lái)為估計(jì)對(duì)數(shù)項(xiàng)所加的譜點(diǎn)可用來(lái)進(jìn)行簡(jiǎn)化模型的擬合性檢驗(yàn)。進(jìn)行簡(jiǎn)化模型的擬合性檢驗(yàn)。 表表5.5中列出的是模型中列出的是模型(5.19)的近似的近似D-最優(yōu)設(shè)計(jì)最優(yōu)設(shè)計(jì) 。這個(gè)設(shè)計(jì)同樣是。這個(gè)設(shè)計(jì)同樣是Scheffe二次典型多項(xiàng)式模型的二次典型多項(xiàng)式模型的D-最優(yōu)最優(yōu)設(shè)計(jì)再加上為估計(jì)參數(shù)項(xiàng)設(shè)計(jì)再加上為估計(jì)參數(shù)項(xiàng) 而增加的而增加的那些點(diǎn)組成的那些點(diǎn)組成的,同模型同模型(5.18)的情況一樣的情況一樣,這些增加的點(diǎn)出現(xiàn)在單純形頂點(diǎn)附近這些增加的點(diǎn)出現(xiàn)在單純形頂點(diǎn)附近,但比但比Draper和和St.John的二次倒數(shù)項(xiàng)模的二次倒數(shù)項(xiàng)模型型(5.17)的那些附加點(diǎn)更遠(yuǎn)離于頂點(diǎn)。的那些附加點(diǎn)更遠(yuǎn)

31、離于頂點(diǎn)。設(shè)計(jì)設(shè)計(jì) 的全部譜點(diǎn)如圖的全部譜點(diǎn)如圖5.3所示。所示。 ixln 表表5.5 模型模型(5.19)的測(cè)度設(shè)計(jì)的測(cè)度設(shè)計(jì)1 410M,maxxdX支撐點(diǎn)集中的代支撐點(diǎn)集中的代表點(diǎn)表點(diǎn)集中的點(diǎn)數(shù)集中的點(diǎn)數(shù)(0.05,0.05,0.9)30.10881/9(0.05,0.475,0.475)30.10811/9(0.16,0.16,0.68)30.105311/9(0.05,0.17,0.78)60.005560.254290.25375.025.25 圖5.3 時(shí)模型(5.19)的近似D-最優(yōu)測(cè)度設(shè)計(jì)譜點(diǎn) (0.05,0.05,0.9) (0.17,0.05 ,0.78) (0.05,

32、0.17,0.78) （0.16,0.16,0.68） (0.475,0.05 ,0.475) (0.05, 0.475,0.475) (0.78,0.05 , 0.17) （0.68,0.16,0.16）（0.16,0.68,0.16） (0.05 ,0.78, 0.17) (0.475, 0.475, 0.05) (0.9,0.05,0.05) (0.05,0.9,0.05) (0.78, 0.17,0.05) (0.17,0.78, 0.05)3p 由圖由圖5.3可以看到可以看到,近似近似D-最最優(yōu)設(shè)計(jì)優(yōu)設(shè)計(jì) 的前三類(lèi)點(diǎn)集中的譜的前三類(lèi)點(diǎn)集中的譜點(diǎn)的測(cè)度都差不多相等且接近點(diǎn)的測(cè)度都差不多

33、相等且接近于于1/9,而最后一類(lèi)點(diǎn)集中的譜點(diǎn)而最后一類(lèi)點(diǎn)集中的譜點(diǎn)的測(cè)度相當(dāng)小。因此的測(cè)度相當(dāng)小。因此,取前三類(lèi)取前三類(lèi)點(diǎn)組成一個(gè)點(diǎn)組成一個(gè)9點(diǎn)確切設(shè)計(jì)點(diǎn)確切設(shè)計(jì) , 則則 是一個(gè)相當(dāng)有效的確切設(shè)計(jì)。是一個(gè)相當(dāng)有效的確切設(shè)計(jì)。 11 5.2 數(shù)值分析數(shù)值分析 實(shí)驗(yàn)設(shè)計(jì)和數(shù)據(jù)處理的主要目的之一實(shí)驗(yàn)設(shè)計(jì)和數(shù)據(jù)處理的主要目的之一是建立一個(gè)能夠描述研究對(duì)象基本規(guī)律的是建立一個(gè)能夠描述研究對(duì)象基本規(guī)律的數(shù)學(xué)模型數(shù)學(xué)模型,并要求模型并要求模型具有要求的可靠性具有要求的可靠性,以以便用于指導(dǎo)便用于指導(dǎo)選擇最佳實(shí)驗(yàn)方案選擇最佳實(shí)驗(yàn)方案以及對(duì)研究以及對(duì)研究對(duì)象由于影響因素的變更而產(chǎn)生的響應(yīng)指對(duì)象由于影響因素的變

34、更而產(chǎn)生的響應(yīng)指標(biāo)進(jìn)行標(biāo)進(jìn)行預(yù)測(cè)預(yù)測(cè),或可用于對(duì)系統(tǒng)的控制。因此或可用于對(duì)系統(tǒng)的控制。因此,在實(shí)踐和系統(tǒng)科學(xué)知識(shí)的基礎(chǔ)上在實(shí)踐和系統(tǒng)科學(xué)知識(shí)的基礎(chǔ)上,用科學(xué)的用科學(xué)的方法建立研究對(duì)象的響應(yīng)與影響因素間的方法建立研究對(duì)象的響應(yīng)與影響因素間的可靠數(shù)學(xué)模型可靠數(shù)學(xué)模型,無(wú)論對(duì)于科學(xué)研究還是工業(yè)無(wú)論對(duì)于科學(xué)研究還是工業(yè)生產(chǎn)生產(chǎn),都具有重要的意義。下圖給出了建立都具有重要的意義。下圖給出了建立數(shù)學(xué)一般方法數(shù)學(xué)一般方法: 建立數(shù)學(xué)一般方法建立數(shù)學(xué)一般方法建立數(shù)學(xué)一般方法建立數(shù)學(xué)一般方法 設(shè)計(jì)產(chǎn)生新數(shù)據(jù) 經(jīng)驗(yàn)與科學(xué)知識(shí)模型不適合實(shí)驗(yàn)?zāi)Ｐ涂扇∧Ｐ褪欠耧@著,系數(shù)是否穩(wěn)定未知系數(shù)估計(jì)數(shù)據(jù)模型 5.2.1 方差分析

35、和回歸分析方差分析和回歸分析 5.2.1.1 方差分析方差分析 (方差、標(biāo)準(zhǔn)差、極差方差、標(biāo)準(zhǔn)差、極差) 方差分析通?？梢圆恍枰M(jìn)行嚴(yán)格的實(shí)方差分析通?？梢圆恍枰M(jìn)行嚴(yán)格的實(shí)驗(yàn)設(shè)計(jì)驗(yàn)設(shè)計(jì),一般是根據(jù)經(jīng)驗(yàn)和可獲得的相關(guān)知識(shí)一般是根據(jù)經(jīng)驗(yàn)和可獲得的相關(guān)知識(shí),確定研究或考察對(duì)象所需要達(dá)到的主要指標(biāo)確定研究或考察對(duì)象所需要達(dá)到的主要指標(biāo)以及相關(guān)的影響因素以及相關(guān)的影響因素,通過(guò)對(duì)實(shí)驗(yàn)結(jié)果的方差通過(guò)對(duì)實(shí)驗(yàn)結(jié)果的方差分析分析,考察各因素對(duì)指標(biāo)影響的重要程度考察各因素對(duì)指標(biāo)影響的重要程度,進(jìn)而進(jìn)而找出影響指標(biāo)的主要因素找出影響指標(biāo)的主要因素,再通過(guò)對(duì)主要因素再通過(guò)對(duì)主要因素的調(diào)整和控制的調(diào)整和控制,獲得優(yōu)良

36、的指標(biāo)值。方差分析獲得優(yōu)良的指標(biāo)值。方差分析通常只判斷所考察的因素對(duì)指標(biāo)有無(wú)顯著影通常只判斷所考察的因素對(duì)指標(biāo)有無(wú)顯著影響或影響的程度響或影響的程度,而不給出它們間的相互關(guān)系而不給出它們間的相互關(guān)系或數(shù)學(xué)模型?；驍?shù)學(xué)模型。 方差分析的具體方法參閱實(shí)驗(yàn)設(shè)計(jì)與分析(清華大學(xué)出版社,陳魁)、數(shù)學(xué)地質(zhì)的方法與應(yīng)用(冶金工業(yè)出版社,於崇文等)、經(jīng)濟(jì)統(tǒng)計(jì)分析方法及預(yù)測(cè)(清華大學(xué)出版社,羅積玉等)。 5.2.1. 2 回歸分析回歸分析 回歸分析又稱(chēng)為因素分析回歸分析又稱(chēng)為因素分析,回歸分析不僅回歸分析不僅判斷因素對(duì)指標(biāo)影響的重要程度判斷因素對(duì)指標(biāo)影響的重要程度,而且給出指而且給出指標(biāo)與因素間的函數(shù)關(guān)系標(biāo)與因

37、素間的函數(shù)關(guān)系(回歸方程回歸方程),因而可用因而可用于對(duì)指標(biāo)的預(yù)測(cè)。回歸分析一般也不要求嚴(yán)于對(duì)指標(biāo)的預(yù)測(cè)?；貧w分析一般也不要求嚴(yán)格的實(shí)驗(yàn)設(shè)計(jì)?；貧w分析可以分為一元回歸格的實(shí)驗(yàn)設(shè)計(jì)?；貧w分析可以分為一元回歸分析和多元回歸分析。分析和多元回歸分析。 一元回歸分析一元回歸分析:一元線性回歸分析、一元一元線性回歸分析、一元非線性回歸分析非線性回歸分析;多元回歸分析多元回歸分析:多元線性回多元線性回歸分析、多元逐步回歸分析、多元嶺回歸分歸分析、多元逐步回歸分析、多元嶺回歸分析、多因變量多自變量線性回歸分析、多元析、多因變量多自變量線性回歸分析、多元非線性回歸分析等。非線性回歸分析等。 多元線性回歸分析多

38、元線性回歸分析 數(shù)學(xué)模型數(shù)學(xué)模型:在科學(xué)研究和生產(chǎn)實(shí)踐在科學(xué)研究和生產(chǎn)實(shí)踐,許多許多研究對(duì)象的響應(yīng)指標(biāo)研究對(duì)象的響應(yīng)指標(biāo)(因變量因變量)與影響因與影響因素素(自變量自變量)間存在線性關(guān)系。另一方面間存在線性關(guān)系。另一方面,即使是非線性問(wèn)題即使是非線性問(wèn)題,也經(jīng)常可以通過(guò)簡(jiǎn)單也經(jīng)常可以通過(guò)簡(jiǎn)單的數(shù)學(xué)處理將其轉(zhuǎn)化為線性模型來(lái)處理的數(shù)學(xué)處理將其轉(zhuǎn)化為線性模型來(lái)處理,例如對(duì)例如對(duì) 這樣的對(duì)數(shù)模型這樣的對(duì)數(shù)模型,可以簡(jiǎn)單地對(duì)等號(hào)兩邊取對(duì)數(shù)可以簡(jiǎn)單地對(duì)等號(hào)兩邊取對(duì)數(shù),就可精確就可精確將其轉(zhuǎn)化為線性模型。將其轉(zhuǎn)化為線性模型。maxkyexp 對(duì)于非線性多項(xiàng)式對(duì)于非線性多項(xiàng)式,則可以用變量則可以用變量替換實(shí)現(xiàn)

39、線性化。對(duì)于不能簡(jiǎn)單線性化替換實(shí)現(xiàn)線性化。對(duì)于不能簡(jiǎn)單線性化的數(shù)學(xué)模型的數(shù)學(xué)模型,也還可以采用展開(kāi)級(jí)數(shù)的形也還可以采用展開(kāi)級(jí)數(shù)的形式式,用有限項(xiàng)多項(xiàng)式來(lái)近似描述。因此用有限項(xiàng)多項(xiàng)式來(lái)近似描述。因此,通過(guò)實(shí)驗(yàn)設(shè)計(jì)和數(shù)據(jù)處理建立描述研究通過(guò)實(shí)驗(yàn)設(shè)計(jì)和數(shù)據(jù)處理建立描述研究或考察對(duì)象的響應(yīng)與影響因素間關(guān)系的或考察對(duì)象的響應(yīng)與影響因素間關(guān)系的線性數(shù)學(xué)模型有重要意義。線性數(shù)學(xué)模型有重要意義。 設(shè)變量設(shè)變量y與變量與變量 , , , 存在線性回歸關(guān)系存在線性回歸關(guān)系: 1x2x3xPx 它的第它的第a次實(shí)驗(yàn)的次實(shí)驗(yàn)的數(shù)據(jù)是數(shù)據(jù)是 : （ya; , , , ),a=1,2,3,N 于是有：于是有： (5.20

40、)ppxxxy221101ax2ax3axapxNNppNNppppxxxxxxxxx22110N22222211021112211101yyy 其中其中 是是p1個(gè)待個(gè)待估參數(shù)估參數(shù); 是是p個(gè)可以精個(gè)可以精確測(cè)量或控制的變量確測(cè)量或控制的變量; 是是N個(gè)相互獨(dú)立且服從同一正態(tài)分個(gè)相互獨(dú)立且服從同一正態(tài)分布布 的隨機(jī)變量。的隨機(jī)變量。(5.20)即是多即是多元線性回歸的數(shù)學(xué)模型。其矩陣形元線性回歸的數(shù)學(xué)模型。其矩陣形式如下式如下: Y=X (5.21) 其中：其中：P,210pxxx,21N,21, 0N X= Y= = = 參數(shù)參數(shù)的最小二乘估計(jì)的最小二乘估計(jì): :設(shè)設(shè) 分別是分別是 的最

41、小二乘估計(jì)的最小二乘估計(jì), ,NpNppxxxxxx1221111111Nyyy21p210N21pbbbb,210P,210 也即使也即使 , ,滿足滿足: : 也就是要求出也就是要求出 ,使得全部使得全部 觀測(cè)值與回歸值觀測(cè)值與回歸值: 的殘差平方和的殘差平方和Q Q達(dá)到最小。因達(dá)到最小。因Q Q是非負(fù)二次式是非負(fù)二次式, ,故最小值一定存在。由極值原理及對(duì)矩陣求故最小值一定存在。由極值原理及對(duì)矩陣求導(dǎo)法則導(dǎo)法則, ,當(dāng)當(dāng)Q Q取得最小值時(shí)取得最小值時(shí),b,b滿足滿足: :pbbbbb2102122minNaaayyXYXbYQpbbbb,210ayappaaaxbxbxbby22110

42、即即 稱(chēng)稱(chēng)X為結(jié)構(gòu)矩陣為結(jié)構(gòu)矩陣, , 為信息矩陣為信息矩陣, 為相關(guān)矩陣。求解后得回歸為相關(guān)矩陣。求解后得回歸方程：方程： (5.22) 稱(chēng)稱(chēng) 為回歸系數(shù)。為回歸系數(shù)。YXbXXYXXXb1XX1XXappaaaxbxbxbby22110pbbbb,210回歸方程及回歸系數(shù)的顯著性檢驗(yàn)回歸方程及回歸系數(shù)的顯著性檢驗(yàn): : 得到上述回歸方程后得到上述回歸方程后, ,還要對(duì)其還要對(duì)其進(jìn)行顯著性檢驗(yàn)進(jìn)行顯著性檢驗(yàn), ,看看 與與 之間是之間是否存在所假設(shè)的線性關(guān)系。通常用否存在所假設(shè)的線性關(guān)系。通常用F檢驗(yàn)來(lái)檢驗(yàn)回歸方程的顯著性。檢驗(yàn)來(lái)檢驗(yàn)回歸方程的顯著性。根據(jù)回歸方程根據(jù)回歸方程(5.22)可以

43、寫(xiě)出可以寫(xiě)出: :xy (5.23) 設(shè)設(shè) , ,總偏差平方和為總偏差平方和為: : (5.24)(5.24)NNpNNppNbbbbxxxxxxxxxyyyY21021222211121121111NaayNy11212121NaaNaaNaayyyyyyS總 我們稱(chēng)我們稱(chēng) 為剩余平方和為剩余平方和, , 記為記為S剩剩, , 為回歸平方為回歸平方和和, ,記為記為S回回, ,則則F檢驗(yàn)式為檢驗(yàn)式為: : (5.25) Naaayy12Naayy121pNSpSF?；?, pNpFFa 在選定的顯著性水平下在選定的顯著性水平下, ,如如 , ,則認(rèn)為線性則認(rèn)為線性回歸方程回歸方程(5.22)

44、是有顯著意義的是有顯著意義的, 與與 之間存在線性關(guān)系之間存在線性關(guān)系,回歸方程回歸方程可以使用。否則可以使用。否則,認(rèn)為回歸方程沒(méi)有認(rèn)為回歸方程沒(méi)有顯著意義顯著意義, 與與 之間無(wú)線性關(guān)系之間無(wú)線性關(guān)系,這這時(shí)需要修改模型時(shí)需要修改模型,重新用最小二乘法重新用最小二乘法求回歸系數(shù)求回歸系數(shù),得到新的回歸系數(shù)。得到新的回歸系數(shù)。1, pNpFFayixyix 回歸方程通過(guò)顯著性檢驗(yàn)后還需要對(duì)回回歸方程通過(guò)顯著性檢驗(yàn)后還需要對(duì)回歸系數(shù)進(jìn)行顯著性檢驗(yàn)歸系數(shù)進(jìn)行顯著性檢驗(yàn),以判斷每個(gè)因素以判斷每個(gè)因素(自自變量變量 )對(duì)因變量對(duì)因變量 的影響程度的影響程度,剔除那些影剔除那些影響不明顯的自變量響不明

45、顯的自變量,重新建立更為簡(jiǎn)便的回歸重新建立更為簡(jiǎn)便的回歸方程。記方程。記 ,可用統(tǒng)計(jì)量可用統(tǒng)計(jì)量 (5.26) 檢驗(yàn)回歸系數(shù)檢驗(yàn)回歸系數(shù) 的顯著性。在給定的顯著的顯著性。在給定的顯著水平下水平下,如如 , ,則回歸性數(shù)是顯則回歸性數(shù)是顯著的著的, ,認(rèn)為自變量認(rèn)為自變量 對(duì)對(duì) 影響顯著影響顯著, ,反之則認(rèn)反之則認(rèn)為影響不顯著為影響不顯著, ,可以從回歸方程中剔除?？梢詮幕貧w方程中剔除。12pNScbFiii剩1 pNpF，CXX1xyib1, pNpFFaixy 得到最后的回歸方程后得到最后的回歸方程后, ,就可以對(duì)目標(biāo)進(jìn)行預(yù)報(bào)或確定就可以對(duì)目標(biāo)進(jìn)行預(yù)報(bào)或確定理想目標(biāo)值的最佳條件。理想目標(biāo)值

46、的最佳條件。 多元線性回歸分析程序框多元線性回歸分析程序框圖及圖及FORTRANFORTRAN程序說(shuō)明程序說(shuō)明: 見(jiàn)東北工學(xué)院出版社見(jiàn)東北工學(xué)院出版社最優(yōu)最優(yōu)設(shè)計(jì)的計(jì)算機(jī)證明與構(gòu)造設(shè)計(jì)的計(jì)算機(jī)證明與構(gòu)造P358P358382382。逐步回歸分析逐步回歸分析: :實(shí)際問(wèn)題中實(shí)際問(wèn)題中, ,選擇合適的選擇合適的變量來(lái)建立回歸方程變量來(lái)建立回歸方程, ,不是一件簡(jiǎn)單的不是一件簡(jiǎn)單的事情。因?yàn)閷?duì)于一個(gè)確定的指標(biāo)事情。因?yàn)閷?duì)于一個(gè)確定的指標(biāo) (因因變量變量), ,影響它的因素影響它的因素(自變量自變量)通常很多通常很多, ,同時(shí)影響因素間還可能存在多重共線性同時(shí)影響因素間還可能存在多重共線性, ,即各因

47、素之間有高度的相互依賴(lài)性即各因素之間有高度的相互依賴(lài)性, ,或或各因素之間不是相互獨(dú)立的各因素之間不是相互獨(dú)立的, ,因此會(huì)給因此會(huì)給回歸系數(shù)帶來(lái)不合理的解釋?；貧w系數(shù)帶來(lái)不合理的解釋。y 為了得到一個(gè)穩(wěn)健、可靠的回歸模為了得到一個(gè)穩(wěn)健、可靠的回歸模型型, ,需要給出一種方法需要給出一種方法, ,能夠從眾多的影能夠從眾多的影響的因素中挑選出對(duì)響的因素中挑選出對(duì) 貢獻(xiàn)大貢獻(xiàn)大(顯著顯著)的的自變量自變量, ,在觀測(cè)數(shù)據(jù)的基礎(chǔ)上建立簡(jiǎn)潔在觀測(cè)數(shù)據(jù)的基礎(chǔ)上建立簡(jiǎn)潔的的“最優(yōu)最優(yōu)”回歸方程?；貧w方程。 逐步回歸分析方法就是一種從大量逐步回歸分析方法就是一種從大量的可供選擇的變量中的可供選擇的變量中,

48、,篩選出對(duì)建立回篩選出對(duì)建立回歸方程重要?dú)w方程重要(對(duì)指標(biāo)對(duì)指標(biāo)/目標(biāo)變量影響顯著目標(biāo)變量影響顯著)的變量的方法的變量的方法, ,它是在多元線性回歸基它是在多元線性回歸基礎(chǔ)上派生出來(lái)的一種算法技巧。礎(chǔ)上派生出來(lái)的一種算法技巧。y “最優(yōu)最優(yōu)” 回歸方程的選擇回歸方程的選擇: :從多元從多元線性回歸分析的方法可知線性回歸分析的方法可知, ,采用的自變采用的自變量越多量越多, ,回歸平方和越大回歸平方和越大, ,殘差平方和就殘差平方和就越小。越小。然而然而,采用較多的變量來(lái)擬合回歸采用較多的變量來(lái)擬合回歸方程方程,一方面使回歸方程變得復(fù)雜一方面使回歸方程變得復(fù)雜,也會(huì)也會(huì)使方程的穩(wěn)定性變差使方程的

49、穩(wěn)定性變差,每個(gè)自變量的區(qū)間每個(gè)自變量的區(qū)間誤差積累將影響總體誤差誤差積累將影響總體誤差,使得回歸方程使得回歸方程的預(yù)報(bào)可靠性和精度降低。的預(yù)報(bào)可靠性和精度降低。 另一方面另一方面,如果采用了對(duì)目標(biāo)影響如果采用了對(duì)目標(biāo)影響甚小的變量而遺漏了重要變量甚小的變量而遺漏了重要變量,可導(dǎo)致可導(dǎo)致估計(jì)量產(chǎn)生偏倚性和不一致性。因此估計(jì)量產(chǎn)生偏倚性和不一致性。因此,我們希望在回歸方程中能包含所有影我們希望在回歸方程中能包含所有影響重要的變量而排除影響不重要的變響重要的變量而排除影響不重要的變量量,也就是得到也就是得到“最優(yōu)最優(yōu)”回歸方程。對(duì)回歸方程。對(duì)于線性方程于線性方程: 得到得到“最優(yōu)最優(yōu)”回歸方程回歸

50、方程,通?？刹赏ǔ？刹捎孟旅鎺追N不同的方法用下面幾種不同的方法:ppxxxy22110 “逐步剔除逐步剔除”回歸分析方法回歸分析方法:此法是首先采此法是首先采用全部自變量與因變量用全部自變量與因變量 建立回歸方程建立回歸方程,然后然后對(duì)每一個(gè)自變量因子作顯著性檢驗(yàn)對(duì)每一個(gè)自變量因子作顯著性檢驗(yàn),剔除不顯剔除不顯著的變量中偏回歸平方和最小的變量著的變量中偏回歸平方和最小的變量,然后再然后再用剩余的變量和用剩余的變量和 重新建立回歸方程重新建立回歸方程,再對(duì)方再對(duì)方程中各自變量進(jìn)行顯著性檢驗(yàn)程中各自變量進(jìn)行顯著性檢驗(yàn),剔去其中偏回剔去其中偏回歸平方和最小的不顯著變量歸平方和最小的不顯著變量,不斷重

51、復(fù)此過(guò)程不斷重復(fù)此過(guò)程,直至回歸方程中各因子均顯著為止。這樣最直至回歸方程中各因子均顯著為止。這樣最后得到的就是后得到的就是“最優(yōu)最優(yōu)”回歸方程。方程中所回歸方程。方程中所保留的自變量數(shù)與顯著性水平有關(guān)。保留的自變量數(shù)與顯著性水平有關(guān)。 yy “逐步引入逐步引入”回歸分析方法回歸分析方法:這種方法的這種方法的基本點(diǎn)是從一個(gè)自變量開(kāi)始基本點(diǎn)是從一個(gè)自變量開(kāi)始,把自變量逐個(gè)把自變量逐個(gè)地引入回歸方程。第一步是在所有自變量地引入回歸方程。第一步是在所有自變量中選出其中的一個(gè)中選出其中的一個(gè),使它和使它和 組成的一元回組成的一元回歸方程比其他的變量與歸方程比其他的變量與 組成的一元回歸方組成的一元回歸

52、方程具有更大的回歸平方和程具有更大的回歸平方和;第二步再在未選第二步再在未選入的變量中選擇這樣一個(gè)自變量入的變量中選擇這樣一個(gè)自變量,使它和已使它和已選入的那個(gè)變量組成的二元回歸方程選入的那個(gè)變量組成的二元回歸方程,比其比其他任意一個(gè)變量與已選入的那個(gè)變量組成他任意一個(gè)變量與已選入的那個(gè)變量組成的二元回歸方程具有更大的回歸平方和。的二元回歸方程具有更大的回歸平方和。 yy 此過(guò)程不斷進(jìn)行此過(guò)程不斷進(jìn)行,在每一步中在每一步中,都要對(duì)將都要對(duì)將要選入的自變量進(jìn)行顯著性檢驗(yàn)要選入的自變量進(jìn)行顯著性檢驗(yàn),確認(rèn)為顯確認(rèn)為顯著時(shí)才引入并進(jìn)行下一步著時(shí)才引入并進(jìn)行下一步,直到無(wú)顯著變量直到無(wú)顯著變量可供引入

53、時(shí)可供引入時(shí),過(guò)程結(jié)束過(guò)程結(jié)束,最后一個(gè)方程即為最后一個(gè)方程即為“最優(yōu)最優(yōu)”回歸方程。回歸方程。 “逐步剔除逐步剔除”和和“逐步引入逐步引入”的方法的方法都有各自不足之處都有各自不足之處,“逐步剔除逐步剔除”一開(kāi)始就要一開(kāi)始就要計(jì)算包括所有自變量的回歸方程計(jì)算包括所有自變量的回歸方程,如果原始如果原始自變量中包含較多個(gè)不顯著因素自變量中包含較多個(gè)不顯著因素,計(jì)算量將計(jì)算量將較大。較大?！爸鸩揭胫鸩揭搿钡姆椒▌t未考慮到由的方法則未考慮到由于新變量的逐步引入于新變量的逐步引入,使得原有引入的變量使得原有引入的變量有可能會(huì)失去重要性。有可能會(huì)失去重要性。 “有進(jìn)有出有進(jìn)有出”回歸分析法回歸分析法

54、:為了克服為了克服上述兩種方法的不足上述兩種方法的不足,發(fā)展了發(fā)展了“有進(jìn)有有進(jìn)有出出”回歸分析法回歸分析法,即逐步回歸分析法。即逐步回歸分析法。此方法類(lèi)似于方法此方法類(lèi)似于方法,從一個(gè)自變量開(kāi)從一個(gè)自變量開(kāi)始始,視自變量對(duì)視自變量對(duì) 影響的顯著程度影響的顯著程度,從大從大到小逐個(gè)引入回歸方程。不同之處在于到小逐個(gè)引入回歸方程。不同之處在于,當(dāng)原引入變量由于后續(xù)變量的引入而變當(dāng)原引入變量由于后續(xù)變量的引入而變得不再顯著時(shí)得不再顯著時(shí),要將其剔除。引入一個(gè)要將其剔除。引入一個(gè)變量或從回歸方程中剔除一個(gè)變量變量或從回歸方程中剔除一個(gè)變量,為為逐步回歸的一步。逐步回歸的一步。y 每一步都要進(jìn)行每一步

55、都要進(jìn)行F檢驗(yàn)檢驗(yàn),以確保每次以確保每次引入新的顯著性變量之前回歸方程中只引入新的顯著性變量之前回歸方程中只包含顯著的變量。這個(gè)過(guò)程反復(fù)進(jìn)行包含顯著的變量。這個(gè)過(guò)程反復(fù)進(jìn)行,直直至既無(wú)不顯著變量從回歸方程中剔除至既無(wú)不顯著變量從回歸方程中剔除,又又無(wú)顯著變量選入回歸方程時(shí)為止。無(wú)顯著變量選入回歸方程時(shí)為止。 引入變量與剔除變量的依據(jù)引入變量與剔除變量的依據(jù): :逐步回歸逐步回歸分析是按各自變量對(duì)分析是按各自變量對(duì) 的作用顯著程度的大的作用顯著程度的大小來(lái)決定其是否引入或是否剔除。用以衡量小來(lái)決定其是否引入或是否剔除。用以衡量各自變量對(duì)各自變量對(duì) 的作用大小的量是它們對(duì)的作用大小的量是它們對(duì) 的

56、的“貢獻(xiàn)貢獻(xiàn)”, ,即回歸平方和。即回歸平方和。yyy 由多元線性回歸分析知由多元線性回歸分析知, , 個(gè)變量個(gè)變量回歸方程的回歸平方和為回歸方程的回歸平方和為 (5.27) 其中其中 為回歸系數(shù)為回歸系數(shù), , 為正規(guī)方程右為正規(guī)方程右端常數(shù)項(xiàng)端常數(shù)項(xiàng), , 為總偏差為總偏差(離差離差)平方和平方和, , 為剩余平方和為剩余平方和(殘差平方和殘差平方和)。 如果從這如果從這 個(gè)變量中剔除個(gè)變量中剔除 , ,則回則回歸平方和將減少為歸平方和將減少為 :?？偦豐SSbSlijyi1ibiyS總S剩Slixl (5.28) 由于由于: : (5.29) 為一定數(shù)為一定數(shù), ,故記故記: : 就是就

57、是 在這在這 個(gè)變量的回歸方個(gè)變量的回歸方程中的貢獻(xiàn)程中的貢獻(xiàn), ,即偏回歸平方和。即偏回歸平方和。 剩總回SSS21NaayyS總剩?；鼗豐SSSViiVixl 可以證明可以證明: (5.30) 是正規(guī)方程的系數(shù)矩陣是正規(guī)方程的系數(shù)矩陣 的的逆矩陣逆矩陣 中主對(duì)角線上的第中主對(duì)角線上的第 個(gè)元個(gè)元素。一般記為素。一般記為: : (5.31)iiiicbV2iicijSijCi liililicbV2 顯然顯然, ,如果要在回歸方程中剔除不如果要在回歸方程中剔除不顯著變量顯著變量, ,則首先應(yīng)從已引入變量中剔則首先應(yīng)從已引入變量中剔除貢獻(xiàn)最小的除貢獻(xiàn)最小的, ,不妨設(shè)為第不妨設(shè)為第 個(gè)變量個(gè)變

58、量, ,即：即： 對(duì)對(duì) 作顯著性檢驗(yàn)作顯著性檢驗(yàn): : k liilkVVmin為已引入變量序號(hào) lkV llkSVkNF剩剔1 如果如果 , ,即在顯著性水平即在顯著性水平 意義下意義下, ,如果如果 檢驗(yàn)值小于或等于臨檢驗(yàn)值小于或等于臨界值界值 , ,則該變量應(yīng)從回歸方程中剔則該變量應(yīng)從回歸方程中剔除除, ,否則保留。類(lèi)似地否則保留。類(lèi)似地, ,如果變量如果變量 為為未引入變量未引入變量, ,并設(shè)它將作為第并設(shè)它將作為第 個(gè)個(gè)變量引入回歸方程變量引入回歸方程, ,則其貢獻(xiàn)為則其貢獻(xiàn)為: : (5.32) 2aFF剔2a剔F2aFix1l1211liililicbV 在回歸計(jì)算的某一步引入的

59、變量在回歸計(jì)算的某一步引入的變量應(yīng)是此時(shí)所有未引入變量中對(duì)應(yīng)是此時(shí)所有未引入變量中對(duì) 貢獻(xiàn)貢獻(xiàn)最大的一個(gè)最大的一個(gè), ,不妨設(shè)其序號(hào)為不妨設(shè)其序號(hào)為 , ,即即: : 其對(duì)應(yīng)的其對(duì)應(yīng)的F檢驗(yàn)值為檢驗(yàn)值為: : (5.33)yk11maxliilkVV為未引入變量序號(hào) 11111111lkllkllkVSVlNSVlNF剩剩引 如果如果 , ,即在顯著性水即在顯著性水平平 意義下意義下, ,如果檢驗(yàn)值如果檢驗(yàn)值 大于大于臨界值臨界值 , ,則將該變量引入回歸方則將該變量引入回歸方程程, ,否則不予引入。否則不予引入。 逐步回歸計(jì)算步驟及應(yīng)用實(shí)逐步回歸計(jì)算步驟及應(yīng)用實(shí)例例: :(清華大學(xué)出版社清華

60、大學(xué)出版社經(jīng)濟(jì)統(tǒng)計(jì)分經(jīng)濟(jì)統(tǒng)計(jì)分析方法及預(yù)測(cè)析方法及預(yù)測(cè)P4864)1aFF剔1a引F1aF實(shí)例實(shí)例:礬土基礬土基-Sialon結(jié)合剛玉復(fù)合材料結(jié)合剛玉復(fù)合材料的制備工藝研究。的制備工藝研究。 實(shí)驗(yàn)?zāi)康膶?shí)驗(yàn)?zāi)康?以電熔剛玉、高鋁礬土、金屬硅粉以電熔剛玉、高鋁礬土、金屬硅粉和高純氮為原料和高純氮為原料,采用反應(yīng)燒結(jié)方法制備采用反應(yīng)燒結(jié)方法制備-Sialon結(jié)合剛玉復(fù)合材料。用逐次線性回歸結(jié)合剛玉復(fù)合材料。用逐次線性回歸分析方法對(duì)得到的數(shù)據(jù)進(jìn)行分析分析方法對(duì)得到的數(shù)據(jù)進(jìn)行分析,并經(jīng)過(guò)實(shí)驗(yàn)并經(jīng)過(guò)實(shí)驗(yàn)驗(yàn)證驗(yàn)證,得到性能與顆粒配比間可信的數(shù)學(xué)模型得到性能與顆粒配比間可信的數(shù)學(xué)模型,進(jìn)而根據(jù)模型進(jìn)行性能預(yù)報(bào)