第五章 回歸設(shè)計(jì)

第五章回歸設(shè)計(jì)第1頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月§5.1回歸設(shè)計(jì)的基本概念回歸設(shè)計(jì)方法是由英國(guó)統(tǒng)計(jì)學(xué)家G.Box在20世紀(jì)50年代初針對(duì)化工生產(chǎn)提出的?；貧w設(shè)計(jì)也稱(chēng)為響應(yīng)面設(shè)計(jì)，目的是尋求試驗(yàn)指標(biāo)與各定量因子間的定量規(guī)律，找到工作條件的最優(yōu)值（最優(yōu)工藝、最佳配方等）。它是在多元線(xiàn)性回歸的基礎(chǔ)上用主動(dòng)收集數(shù)據(jù)的方法獲得具有較好性質(zhì)的回歸方程的一種試驗(yàn)設(shè)計(jì)方法。第2頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.1.1回歸分析——數(shù)據(jù)處理由被動(dòng)變主動(dòng)

古典的回歸分析方法只是被動(dòng)地處理已有的試驗(yàn)數(shù)據(jù)，對(duì)試驗(yàn)點(diǎn)的安排不提任何要求，試驗(yàn)點(diǎn)散亂而不均勻，預(yù)測(cè)值的標(biāo)準(zhǔn)誤很大，且對(duì)于回歸方程的精度研究也很少。其后果：（1）盲目增加試驗(yàn)次數(shù)，這些試驗(yàn)數(shù)據(jù)還不能提供充分的信息，在許多復(fù)因子試驗(yàn)問(wèn)題中達(dá)不到試驗(yàn)?zāi)康?。?）對(duì)模型的合適性有時(shí)無(wú)法檢驗(yàn)，因?yàn)樵诒粍?dòng)處理數(shù)據(jù)時(shí)在同一試驗(yàn)點(diǎn)上不一定存在重復(fù)試驗(yàn)數(shù)據(jù)。為了適應(yīng)尋求最佳工藝、最佳配方、建立生產(chǎn)過(guò)程的數(shù)學(xué)模型等的需要，人們就要求以較少的試驗(yàn)次數(shù)建立精度較高的回歸方程。第3頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

為此，要求擺脫古典回歸分析的被動(dòng)局面，主動(dòng)把試驗(yàn)的安排、數(shù)據(jù)的處理和回歸方程的精度統(tǒng)一起來(lái)考慮，即根據(jù)試驗(yàn)?zāi)康暮蛿?shù)據(jù)分析的要求來(lái)選擇試驗(yàn)點(diǎn)，不僅使得在每一個(gè)試驗(yàn)點(diǎn)上獲得的數(shù)據(jù)含有最大的信息，從而減少試驗(yàn)次數(shù)，而且使數(shù)據(jù)的統(tǒng)計(jì)分析具有一些較好的性質(zhì)。這就是二十世紀(jì)五十年代發(fā)展起來(lái)的“回歸設(shè)計(jì)”所研究的問(wèn)題。

回歸設(shè)計(jì)的分類(lèi)：根據(jù)建立的回歸方程的次數(shù)不同，回歸設(shè)計(jì)通常有一次回歸設(shè)計(jì)、二次回歸設(shè)計(jì)等；根據(jù)設(shè)計(jì)的性質(zhì)又有正交設(shè)計(jì)、旋轉(zhuǎn)設(shè)計(jì)、通用設(shè)計(jì)和最優(yōu)設(shè)計(jì)等。

本章僅介紹二次回歸的各種設(shè)計(jì)方法。第4頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.1.2多項(xiàng)式回歸模型

在一些試驗(yàn)中希望建立試驗(yàn)指標(biāo)y與各個(gè)定量因子之間關(guān)系的定量表達(dá)式，即回歸方程，以便通過(guò)該回歸方程找出使指標(biāo)滿(mǎn)足極值要求的各因子的取值。

可以假定y與間有如下關(guān)系：

這里是的一個(gè)函數(shù)，其圖形也稱(chēng)為響應(yīng)曲面。

是隨機(jī)誤差，通常假定它服從均值為0，方差為

的正態(tài)分布。

第5頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

試驗(yàn)設(shè)計(jì)中，我們稱(chēng)為因子或自變量。稱(chēng)

的可能取值的空間為因子空間。我們的任務(wù)就是從因子空間中尋找一個(gè)最佳工藝條件（最優(yōu)點(diǎn)）

，使y滿(mǎn)足要求。

當(dāng)f的函數(shù)形式已知時(shí)，可以通過(guò)最優(yōu)化的方法去尋找

。在許多情況下f的形式并不知道，這時(shí)常常用一個(gè)多項(xiàng)式去逼近它，即假定：這里各為未知參數(shù)，稱(chēng)為回歸系數(shù)，通常需要通過(guò)試驗(yàn)數(shù)據(jù)對(duì)它們進(jìn)行估計(jì)。第6頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月在實(shí)際中常用如下的一次與二次回歸方程：若用表示相應(yīng)的估計(jì)，則稱(chēng)為y關(guān)于的多項(xiàng)式回歸方程。第7頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.1.3多元線(xiàn)性回歸

多項(xiàng)式回歸模型，在對(duì)變量作了變換并重新命名后也可以看成是一個(gè)多元線(xiàn)性回歸模型。比如對(duì)二次回歸模型令即變成五元線(xiàn)性回歸模型。

1）回歸模型

假定回歸模型為：

第8頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月記隨機(jī)變量的觀測(cè)向量為回歸參數(shù)向量為，隨機(jī)誤差向量為結(jié)構(gòu)矩陣上述模型可以表示為矩陣形式：第9頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

2）回歸系數(shù)的最小二乘估計(jì)估計(jì)回歸模型中回歸系數(shù)的方法是最小二乘法。記回歸系數(shù)的最小二乘估計(jì)為，應(yīng)滿(mǎn)足如下正規(guī)方程組：

當(dāng)存在時(shí)，最小二乘估計(jì)為：在求得了最小二乘估計(jì)后，可以寫(xiě)出回歸方程：

第10頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

3）對(duì)回歸方程的顯著性檢驗(yàn)

對(duì)回歸方程的顯著性檢驗(yàn)是指檢驗(yàn)如下假設(shè)：

H0：

H1：不全為0

則平方和分解式

其中

為殘差平方和，自由度為

為回歸平方和，自由度為

當(dāng)H0為真時(shí)，有

給定的顯著性水平，拒絕域?yàn)?/p>

第11頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月4）對(duì)回歸系數(shù)的顯著性檢驗(yàn)

當(dāng)回歸方程顯著時(shí)，可進(jìn)一步檢驗(yàn)?zāi)硞€(gè)回歸系數(shù)是否為0，也即檢驗(yàn)如下假設(shè)：

每一項(xiàng)回歸系數(shù)j=1,2,…,p逐一進(jìn)行。常用的檢驗(yàn)方法是t檢驗(yàn)或等價(jià)的F檢驗(yàn)，F(xiàn)統(tǒng)計(jì)量為：其中是中的第j+1個(gè)對(duì)角元素。記分子為，它是因子的回歸平方和。分母是模型中的無(wú)偏估計(jì)。第12頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

當(dāng)H0j為真時(shí)，有。給定的顯著性水平，當(dāng)時(shí)拒絕原假設(shè)H0j，即認(rèn)為顯著不為零，回歸關(guān)系顯著；否則人為回歸關(guān)系不顯著，可以將對(duì)應(yīng)的變量從回歸方程中刪除。注：當(dāng)有不顯著的系數(shù)時(shí)，一般情況下一次只能刪除一個(gè)F值最小的變量，重新計(jì)算回歸系數(shù)，再重新檢驗(yàn)。通常要到余下的系數(shù)都顯著時(shí)為止。

第13頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

5）失擬檢驗(yàn)當(dāng)在某些點(diǎn)有重復(fù)試驗(yàn)數(shù)據(jù)，便可以對(duì)試驗(yàn)指標(biāo)y

的期望是否是的函數(shù)進(jìn)行檢驗(yàn)，這種檢驗(yàn)稱(chēng)為失擬檢驗(yàn)，它檢驗(yàn)如下假設(shè)：當(dāng)在有些試驗(yàn)點(diǎn)上有mi重復(fù)試驗(yàn)時(shí)，試驗(yàn)點(diǎn)為n，總試驗(yàn)次數(shù)為N，殘差平方和可進(jìn)一步分解為組內(nèi)平方和與組間平方和，其中組內(nèi)平方和就是純誤差平方和，記為，組間平方和稱(chēng)為失擬平方和，記為，即：

第14頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月，，，，檢驗(yàn)統(tǒng)計(jì)量為

在H0為真時(shí)，，對(duì)于給定的顯著性水平下，拒絕域?yàn)椋?/p>

當(dāng)拒絕H0時(shí)，需要尋找原因，改變模型，否則接受線(xiàn)性回歸模型合適，可以將Se與SLf合并作為SE檢驗(yàn)方程是否顯著。其中第15頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.1.4因子水平的編碼在回歸問(wèn)題中各因子的量綱不同，其取值的范圍也不同，為了數(shù)據(jù)處理的方便，對(duì)所有的因子作一個(gè)線(xiàn)性變換，使所有因子的取值范圍都轉(zhuǎn)化為中心在原點(diǎn)的一個(gè)單位“立方體”中，這一變換稱(chēng)為對(duì)因子水平的編碼。方法如下：設(shè)因子的取值范圍為：與分別為因子的下水平()與上水平()其中心也稱(chēng)為零水平：

因子的變化半徑為令編碼值，而實(shí)際值此變換式就稱(chēng)為“編碼變換”

第16頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月例5.1.1因子z的取值范圍為：10~30，，對(duì)其作編碼：

編碼后，10對(duì)應(yīng)-1，30對(duì)應(yīng)1，20對(duì)應(yīng)0。變換后，正交點(diǎn)在編碼空間為中心在原點(diǎn)的立方體，其邊長(zhǎng)為2。

編碼變換后，zm對(duì)應(yīng)的編碼為

，zM對(duì)應(yīng)的編碼為

，z0對(duì)應(yīng)的編碼為0。這樣不管什么取值范圍，都轉(zhuǎn)化為值域[-1,1]或[-,]。見(jiàn)示意圖。第17頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月§5.2Box－Benhken設(shè)計(jì)Box－Behnken設(shè)計(jì)是由統(tǒng)計(jì)學(xué)家Box和Behnken提出的一種比較常用的回歸設(shè)計(jì)方法，適用于2至5個(gè)因子的優(yōu)化實(shí)驗(yàn)。Box－Behnken設(shè)計(jì)首先假定實(shí)驗(yàn)范圍內(nèi)因子存在二次項(xiàng)，其基試驗(yàn)點(diǎn)的選取為編碼立方體的每條棱的中點(diǎn)，即任意兩因子做22交互，而其它因子固定在0水平。再加上中心點(diǎn)。第18頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月三因子Box-Behnken設(shè)計(jì)試驗(yàn)點(diǎn)示意圖Box－Benhken設(shè)計(jì)第19頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月例題：對(duì)超高壓殺滅枯草芽孢桿菌效果Y的研究發(fā)現(xiàn)：溫度、壓力、保壓時(shí)間是滅活枯草芽孢桿菌顯著影響因子。研究結(jié)果表明殺滅6個(gè)數(shù)量級(jí)的枯草芽孢桿菌的殺菌條件：溫度為T(mén)=30～60℃，壓力為P=200～600MPa，保壓時(shí)間為M=10～20min，試分析最優(yōu)殺菌工藝參數(shù)。Box－Benhken設(shè)計(jì)第20頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月Box－Benhken設(shè)計(jì)題解：本試驗(yàn)采用Box-Behnken設(shè)計(jì)，以溫度T，壓力P，保壓時(shí)間M三個(gè)外界因子為自變量，并以+1、0、-1分別代表自變量的高、中、低水平，對(duì)自變量進(jìn)行編碼。超高壓殺滅菌的數(shù)量級(jí)Y為響應(yīng)值（Y=-log10Nt/N0

，即經(jīng)超高壓作用后枯草芽孢桿菌死亡的數(shù)量級(jí)，Nt為超高壓處理后1ml菌液中的活菌數(shù)，N0為對(duì)照1ml菌液中的活菌數(shù)）第21頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月Box－Benhken設(shè)計(jì)因子代號(hào)水平編碼-101溫度(℃)T304560壓力(MPa)P200400600保壓時(shí)間(min)M101520試驗(yàn)因子的水平及編碼表第22頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月Box－Benhken設(shè)計(jì)試驗(yàn)設(shè)計(jì)與試驗(yàn)結(jié)果列表TrialNo.TPMY1-10-14.27210-15.443-1015.1141015.795-1-102.1161-103.217-1106.0481106.8790-1-12.70100-113.441101-16.23120116.43130005.45140005.32150005.67160005.43170005.23第23頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月Box－Benhken設(shè)計(jì)分析結(jié)果FactorDFSSMSFPT42.0412470.51031213.670.0020P426.7978746.699469179.46<.0001M40.7164850.1791214.800.0352在0.05水平下，只有溫度（T）壓力（P）和保壓時(shí)間（M）與滅菌效果都存在顯著的回歸關(guān)系。在T=60.37,P=663.87,M=13.51時(shí)，滅菌效果最大，達(dá)到6.79。需要進(jìn)行試驗(yàn)驗(yàn)證。第24頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月Box－Benhken設(shè)計(jì)T=60.37,P=663.87,M=13.51時(shí)，極大值Y=6.79第25頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月§5.3二次回歸的中心組合設(shè)計(jì)

一、中心組合設(shè)計(jì)方案

中心組合設(shè)計(jì)中的試驗(yàn)點(diǎn)由三部分組成：（1）將編碼值-1與1看成每個(gè)因子的兩個(gè)水平，采用二水平正交表安排試驗(yàn)，可以是全因子試驗(yàn)，也可以是其1/2實(shí)施，1/4實(shí)施等，稱(chēng)這種試驗(yàn)點(diǎn)為正交點(diǎn)。這樣的點(diǎn)有mc=2p個(gè)，選取正交表的p個(gè)基本列構(gòu)成。（2）在每一因子的坐標(biāo)軸上取兩個(gè)試驗(yàn)點(diǎn)，該因子的編碼值分別為-與，其它因子的編碼值為0。由于有p個(gè)因子，因此這部分試驗(yàn)點(diǎn)共有2p個(gè)。稱(chēng)這種試驗(yàn)點(diǎn)為星號(hào)點(diǎn)或主軸點(diǎn)。（3）在試驗(yàn)區(qū)域的中心進(jìn)行m0次重復(fù)試驗(yàn)，這時(shí)每個(gè)因子的編碼值均為0。稱(chēng)這種試驗(yàn)點(diǎn)為中心點(diǎn)。第26頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

如p=2的中心組合設(shè)計(jì)方案是：第27頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

如p=2的中心組合設(shè)計(jì)試驗(yàn)點(diǎn)的分布圖第28頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月二、中心組合設(shè)計(jì)方案的特點(diǎn)該方案總試驗(yàn)次數(shù)n為：

每個(gè)因子都取5個(gè)水平，故該方案所布的試驗(yàn)點(diǎn)范圍較廣。該方案還有較大的靈活性，因?yàn)樵诜桨钢辛粲袃蓚€(gè)待定參數(shù)m0（中心點(diǎn)的試驗(yàn)次數(shù)）和（主軸點(diǎn)的位置），使二次回歸設(shè)計(jì)具有正交性、旋轉(zhuǎn)性、通用性和D最優(yōu)性?xún)?yōu)良性質(zhì)等。中心點(diǎn)處的m0次重復(fù)，可以準(zhǔn)確估計(jì)試驗(yàn)誤差，從而使對(duì)方程與系數(shù)的檢驗(yàn)有了可靠依據(jù)。第29頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月§5.4二次回歸正交設(shè)計(jì)

二次回歸正交設(shè)計(jì)是二次回歸中心組合設(shè)計(jì)的一種常用設(shè)計(jì)方法。如果一個(gè)設(shè)計(jì)具有正交性，則數(shù)據(jù)分析將是十分方便的，由于所得的回歸系數(shù)的估計(jì)值之間互不相關(guān)，因此刪除某些因子時(shí)不會(huì)影響其它的回歸系數(shù)的估計(jì)，從而很容易寫(xiě)出所有回歸系數(shù)為顯著的回歸方程。我們可以適當(dāng)選擇m0與使二次回歸中心組合設(shè)計(jì)具有正交性。第30頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.4.1二次中心組合設(shè)計(jì)的結(jié)構(gòu)矩陣X與系數(shù)矩陣

p=2的中心組合設(shè)計(jì)回歸模型的結(jié)構(gòu)式為

結(jié)構(gòu)矩陣如下：x0x1x2x1x2(x1)2(x2)2第31頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月這里mc=4，2p=4，則n=mc+2p+m0=8+m0，再記那么各平方項(xiàng)所對(duì)應(yīng)的行、列在非對(duì)角線(xiàn)都有非0元素第32頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.4.2正交性的實(shí)現(xiàn)

要使中心組合設(shè)計(jì)具有正交性，就要求為對(duì)角陣。首先利用“中心化”變換使各平方項(xiàng)列的和為0，為此把列的元素減去該列的均值，而此時(shí)的陣為：

這里GG是p階對(duì)稱(chēng)方陣：

第33頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月為使設(shè)計(jì)成為正交的只要設(shè)法使g=0因?yàn)閚=mc+2p+m0設(shè)定m0后，因此可以適當(dāng)選取使g=0。對(duì)不同的因子個(gè)數(shù)p與中心點(diǎn)重復(fù)次數(shù)m0，對(duì)應(yīng)的值見(jiàn)表5.4.1。

第34頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月表5.4.1二次回歸正交設(shè)計(jì)的參數(shù)值表

第35頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

1．回歸系數(shù)的估計(jì)

在對(duì)列作了中心化變換后，我們可以首先建立y

關(guān)于諸的回歸方程：

再記，其中

則各項(xiàng)回歸系數(shù)：5.4.3統(tǒng)計(jì)分析第36頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月2．對(duì)回歸方程與回歸系數(shù)的檢驗(yàn)

由于是正交設(shè)計(jì)，各項(xiàng)的回歸平方和為

總回歸平方和為仍然用表示總平方和，其自由度為，則殘差平方和為回歸方程的檢驗(yàn)：第37頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

若在中心點(diǎn)上有重復(fù)試驗(yàn)的話(huà)，還可以進(jìn)一步對(duì)進(jìn)行分解：則失擬項(xiàng)：可用對(duì)二次回歸模型的合適性進(jìn)行檢驗(yàn)。各項(xiàng)回歸系數(shù)可用進(jìn)行檢驗(yàn)。第38頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

例5.4.1為提高鉆頭的壽命，在數(shù)控機(jī)床上進(jìn)行試驗(yàn)，考察鉆頭的壽命與鉆頭軸向振動(dòng)頻率F及振幅A的關(guān)系。

在試驗(yàn)中，F(xiàn)與A的變動(dòng)范圍分別為：[125Hz，375Hz]與[1.5，5.5]，采用二次回歸正交組合設(shè)計(jì)，并在中心點(diǎn)重復(fù)進(jìn)行三次試驗(yàn)。1．對(duì)因子的取值進(jìn)行編碼現(xiàn)在有兩個(gè)因子，即p=2，現(xiàn)在中心點(diǎn)進(jìn)行三次試驗(yàn)，即m0=3，則查得此二次回歸正交組合設(shè)計(jì)中的=1.148。因子F與A的零水平分別是250，3.5;它們的變化半徑分別是109，1.74.

因子編碼值見(jiàn)表5.4.4。第39頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.4.4第40頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

2．試驗(yàn)計(jì)劃與試驗(yàn)結(jié)果

本例的試驗(yàn)計(jì)劃及試驗(yàn)結(jié)果見(jiàn)表5.4.5。表5.4.5試驗(yàn)計(jì)劃與試驗(yàn)結(jié)果

第41頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.4.6

3．參數(shù)估計(jì)第42頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月4.模型、方程及系數(shù)的檢驗(yàn)

本例中由于在中心點(diǎn)有3次重復(fù)試驗(yàn)，所以在給出所得到的回歸方程之前，先對(duì)模型的合適性、方程及系數(shù)作顯著性檢驗(yàn)：中心點(diǎn)上3次試驗(yàn)結(jié)果的平均值為=206，由此求得純誤差平方和Se=1026，從而失擬平方和為：SLf=1281.53-1026=255.53，失擬檢驗(yàn)的統(tǒng)計(jì)量為：

在時(shí)，，所以認(rèn)為模型合適。有關(guān)方程與系數(shù)的檢驗(yàn)見(jiàn)表5.4.7。第43頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

由于，所以認(rèn)為方程顯著。又，。所以與的系數(shù)在顯著性水平0.05上是顯著的，x2的系數(shù)在顯著性水平0.10上是顯著的。5.4.7第44頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.寫(xiě)出二次回歸方程并求最佳條件

我們可以寫(xiě)出在0.10水平上各系數(shù)都顯著的回歸方程為：再將(5.4.16)代入，即可得y關(guān)于x1,x2的二次回歸方程：

最后再將編碼式代入，即可得y關(guān)于F，A的二次回歸方程：為延長(zhǎng)壽命，可以將回歸方程對(duì)F與A分別求導(dǎo)，并令其為零以解出最佳水平組合為F=291.58，A=3.50，在該水平組合下，平均壽命的估計(jì)是211.6。

第45頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.5二次回歸旋轉(zhuǎn)設(shè)計(jì)5.5.1旋轉(zhuǎn)性回歸正交設(shè)計(jì)的最大優(yōu)點(diǎn)是試驗(yàn)次數(shù)較少，計(jì)算簡(jiǎn)便，又消除了回歸系數(shù)間的相關(guān)性。但是其缺點(diǎn)是預(yù)測(cè)值的方差依賴(lài)于試驗(yàn)點(diǎn)在因子空間中的位置。由于誤差的干擾，試驗(yàn)者不能根據(jù)預(yù)測(cè)值直接尋找最優(yōu)區(qū)域。

若能使二次設(shè)計(jì)具有旋轉(zhuǎn)性，即能使與試驗(yàn)中心距離相等(ρ)的點(diǎn)上預(yù)測(cè)值的方差相等，即Var()=f(ρ)，那就有助于克服上述缺點(diǎn)。所以試驗(yàn)者常常希望犧牲部分的正交性而獲得旋轉(zhuǎn)性，計(jì)算的工作量可以交由計(jì)算機(jī)幫助處理。

第46頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.5.2二次旋轉(zhuǎn)設(shè)計(jì)

一個(gè)中心組合設(shè)計(jì)要成為二次旋轉(zhuǎn)設(shè)計(jì)應(yīng)滿(mǎn)足旋轉(zhuǎn)性條件和非退化條件。

1.二次設(shè)計(jì)的旋轉(zhuǎn)性條件

二次設(shè)計(jì)的旋轉(zhuǎn)性條件為：第47頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月2.二次旋轉(zhuǎn)設(shè)計(jì)的非退化條件：

為使設(shè)計(jì)是使矩陣不退化，就要求試驗(yàn)點(diǎn)的分布滿(mǎn)足：在中心組合設(shè)計(jì)方案中n個(gè)試驗(yàn)點(diǎn)分布在三個(gè)不同半徑的球面上，其中：個(gè)點(diǎn)分布在半徑為的球面上；

2p個(gè)點(diǎn)分布在半徑為的球面上；個(gè)點(diǎn)分布在半徑為的球面上。滿(mǎn)足不會(huì)使矩陣

退化的條件。第48頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月3.的選取為使設(shè)計(jì)滿(mǎn)足旋轉(zhuǎn)性條件只要適當(dāng)選取參數(shù)，在中心組合設(shè)計(jì)中有：

因此，，為使設(shè)計(jì)具有旋轉(zhuǎn)性，則要求

即只要：或當(dāng)對(duì)中心組合設(shè)計(jì)提出進(jìn)一步的要求時(shí)，可以確定設(shè)計(jì)中的另一個(gè)參數(shù)m0。

第49頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.5.3二次回歸正交旋轉(zhuǎn)設(shè)計(jì)（Orthogonal）

當(dāng)要求一個(gè)回歸設(shè)計(jì)不僅具有旋轉(zhuǎn)性，還要求具有正交性，或至少是近似正交的，稱(chēng)為二次回歸正交旋轉(zhuǎn)設(shè)計(jì)。這需要使的非對(duì)角線(xiàn)元素全為0，即只需要：

在g的表達(dá)式中，mc是給定的，因?yàn)闈M(mǎn)足旋轉(zhuǎn)性也已確定，式中，所以g只是m0的函數(shù)，所以可解出m0。如果解得的m0是整數(shù)，則所得設(shè)計(jì)為正交旋轉(zhuǎn)設(shè)計(jì)；如果m0不是整數(shù)，則取最接近的整數(shù)，這時(shí)是近似正交的旋轉(zhuǎn)設(shè)計(jì)。

第50頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

二次回歸正交（或近似正交）旋轉(zhuǎn)組合設(shè)計(jì)的參數(shù)與m0見(jiàn)表5.5.1。表5.5.1二次回歸正交旋轉(zhuǎn)組合設(shè)計(jì)參數(shù)第51頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.5.4二次回歸通用旋轉(zhuǎn)設(shè)計(jì)(UniformPrecision)

所謂一個(gè)設(shè)計(jì)具有通用性是指在與編碼中心距離小于1的任意點(diǎn)(x1,x2,…,xp)上的預(yù)測(cè)值的方差近似相等。

一個(gè)旋轉(zhuǎn)設(shè)計(jì)各點(diǎn)預(yù)測(cè)值的方差僅與該點(diǎn)到中心的距離ρ有關(guān)，即Var()=f(ρ)。而通用設(shè)計(jì)要求當(dāng)ρ<1時(shí)，f(ρ)基本為一個(gè)常數(shù)。根據(jù)這一要求，可以通過(guò)數(shù)值的方法來(lái)確定m0。當(dāng)一個(gè)回歸設(shè)計(jì)既要具有旋轉(zhuǎn)性又要具有通用性時(shí)，稱(chēng)為二次回歸通用旋轉(zhuǎn)設(shè)計(jì)，設(shè)計(jì)的參數(shù)與m0見(jiàn)表5.5.2。

第52頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.5.2第53頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.5.5數(shù)據(jù)分析

由于正交旋轉(zhuǎn)設(shè)計(jì)的數(shù)據(jù)分析同前面的回歸正交設(shè)計(jì)一樣，所以下面僅對(duì)通用旋轉(zhuǎn)組合設(shè)計(jì)的數(shù)據(jù)分析作介紹。

1．回歸系數(shù)的估計(jì)如果記X’Y陣中的元素為：

根據(jù)不同的p與實(shí)施方案，計(jì)算中用到的K，E，F(xiàn)，G的值已列成表格供使用。第54頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月則各項(xiàng)回歸系數(shù)的估計(jì)為：第55頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

2．對(duì)回歸方程的檢驗(yàn)總平方和：殘差平方和：回歸平方和：各自由度分別為：第56頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月由于在中心點(diǎn)有m0次重復(fù)試驗(yàn)，因此還可將SE分解為：

其自由度分別為：

先檢驗(yàn)?zāi)Ｐ偷暮线m性，即失擬檢驗(yàn)：

當(dāng)模型合適時(shí)，再檢驗(yàn)方程的顯著性：第57頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

3．對(duì)回歸系數(shù)的顯著性檢驗(yàn)

各項(xiàng)的回歸平方和及σ2的估計(jì)，如下：檢驗(yàn)各項(xiàng)回歸系數(shù)的統(tǒng)計(jì)量依次為：

第58頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月

如果有不顯著的項(xiàng)，要?jiǎng)h去該項(xiàng)，一次只能剔除一項(xiàng)，由于這里不是正交設(shè)計(jì)，所以回歸系數(shù)間具有相關(guān)性，刪除一個(gè)變量后，回歸系數(shù)需要重新計(jì)算。

由于求回歸系數(shù)的正規(guī)方程組的系數(shù)矩陣階數(shù)較高，求逆矩陣相當(dāng)麻煩，通常將這項(xiàng)工作交給計(jì)算機(jī)協(xié)助完成。統(tǒng)計(jì)分析方法和前述一樣，用反應(yīng)面回歸分析。第59頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.5.6二次通用旋轉(zhuǎn)設(shè)計(jì)實(shí)例

例5.5.1

某三因子（x1,x2,x3）優(yōu)化試驗(yàn)，試驗(yàn)指標(biāo)Y具有望大特性，采用二次通用旋轉(zhuǎn)設(shè)計(jì)，查表得到γ=1.682,n=20，各因子的水平編碼見(jiàn)下表。1.因子水平編碼表因子編碼x1x2x3+γ80120300169.8699.73239.1705570150-140.1440.2760.83-γ30200第60頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月2.試驗(yàn)設(shè)計(jì)與結(jié)果NOX1X2X3Y11-1-1-130.42-1-1145.33-11-115.94-11132.251-1-143.561-1172.0711-124.2811148.59-1.68180028.4101.68180053.6NOX1X2X3Y1110-1.6818056.81201.6818029.11300-1.681814.314001.681852.11500043.31600042.01700043.51800043.61900042.32000044.0第61頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月3.模型檢驗(yàn)Source

DFSSMSFPModel93696.605410.7338371.8610.0001Linear33431.6311143.8771035.6180.0001Quadratic3176.793658.9312153.353810.0001CrossProduct388.1829.3933326.611470.0001Error1011.045361.104536Lackoffit57.9370271.5874052.5534670.1633PureError53.1083330.621667Total193707.65第62頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月4.參數(shù)估計(jì)及其檢驗(yàn)TermEstimateStdErrtPr>|t|X17.8188740.2843927.493460.0001X2-8.566080.28439-30.12090.0001X310.80570.2843937.996020.0001X1*X1-0.706850.276846-2.553230.028705X1*X2-1.90.371574-5.113390.000455X1*X32.70.3715747.2663920.0001X2*X2-0.017410.276846-0.06290.951088X2*X3-0.350.371574-0.941940.368422X3*X3-3.464570.276846-12.51440.0001第63頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.去掉不顯著的項(xiàng)重新回歸——模型檢驗(yàn)SourceDFSSMSFPr>FModel73695.62527.9458526.6410.0001Error1212.029731.002478(Lackoffit)78.9213971.2744852.050110.223309(PureError)53.1083330.621667Total193707.65第64頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月6.重新回歸后——參數(shù)估計(jì)TermEstimateStdErrtPr>|t|X17.8188740.27093328.859050.0001X2-8.566080.270933-31.6170.0001X310.80570.27093339.883270.0001X1*X1-0.705120.262443-2.686770.019788X1*X2-1.90.353991-5.367370.000169X1*X32.70.3539917.6273110.0001X3*X3-3.462850.262443-13.19470.0001第65頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月7.回歸方程及其駐點(diǎn)Y1=43.096+7.819*X1

-8.5669*X2

+10.806*X3

-0.705*X1*X1-1.9*X1*X2

+2.7*X1*X3

-0.463*X3*X3駐點(diǎn)處X1-4.53107鞍點(diǎn)X26.711891Y=-6.296

X3-0.54514特征值0.865802-1.02896-4.02568在駐點(diǎn)處其二次型矩陣特征值有正有負(fù)，此駐點(diǎn)為鞍點(diǎn)，不存在極值，需進(jìn)行嶺脊分析。第66頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月8.嶺脊分析半徑Y(jié)預(yù)測(cè)值標(biāo)準(zhǔn)誤X1X2X3043.1103180.4286350000.145.7716310.4272330.086905-0.0932550.1097060.248.4318250.4238690.180418-0.1906540.2103300.351.1010420.4211250.278880-0.2914100.3030960.453.7871420.4233790.381000-0.3948910.3891690.556.4962010.4364940.485803-0.5006040.4695790.659.2329320.4666900.592567-0.6081610.5452040.762.0010150.5188080.700760-0.7172610.6167770.864.8033500.5951280.809989-0.8276660.6849050.967.6422440.6956180.919966-0.9391880.7500891.070.5195490.8190191.030477-1.0516750.812741第67頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月8.嶺脊分析（續(xù)）半徑Y(jié)預(yù)測(cè)值標(biāo)準(zhǔn)誤X1X2X31.173.436770.9637831.141363-1.1650.8732051.276.395141.1285371.252504-1.279070.9317661.379.395671.3121991.363813-1.393790.9886631.482.439221.5139641.475222-1.509091.0440961.585.526481.733241.586681-1.624911.0982361.688.658071.9695961.698153-1.74121.1512281.791.83452.2227141.809609-1.857921.2031961.895.056192.4923591.921028-1.975021.2542471.998.323552.7783522.032395-2.092471.3044732.0101.63693.080562.143697-2.210241.353954第68頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.6D最優(yōu)混合設(shè)計(jì)5.6.1D最優(yōu)設(shè)計(jì)回歸設(shè)計(jì)的正交性、旋轉(zhuǎn)性和通用性各有其優(yōu)點(diǎn)，但是都沒(méi)有涉及統(tǒng)計(jì)意義上的優(yōu)劣。

最優(yōu)設(shè)計(jì)就是從統(tǒng)計(jì)意義上來(lái)研究不同試驗(yàn)方案的優(yōu)劣并建立最優(yōu)方案。在所有的試驗(yàn)方案中，能使回歸預(yù)測(cè)值與觀察值擬合最好的那個(gè)方案就是最優(yōu)方案，即最優(yōu)設(shè)計(jì)。判斷試驗(yàn)方案的優(yōu)劣有很多標(biāo)準(zhǔn)，如：D優(yōu)良性、G優(yōu)良性、A優(yōu)良性、E優(yōu)良性、I優(yōu)良性、U優(yōu)良性等。其中以D優(yōu)良性的使用最為普遍，有人證明：事實(shí)上G優(yōu)良性與D優(yōu)良性等價(jià)。第69頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.6.1D最優(yōu)設(shè)計(jì)

1943年，Wald提出信息矩陣的行列式極大值判別法。結(jié)構(gòu)矩陣和信息矩陣與試驗(yàn)方案有關(guān)，設(shè)試驗(yàn)方案為ε，可以證明，試驗(yàn)方案的信息矩陣A(ε)的行列式的值|A(ε)|越大，回歸系數(shù)的預(yù)測(cè)值的方差越小，預(yù)測(cè)值的方差也越小，試驗(yàn)方案也就越優(yōu)良。以此為依據(jù)，從各種試驗(yàn)方案中挑選最優(yōu)設(shè)計(jì)方案的方法，稱(chēng)為D最優(yōu)設(shè)計(jì)。在同一模型下，兩個(gè)試驗(yàn)方案ε1和ε2，如果方案ε1的信息矩陣行列式的值大于ε2的值，即：|A(ε1)|>|A(ε2)|，則說(shuō)明在D優(yōu)良性下方案ε1比ε2有更好的優(yōu)良性。第70頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.6.2D最優(yōu)混合設(shè)計(jì)

D優(yōu)良設(shè)計(jì)一般不滿(mǎn)足正交性和旋轉(zhuǎn)性，于是有人以回歸組合設(shè)計(jì)為基礎(chǔ)，提出了部分兼有近似D優(yōu)良性、正交性和旋轉(zhuǎn)性的D最優(yōu)混合設(shè)計(jì)。

D最優(yōu)混合設(shè)計(jì)的設(shè)計(jì)方案處理數(shù)較少，試驗(yàn)效率較高，回歸系數(shù)和待估參數(shù)之間擬合得較好，統(tǒng)計(jì)分析上也較為方便。到目前為止，人們已經(jīng)找到了若干2至6個(gè)因子的D最優(yōu)混合設(shè)計(jì)方案。如:R206,R207,R208,R310A,R310B,R311A,R311B,R312,R3414,R415,R416A,R416B,R416C,R521,R628A,R628B。其中R表示回歸設(shè)計(jì)，第一個(gè)數(shù)字表示因子數(shù)，第二三位數(shù)字表示處理個(gè)數(shù)，最后的字母表示相同因子的方案編號(hào)。第71頁(yè)，課件共78頁(yè)，創(chuàng)作于2023年2月5.6.2D最優(yōu)混合設(shè)計(jì)——方案示例R311ANOX1X2X3Y10