化學(xué)試驗設(shè)計法中的回歸分析市公開課獲獎?wù)n件

1、164 多元線性回歸 一元線性和非線性回歸辦法對單原因試驗很管用，但是我們在試驗中經(jīng)常碰到是多原因情況。譬如分析化學(xué)中常見多組分分析問題，如何做？老式辦法是采用化學(xué)掩蔽或分離等辦法，將其轉(zhuǎn)化為單原因進行研究。但這樣經(jīng)常費時費力，還得到不一定是最好條件。尚有如前面提到均勻設(shè)計法數(shù)據(jù)分析，要求出多個原因最優(yōu)水平，如何做？在這時就必須采用多元回歸。第1頁第1頁2多元回歸有各種，除了多元線性、非線性回歸外，其它如化學(xué)計量學(xué)中主成份分析、偏最小二乘法、聚類分析等也是比較慣用回歸分析辦法。多元線性回歸是一個使用非常廣泛校正辦法，在均勻設(shè)計中就要用到。第2頁第2頁3對于一個多原因（X1、X2、Xn）試驗，試

2、驗響應(yīng)指標為Y，假如Y與各原因之間為線性關(guān)系，則有： （11） 這里，b0為常數(shù)項，b1、bn稱為多元線性回歸偏回歸系數(shù)。和一元線性回歸辦法類似，用最小二乘法來擬定建立模型系數(shù)，從而能夠建立起Y對Xi線性回歸方程。 第3頁第3頁4當Xi取不同水平（如m個水平）時，經(jīng)過試驗?zāi)軌虻玫讲煌憫?yīng)指標值Yi： （12） 注意這里mn1，想一想為何？ 方程組（12）能夠用最小二乘法來擬定b0bn值。第4頁第4頁5即： （13） 同樣，為了得到極小值，對（13）式求導(dǎo)： （14） 第5頁第5頁6方程組（14）可變形為： (14) (14)稱為正規(guī)方程組，其方程數(shù)目與未知數(shù)數(shù)目相等。 第6頁第6頁7方程組(1

3、4)右邊系數(shù)矩陣為： XTXm而左邊為： XTY第7頁第7頁8因此(14)式矩陣形式就是： XTYXTXB （15） 假如XTX逆矩陣(XTX)-1存在，則系數(shù)矩陣為： B(XTX)-1 XTY (16) 假如將（16）式代入（12）式，則有： YXBX(XTX)-1XTY (17) (17)式表示了試驗值Yi與擬和值Yi關(guān)系，也許很靠近，也也許不相符，甚至相差很大。因而也需要對擬和結(jié)果進行檢查。第8頁第8頁9對于多元回歸分析，通常采用復(fù)相關(guān)系數(shù)r來評價擬和值Yi和試驗值Yi之間關(guān)系。 依據(jù)方差分析思想，將Y總差方和ssT（total）分解為兩部分，一部分是由自變量改變引起Y波動，即回歸差方和

4、ssReg（regression）；另一部分是隨機誤差或其它未知原因引起波動，即殘余差平方和ssRes（residual）。 第9頁第9頁10（18） ssT、ssReg、ssRes自由度分別是m-1, n, 和m-n-1。 （19） r越靠近1，闡明Y與自變量相關(guān)性越好。 r在回歸分析中是非常主要指標。 但是應(yīng)注意：r不但是回歸方程中自變量個數(shù)n函數(shù)，還與觀測水平數(shù)m相關(guān)。當 m相對于n不很大時，常有較大r，尤其是當mn+1時，即使n個自變量與y不相關(guān)，也恒有r=1 (Q= 0)。因而在實際計算中，要注意m和n百分比問題。 普通認為，m至少為n5倍。第10頁第10頁1165 多元非線性回歸

5、多元非線性回歸是另一個很慣用回歸辦法，其回歸原理也和一元非線性回歸相同。 普通有兩種辦法： （1） 變量代換法。 （2）非線性最小二乘法，它就是采用最小二乘法預(yù)計非線性模型中參數(shù)，從而建立非線性回歸模型。 普通，當我們不知道回歸模型時，則多元非線性回歸可轉(zhuǎn)化成多元多次多項式進行擬合，這是基于泰勒展開基礎(chǔ)。通過這樣轉(zhuǎn)換即可對其進行多元非線性擬合 。第11頁第11頁1266 逐步回歸分析法簡介（stepwise regression） 在上一節(jié)中討論了多元回歸分析。當我們不知道指標（因變量）和多個原因（自變量）之間關(guān)系模型時，如何進行回歸分析？ 尚有， 在一些實際問題中也許有這樣情況：參與回歸n個

6、變量x1、x2、 xn 中，單獨觀測，有些原因與因變量y相關(guān)程度很密切，但當綜合觀測n個原因與y相關(guān)性時，這些原因也許顯得不太主要。第12頁第12頁13若把這些變量保留，不但增長計算工作量，并且會增長回歸方程不穩(wěn)定性，因此希望從n個變量中選出與y最密切、最具代表性變量來描述y改變情況。即希望所得回歸方程包括一切對y作用明顯原因，不包括對y不明顯變量。原因：這些原因與n個變量中其它變量之間本來就有相關(guān)關(guān)系，當做回歸時，它們對y作用被其它因子替換了。這時候就要用到逐步回歸分析法。逐步回歸分析是在多元回歸基礎(chǔ)上派生出來一個算法技巧。第13頁第13頁14逐步回歸辦法基本思想：對所有自變量x1,x2,.

7、,xn,按它們對Y奉獻大小進行比較，并通過F檢查法，選擇偏回歸平方和明顯變量進入回歸方程，每一步只引入一個變量，同時建立一個偏回歸方程。當一個變量被引入后，對原已引入回歸方程變量，逐一檢查他們偏回歸平方和。假如由于引入新變量而使得已進入方程變量變?yōu)椴幻黠@時，則及時從偏回歸方程中剔除。上面簡介是“逐步引入”辦法。另外尚有“逐步剔除”、“有進有出”等辦法。第14頁第14頁15自變量x明顯性如何檢查？假定在n個自變量中已經(jīng)建立了x1、x2、xL對y回歸方程，對各變量奉獻進行比較，找出最小奉獻xj，要檢查xj明顯性，則可由xj對y方差奉獻Qj來衡量。通慣用Qj與x1、x2、xL整體方差Q之比Qj/Q來

8、量度。采用F檢查：FFa，闡明xj奉獻較大，保留；FFa，則剔除xj。第15頁第15頁16在引入了兩個自變量以后，便開始考慮是否有需要剔除變量。只有當回歸方程中所有自變量對Y都有明顯影響而不需要剔除時，再考慮從未選入方程自變量中，挑選對Y有明顯影響新變量進入方程。無論引入還是剔除一個變量都稱為一步。這一過程不斷被重復(fù)，直至無法剔除已引入變量，也無法再引入新自變量時，逐步回歸過程結(jié)束。普通逐步回歸分析都需要借助專用軟件完畢。 第16頁第16頁17逐步回歸分析邏輯結(jié)構(gòu)圖輸入基本參數(shù)、讀入原始數(shù)據(jù)計算各變量均值、離差矩陣、相關(guān)矩陣開始逐步計算是否為前三步？是否引入處理剔除處理是否剔除？是否是否引入？

9、否結(jié)束處理，打印計算結(jié)果對相關(guān)陣進行變換是否有待預(yù)報樣品？否結(jié)束預(yù)報計算是第17頁第17頁18多元線性回歸舉例。例14. 已知水泥在凝固過程中放出熱量y(J/g)與下列四種成份含量相關(guān)：x1: 3CaOSiO2; x2: 2CaOSiO2; x3: 3CaOAl2O3; x4: 4CaOAl2O3Fe2O3;原始數(shù)據(jù)下列表：詳細處理見EXCEL表。第18頁第18頁19試驗號mx1x2x3x4y(J/g)172666078.52129155274.331156820104.34113184787.6575263395.961155922105.27371176102.78131224472.59

10、254182293.1102147426115.911140233483.8121160912113.3131068812109.4第19頁第19頁2067 回歸分析法慣用軟件簡介 1. EXCEL2. Origin3. SPSS5. MatLab4. Dab/第20頁第20頁21第21頁第21頁22第22頁第22頁23第23頁第23頁24第24頁第24頁25第25頁第25頁26第26頁第26頁27第27頁第27頁28第28頁第28頁29SPSS(Statistical Package for the Social Science)社會科學(xué)應(yīng)用軟件包是世界上著名統(tǒng)計分析軟件之一。它和SAS（Statistical Analysis System，統(tǒng)計分析系統(tǒng)）、BMDP（Biomedical Programs，生物醫(yī)學(xué)程序）并稱為國際上最有影響三大統(tǒng)計軟件。 Dab/浙江大學(xué)， 唐啟義第29頁第29頁30MatLab Matlab是一個廣泛應(yīng)用于工程計算及數(shù)值分析領(lǐng)域新型高級語言。自 1984 年推向市場以來，歷經(jīng)二十多年發(fā)展與競爭，現(xiàn)已成為國際公認最優(yōu)秀工程應(yīng)用開發(fā)環(huán)境。 在歐美各高等院校，Matlab 已經(jīng)成為線性代數(shù)、數(shù)值分析、數(shù)理統(tǒng)計、自動控制理論、數(shù)字信號處理、時間序列分析、動態(tài)系統(tǒng)仿