智能控制 第3版 PPT課件 第5章

《智能控制》2023年5月第五章基于經(jīng)典機器學(xué)習(xí)方法的智能控制主要內(nèi)容機器學(xué)習(xí)的基本概念5.15.25.3決策樹支持向量機5.5經(jīng)典機器學(xué)習(xí)在控制領(lǐng)域的應(yīng)用5.4主成成分分析

機器學(xué)習(xí)(ML)有監(jiān)督學(xué)習(xí)無監(jiān)督學(xué)習(xí)強化學(xué)習(xí)聚類5.1—機器學(xué)習(xí)的基本概念機器學(xué)習(xí)的概念機器學(xué)習(xí)的分類邏輯回歸降維決策樹支持向量機人工神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)機器學(xué)習(xí)模型指標預(yù)測/性能提升數(shù)據(jù)分析圖像處理自然語言處理控制工程領(lǐng)域……5.2—決策樹決策樹的概念決策樹是一種簡單有效的分類方法。基于樣本數(shù)據(jù)，遞歸選擇合適特征條件作為分支節(jié)點，不斷提高子分支的“純度”特征在于，能夠?qū)?fù)雜的決策過程分解為一系列更加簡單的步驟優(yōu)點在于，結(jié)果直觀，可解釋性更強結(jié)點(Node)分支(Branch)根結(jié)點(RootNode)內(nèi)部結(jié)點(InternalNode)葉結(jié)點(LeafNode)父結(jié)點(ParentNode)子結(jié)點(ChildNode)5.2—決策樹決策樹的構(gòu)建—生成過程

遞歸過程開始選擇最優(yōu)特征a根據(jù)a對數(shù)據(jù)進行分類查看結(jié)點中數(shù)據(jù)類別是否同類是否滿足停止條件設(shè)為葉結(jié)點完成是否是否停止條件當前結(jié)點內(nèi)的數(shù)據(jù)樣本均屬于同一個類別，無需進一步分割能夠作為劃分標準的特征已經(jīng)全部使用，無法選出新的劃分特征當前結(jié)點內(nèi)的數(shù)據(jù)樣本在所有特征上具有相同的值當前結(jié)點內(nèi)的數(shù)據(jù)樣本集為空，無法再做劃分5.2—決策樹

決策樹的構(gòu)建—特征選擇5.2—決策樹目的：對正在構(gòu)造的或是已經(jīng)生成的決策樹進行簡化，降低過擬合的風(fēng)險。種類：預(yù)剪枝（pre-pruning）和后剪枝（pro-pruning）決策樹的構(gòu)建—剪枝預(yù)剪枝：在構(gòu)建決策樹過程中，根據(jù)一定的條件，提前停止剪枝過程。舉例：訓(xùn)練數(shù)據(jù)T中抽出一部分組成驗證集Test，在對樣本進行劃分時，在Test上驗證劃分前與劃分后的精度，若精度有提升，則執(zhí)行劃分操作，否則不執(zhí)行劃分操作，當前結(jié)點修改為葉節(jié)點。后剪枝：后剪枝則是指在生成了一棵完整的決策樹后，再對分支進行刪減。舉例：從決策樹的葉結(jié)點開始遞歸地向上回溯，將某個葉結(jié)點的父結(jié)點修改為葉結(jié)點，考察在驗證集上分類精度的變化。若修改為葉結(jié)點后分類精度上升，則意味著當前的分支造成了決策樹泛化能力的下降，應(yīng)當被剪除。類別：二分類算法

算法核心：劃分超平面

面對問題：線性劃分/非線性劃分難點：尋找合適的超平面，使模型具備良好的魯棒性和泛化能力，乃至處理非線性劃分分類思想依據(jù)：最大化間隔的分類思想5.3—支持向量機支持向量機的概念正類反類分離超平面

5.3—支持向量機線性可分問題與硬間隔支持向量機正類反類分離超平面

問題特點：兩個類別線性可分，存在一個明確的分隔間隔。處在間隔邊界上的樣本點叫做“支持向量”

支持向量幾何間隔

5.3—支持向量機求解超平面及其對偶問題

5.3—支持向量機求解超平面及其對偶問題

5.3—支持向量機線性問題與軟間隔支持向量機

正類反類不可分點

5.3—支持向量機非線性可分問題與核方法低維，線性不可分映射到高維，線性可分維度災(zāi)難：實際應(yīng)用中，數(shù)據(jù)維度較高，但是可能只有部分特征與學(xué)習(xí)任務(wù)強相關(guān)，其余特征冗余。同時，高維數(shù)據(jù)還會在機器學(xué)習(xí)算法中帶來巨大的計算負擔(dān)。降維：通過某種數(shù)學(xué)變換，將數(shù)據(jù)特征由原本的高維空間投射到低維空間。通常用在機器學(xué)習(xí)和圖像處理過程中來降低高維數(shù)據(jù)的維度，同時提取并保留初始數(shù)據(jù)的主要特征，便于模型的建立。5.4—主成成分分析主成成分分析的基本思想—降維滿足要求：

最近重構(gòu)性：樣本集中所有點，重構(gòu)后

的點距離原來的點的誤差之和最小。

最大可分性：樣本在低維空間的投影盡可能分開。5.4—主成成分分析理論推導(dǎo)

矩陣分解（SingularValueDecomposition）

5.4—主成成分分析方法步驟背景：石油，鋼鐵，化工，建材等行業(yè)產(chǎn)能過剩，環(huán)境風(fēng)險，安全風(fēng)險，急需改革信息技術(shù)的發(fā)展，數(shù)據(jù)大量冗余，新要求和新方向終端生產(chǎn)指標預(yù)測模型在工業(yè)化和信息化加速融合的背景下，利用數(shù)據(jù)驅(qū)動方法及人工智能技術(shù)，充分利用工業(yè)現(xiàn)場的海量數(shù)據(jù)進行終端生產(chǎn)指標預(yù)測，對于生產(chǎn)過程的操作條件優(yōu)化、提高流程制造企業(yè)的智能化程度和實現(xiàn)全流程的整體優(yōu)化具有重要的理論意義和應(yīng)用價值。5.5—經(jīng)典機器學(xué)習(xí)在控制領(lǐng)域的應(yīng)用流程工業(yè)生產(chǎn)控制系統(tǒng)流程工業(yè)生產(chǎn)過程中，由于其具有工藝流程長、物理化學(xué)性質(zhì)多變、噪聲干擾大等生產(chǎn)特性，采集到的生產(chǎn)過程數(shù)據(jù)也呈現(xiàn)出獨特的數(shù)據(jù)特征。了解、分析這些流程工業(yè)數(shù)據(jù)特有的特征，對于生產(chǎn)控制方案的設(shè)計具有重要的意義。5.5—經(jīng)典機器學(xué)習(xí)在控制領(lǐng)域的應(yīng)用流程工業(yè)生產(chǎn)控制系統(tǒng)的分析時滯特征和時空相關(guān)性原因：由工業(yè)對象本身的特點引起的時滯，化驗過程和在線分析儀引起的時滯

方法：ARMA,ARMIA,HMM,RNN等標簽樣本有限性原因：過程變量由傳感器實時得到，而生產(chǎn)指標常常需要耗時的化學(xué)檢測，導(dǎo)致標簽相對較少。方法：半監(jiān)督學(xué)習(xí)等工況波動下的數(shù)據(jù)分布時變原因：工藝輸入原料的波動、工藝積垢、機械部件的磨損、催化劑失活、外部環(huán)境的變化等方法：自適應(yīng)策略，如即時學(xué)習(xí)，滑動窗等噪聲和質(zhì)量數(shù)據(jù)小樣本過程的不確定性原因：在數(shù)據(jù)采集、傳輸與存儲等環(huán)節(jié)均會受到不確定的噪聲干擾，以及模型的認知不確定性。方法：數(shù)據(jù)預(yù)處理，構(gòu)造魯棒性強的模型等優(yōu)勢：數(shù)據(jù)驅(qū)動方法不需要復(fù)雜的物理化學(xué)背景知識，基于歷史數(shù)據(jù)建立變量的相關(guān)關(guān)系模型來實現(xiàn)預(yù)測任務(wù)，因其較好的通用性，成為建立生產(chǎn)指標預(yù)測模型的一種有效方法。建立步驟：數(shù)據(jù)預(yù)處理：用于剔除噪聲及離群點的影響，提升模型泛化性能。輸入變量選擇：提高建模效率，減少模型復(fù)雜度及計算負擔(dān)。特征提取：盡可能保留主要信息，剔除冗余信息，集中數(shù)據(jù)特征。建立預(yù)測模型：根據(jù)任務(wù)需求，建立合適的預(yù)測模型，預(yù)測終端生產(chǎn)指標。常用建模方法：PCA,ICA,PLS,KPCA,KPLS,SVM等5.5—經(jīng)典機器學(xué)習(xí)在控制領(lǐng)域的應(yīng)用基于統(tǒng)計學(xué)習(xí)的終端生產(chǎn)指標預(yù)測模型高爐爐缸特點：應(yīng)用于生鐵冶煉，高能耗，多相反應(yīng)物，高溫高壓，反應(yīng)復(fù)雜，影響產(chǎn)品質(zhì)量，熱狀態(tài)難以直接測量。5.5—經(jīng)典機器學(xué)習(xí)在控制領(lǐng)域的應(yīng)用基于支持向量機的高爐爐缸熱狀態(tài)控制方法熱狀態(tài)評價指標

：鐵水含硅量與高爐爐缸的溫度近似呈線性關(guān)系，爐缸溫度越高，則鐵水含硅量越高，故用其作為指標。輸出標簽：+1和-1，分別代表鐵水含硅量增加和減少。輸入變量：在輸入變量的選擇上，與生產(chǎn)原料、燃料相關(guān)的變量鼓風(fēng)壓力、進料速度以及與出料成分密切相關(guān)的變量如硫含量均被包括在內(nèi)。數(shù)據(jù)增強：考慮預(yù)測含硅量的趨勢變化，所以還需考慮是采用原始數(shù)據(jù)（Originldata，表中記作OD）還是微分數(shù)據(jù)（Differentiateddata，表中記作DD）。輸入變量：5.5—經(jīng)典機器學(xué)習(xí)在控制領(lǐng)域的應(yīng)用基于支持向量機的高爐爐缸熱狀態(tài)控制方法符號變量名單位符號變量名單位最新硅含量wt%FTT爐膛頂部溫度℃S硫含量wt%SB爐渣堿度wt%BV鼓風(fēng)量m^3/minCO爐頂煤氣一氧化碳含量wt%BT鼓風(fēng)溫度℃爐頂煤氣二氧化碳含量wt%BP鼓風(fēng)壓力kPa爐頂煤氣氫氣含量wt%FTP爐膛頂部壓力kPaBI成分堿度wt%FS送料速度mm/hCLI配料焦炭量wt%GP透氣性m^3/min?kPaSI冶煉強度t/m^3?dPC煤粉噴吹tonCR焦比kg/tOE富氧率wt%UC利用系數(shù)t/m^3?d表5-1數(shù)據(jù)增強：5.5—經(jīng)典機器學(xué)習(xí)在控制領(lǐng)域的應(yīng)用基于支持向量機的高爐爐缸熱狀態(tài)控制方法數(shù)據(jù)類型SBVBTBPFTPFSGPPCOEDD-0.24-0.45-0.20-0.07-0.08-0.09-0.150.06-0.01-0.13OD-0.33-0.23-0.08-0.05-0.01-0.01-0.120.02-0.03-0.03數(shù)據(jù)類型FTTSBCOBICLISICRUCDD0.060.02-0.13-0.10-0.050.40-0.04-0.150.02-0.06OD0.02-0.01-0.07-0.070.020.14-0.03-0.140.02-0.10

表5-2

5.5—經(jīng)典機器學(xué)習(xí)在控制領(lǐng)域的應(yīng)用基于支持向量機的高爐爐缸熱狀態(tài)控制方法變量篩選（通過計算F-score）：根據(jù)下表，即可通過設(shè)定F-score閾值等方法確定最終的輸入變量5.5—經(jīng)典機器學(xué)習(xí)在控制領(lǐng)域的應(yīng)用基于支持向量機的高爐爐缸熱狀態(tài)控制方法變量F-score變量F-score0.27550.00710.21720.00510.12630.00390.04130.00270.02260.00260.01830.00240.01810.00070.01540.0006UC0.01220.00040.0104PC0.0001表5-3

5.5—經(jīng)典機器學(xué)習(xí)在控制領(lǐng)域的應(yīng)用基于支持向量機的高爐爐缸熱狀態(tài)控制方法丙烯酸工藝介紹：主要原材料是丙烯和空氣。丙烯在催化劑的催化作用下，首先和氧氣反應(yīng)生成丙烯醛，而后再進行第二步氧化反應(yīng)，最終生成丙烯酸。關(guān)鍵變量指標

：經(jīng)過第一步氧化反應(yīng)后丙烯醛的轉(zhuǎn)化率，對于提高丙烯酸最終生成率有重要意義。但是由于技術(shù)的限制，很難實時獲得丙烯醛的轉(zhuǎn)化率5.5—經(jīng)典機器學(xué)習(xí)在控制領(lǐng)域的應(yīng)用基于主成成分分析的丙烯醛軟測量建模方法流程說明：丙烯醛轉(zhuǎn)化為丙烯酸的反應(yīng)發(fā)生在第二步氧化過程的第二個反應(yīng)器（R-102）中，圖5-11中展示了丙烯第二步氧化工藝流程。丙烯經(jīng)過第一步氧化制得丙烯醛后，需補充進一步氧化所需要的空氣，丙烯醛和循環(huán)廢棄、空氣在進料混合器（M-103）中混合，進入二段氧化反應(yīng)器（R-102），在催化劑的作用下轉(zhuǎn)化為丙烯酸。丙烯第二步氧化變量說明

：5.5—經(jīng)典機器學(xué)習(xí)在控制領(lǐng)域的應(yīng)用基于主成成分分析的丙烯醛軟測量建模方法編號標簽號變量描述編號標簽號變量描述1FIC1011空氣到M‐103控制流量8TI1083H‐103出口溫度2FIC1023K‐102出口流量9TI1084H‐103入口溫度3TI1085M‐103內(nèi)部溫度10TI1052R‐102底部溫度4TI1057AM‐103出口溫度11TI1054P‐104出口溫度5TI1057BE‐106進口溫度12PI1021AR‐102頂部壓力6TI1051R‐102最高溫度13PI1021BR‐102底部壓力7TI1082H‐103入口溫度14TIC1053E‐105控制溫度

5.5—經(jīng)典機器學(xué)習(xí)在控制領(lǐng)域的應(yīng)用基于主成成分分析的丙烯醛軟測量建模方法主成成分分析得到結(jié)果展示

：5.5—經(jīng)典機器學(xué)習(xí)在控制領(lǐng)域的應(yīng)用基于主成成分分析的丙烯醛軟測量建模方法主成分編號特征值方差百分比（%）累計方差百分比（%）主成分編號特征值方差百分比（%）累計方差百分比（%）15.137936.7036.7