TensorFlow +OpenVINO 整合開發(fā)CR-A05-基礎AI模型：分類器(Classifier)

1.認識分類器(Classifier)2.分類器的基礎：回歸(Regression)分析3.回歸與分類的重要視角：空間對應4.范例實現(xiàn)：使用TensorFlow5.優(yōu)化模型：使用OpenVINO優(yōu)化器6.測試模型：使用OpenVINO推論引擎如何分類呢?·玩具兔與玩具熊之間，有著明顯不相同的特征。BCD12耳朵長度體重3輸入特征：456我能識別：789耳長單位：厘米(1cm)體重單位：百克(100g)工作表1④BCEF1玩具兔(熊)的特征2耳朵長度體重3輸入特征：456我能識別：789耳長單位：厘米(1cm)體重單位：百克(100g)ABCEF1玩具兔(熊)的特征2耳朵長度體重體重3輸入特征：456我能識別這是玩具<熊>789耳長單位：公分(1cm)體重單位：百克(100g)如何訓練分類器?機器學習學習強化學習學習強化學習·監(jiān)督式學習(SupervisedLearning)是電腦從標簽化的資訊中分析模式后，做出預測的學習方式?！俗⑦^的資料就好比標準答案，電腦在學習的過程中透過準的預測。采取監(jiān)督式學習·監(jiān)督式學習是將題目與解答同時提供給AI,由AI自行比對解答，藉此學習新知。即<Q&A>·AI學習時，也是找已經(jīng)知道題目和答案的老師來教。這就是所謂的：監(jiān)督是學習?！に^老師，只會告訴AL<正確與否>。至于問題的解決方案，還是要由AI自行從嘗試錯誤中學習。在監(jiān)督式學習采取監(jiān)督式學習·監(jiān)督式學習是將題目與解答同時提供給AI,由AI自行比對解答，藉此學習新知。即<Q&A>·AI學習時，也是找已經(jīng)知道題目和答案的老師來教。這就是所謂的：監(jiān)督是學習?！に^老師，只會告訴AL<正確與否>。至于問題的解決方案，還是要由AI自行從嘗試錯誤中學習。在監(jiān)督式學習請老師提供分類標簽給我·非監(jiān)督式學習(UnsupervisedLearning)是另一種機器學習方法，和監(jiān)督式學習最大差異是訓練資料不需要有答案(即標簽)?！ぞ拖袷俏覀兘o了機器一堆貓的照片和一堆狗的照片，可是我們并沒有告訴機器說哪些是貓哪些是狗，要機器自己去學習判斷出分類出圖片的不同之處，機器會依據(jù)資料的分布、計算出資料間的相似性，相似程度越高，被歸類至同一群組。于是就能將比較相似的資料聚集在一起，形成集分類器(Classifier)也復習一下：非監(jiān)督式學習Ex.推薦系統(tǒng)中，把偏好接近(臭味相投)的人們分為·長期輸血會導致過多的鐵質累積在體內，造成身體嚴重的傷害，尤其是心臟與肝臟，甚至可能造成生命的危倦、體重消失等?！ご藭r，可以建立監(jiān)督式學習的Al模型，這模型的輸入值代表Al可以觀察到的癥狀。型，就可由Al模型來進行分類了?！び^察患者，并提取癥狀特征：123456789AB關節(jié)痛222110C1211DX(癥狀組合)102100UnexplainedWeightLoss體重消失101000F腹痛210010G疲勞121111K的級別)·貼上分類標簽(Label)·就成為一個Al分類模型?！び蓪I(yè)醫(yī)生(老師)依據(jù)其專業(yè)知識和經(jīng)驗，來將<血鐵沉積程度>分為5類(5個級別)123456789AB222110C心律不整121100開始訓練膚色變化102100體重消失1010000:無癥狀F210010121111T(標簽)KABCDEFGH1JK1X(癥狀組合)23T(標簽)4矢節(jié)痛心律不整膚色變化體重消失腹痛疲勞的級別)52111216220012721210181110019100011000001開始訓練0:無癥狀1:輕微學習中…2:顯著·經(jīng)過幾分鐘，就學習完成了：123456789AB矢節(jié)痛222110心律不整膚色變化體重消失開始訓練學習完成了!0:無癥狀1:輕微2:顯著F210010疲勞121111T(標簽)K(血鐵沉積·此時，可以建立監(jiān)督式學習的Al模型，這模型的輸入值代表Al可以觀察到的癥狀。型，就可由Al模型來進行分類了。ABCDEFGH1JK12血鐵沉積程度Z(預測值)3TestingX(癥狀組合)4矣節(jié)痛心律不整體重消失腹痛疲勞500110162210127890測預·按下<預測>,就進行推論，并輸出如下：12345623456血鐵沉積程度789分類器的基礎：簡介規(guī)律。探索規(guī)律的基礎技術。范例-1復習：回歸分析復習：回歸分析值是已知的，而W和B是未知的。如下圖：BfACDEFGH1線性回歸以X*W+22維坐標(Point)W(weight)B(bias)34data[]1352563尋找規(guī)律74857(&繪圖)9·<回歸分析>就是找尋最棒的W和B值。就得到回歸線了?；貧w分析·按下<尋找規(guī)律>按鈕，就會進行回歸分析，找出最適合的W和B值，并輸出如下：ABCEFGH1線性回歸以X*W+22維坐標(Point)341352563尋找規(guī)律(&繪圖)748579012(使用規(guī)律)34?5?6·剛才的回歸分析已經(jīng)找出最棒的W和B值了，也就是找到最具代表性的回歸曲線了。于是就繪出圖形如下：(使用規(guī)律)就會對映到這回歸線上的兩個點，如下：復習：回歸分析·這就意味著，我們已知X值為：1.5··這是回歸分析基本觀念和方法?！⒌贸龅腨值，經(jīng)由sigmoid()函數(shù)，可以計算出條件機率P(Y/X)值。這是機器學習的二元分類的標準做法。有7瓶水，其攝氏溫度分別是：[-5,-2,-1,2,3,4,6]。此時人們常常將之區(qū)分為兩個類別：水與冰。就把這X值和·例如，有7瓶水，其攝氏溫度分別是：[-5,-2,-1,2,3,4,6]此時人們常常將之區(qū)分為兩個類別：水與冰。BCDEFGH1邏輯回歸(二元分類)2分為水與冰兩類WB3X(溫度)P(Y=水/X)4-55-26-17283Sigmoid圖尋找規(guī)律Sigmoid圖(Linear圖)946·現(xiàn)在，可以按下<尋找規(guī)律>,就進行回歸分析，找出最棒的W和B值，如下：BCDEFGH1邏輯回歸(二元分類)2分為水與冰兩類WB3X(溫度)P(Y=水/X)4-5-0.0716441355-26-17283尋找規(guī)律gmoid圖946(Linear圖)·這條直線就是Al機器學習里，常常聽到的：分類線。將直線轉換成為曲線，并繪出圖形如下：回歸分析·因為Sigmoid()函數(shù)能從線性公式計算出來Y值轉換成為P(Y/X)概率值?；貧w線)。這時候，就把7個瓶子區(qū)分為兩類了：回歸分析·于是您就可以了解了，Al(機器學習)就是，透過這樣來一堆數(shù)據(jù)進行分門別類，簡稱為：分類(Classification)?！ず唵蔚幕貧w分析已經(jīng)找出一條回歸直線，然后經(jīng)由Sigmoid()轉換，而找到最具代表性的回歸曲線?；貧w分析(使用規(guī)律)XP(Y=水/X)-1.5繪圖P(Y=兔/X)-5.6XP(Y=水/X)-1.5-5.6下<尋找規(guī)律>來進行訓練(即回歸分析),找出最棒的W和B分類了。多元分類器：稱為多元分類。123456781234567809·按下<學習>,就找出最棒的W和B值，并輸出如下：ABCEFGH1JKL1Softmax回歸(二元分類)以X*WB=Y&softmax()表示2分為兔與貓兩類WB3x0(耳朵)x1(尾巴)P(Y=兔/X)P(Y=貓/X)w10w01w11b?bl410-0.1715016107018109尋找規(guī)律(學習)(測試)x0x1P(Y=兔/X)P(Y=貓/X)??????分為兔與貓兩類分為兔與貓兩類P(Y=貓/X)0-0.452-0.1710.7709110123456789尋找規(guī)律尋找規(guī)律火ABCEFGH1JKL1Softmax回歸(二元分類)以X*W+B=Y&softmax()表示2分為兔與貓兩類WB3x0(耳朵)x1(尾巴)P(Y=兔/X)P(Y=貓/X)w00w10w01w11b0bl410-0.1715016107018109尋找規(guī)律(學習)(測試)火P(Y=兔/X)P(Y=貓/X)????回歸分析再將Y(即[y0,y1])值，經(jīng)由Softmax()函數(shù)計算出回歸分析就先計算：1x0x1P(Y=兔/X)P(Y=貓/X)·在剛才這范例里，因為計算出y0和y1兩個值，經(jīng)由·以此類推，在這多元分類的情境里，因為計算出y0更多特征的分類器更多特征、更多類別的分類器：·可以活用Softmax(),建立多元的分類器?！み@個范例共有6個特征(癥狀)。123456789AB關節(jié)痛222110C心律不整1211開始訓練DX(癥狀組合)102100UnexplainedWeightLoss1010000:無癥狀F腹痛210010G疲勞121111K(血鐵沉積的級別)更多特征、更多類別的分類器：123456789關節(jié)痛222110C121100102100UnexplainedWeightLoss101000F腹痛210010G121111K(血鐵沉積的級別)更多特征、更多類別的分類器：空間對應回歸與分類的重要視角：空間對應1.空間對應的涵意回歸與分類的重要視角：空間對應空間對應的涵意·于是，各筆數(shù)據(jù)的特征值成為該點的坐標值?；貧w與分類的重要視角：空間對應空間對應的涵意·人們看到自然空間的實際事物，收集這些事物的特征，提供給Al模型?！み@些X數(shù)據(jù)則成為X空間里的坐標，來觀察自然空間里實乙空間空間X空間乙空間空間X空間·例如，下圖里的數(shù)據(jù)將成為這些空間里的坐標：模型會很聰明地探索出兩個空間的對映矢系：23456789E000Ww00w10w01wl1Bb0blX空間乙空間·人們會在其生活的自然(實物)空間里，對其所感興趣的各項事物，并收集其特征，就成為各筆原始資料(Rawdata)·各對映到X空間里的一點?！と缓笤儆成?過濾)到Y空間；還可再從Y空間映射(過濾)到·而Al的魅力就是它很擅長于探索出對映的規(guī)律性。下期將繼續(xù)說明ML如何擁有其驚人的探索能力?；貧w與分類的重要視角：空間對應2.多維度的特征對應回歸與分類的重要視角：空間對應維度的特征對映，就能輕易地繼續(xù)擴大到更多維度的特征對映了?！な占?個人的特征數(shù)據(jù)，每個人都有3項特征：ABCDEFGHIJKLMN1分為女士與男士兩類232維4擦口紅高跟鞋抽煙BTZ510001(女士)611001(女士)7Mike001W10(男士)800110(男士)901001(女士)分類(尋找W&B)·已知這5個人之中，有三位是女士，另兩位是男士。也就是，人們心中已經(jīng)將它們區(qū)分為兩個類(Class)了?；貧w與分類的重要視角：空間對應T=[0,1]代表<女士>類；而T=[1,0]代表<男士>類?？臻g的目標值之間的對應矢系是：表達和記住它。間的內涵如下：和Sigmoid(Y)=Z和Sigmoid(Y)=Z而計算出來ABCDEFGHIJKLMN1232維坐標&Sigmoid4擦口紅高跟鞋抽煙BTZ510001(女士)611001(女士)7001W10(男士)800110(男士)901001(女士)分類(尋找W&B)多維度的特征對應0b1多維度的特征對應·將X空間里的5個點都對映到Z空間：TZ01(女士)01(女土)0(男士)10(男士)01(女士)男士類女士類0TZ01(女士)01(女士)10(男士)10(男士)01(女士)多維度的特征對應0回歸與分類的重要視角：空間對應3.以三分類(3-class回歸與分類的重要視角：空間對應·例如有一位即將畢業(yè)的學生，到征求人才的網(wǎng)到7個工作機會，各有3項特征：錢多嗎、事少嗎、以及離家近嗎?如下圖：回歸與分類的重要視角：空間對應ABCDEFGHIJKLMN0PQ1分為三個類234錢多事少離家近BTZ5111100(喜歡)6101100(喜歡)7110W010(普通)8100010(普通)9010001(不喜歡)001001(不喜歡)000001(不喜歡)分類(尋找W&B)·此時，這位學生對這些工作機會區(qū)分為3類。100(喜歡)1100(喜歡)100(喜歡)010(普通)010(普通)001(不喜歡)001(不喜歡)001(不喜歡)T=[1,0,0]代表<喜歡>類。T=[0,1,0]代表<普通>類。T=[0,0,1]代表<不喜歡>類?！ぐ聪?lt;分類)>,ML就尋找出來W和B值。此時，X與Z空間的內涵如下：和Sigmoid(Y)=Z而計算出來ABCDEFGHIJKLMN0PQ1分為233維坐標4錢多事少離家近BTZ5111100(喜歡)6101100(喜歡)7110W010(普通)8100010(普通)9010001(不喜歡)001001(不喜歡)0000001(不喜歡)分類(尋找W&B)而計算出預測值Z[0.02,0.12,0.9]。其計算過程是：Sigmoid(2.16)=·同樣地，將X空間里的7個點都對映到Z空間，如下圖T10000000110000000111(不喜歡)0回歸與分類的重要視角：空間對應·其中，可以看到了，將Job5、Job6和Job7所對應的預測值都非常接近于目標值T=[0,0,1],就歸于<不喜歡>類。T=[0,1,0]·就歸于<普通>類。值T=[1,0,0]·就歸于<喜歡>類。范例實現(xiàn)操作范例：延續(xù)剛才的<血鐵沉積癥>范例：123456789AB關節(jié)痛222110心律不整膚色變化體重消失2:顯著PainFatigueT(標簽)(血鐵沉積腹痛疲勞的級別)·長期輸血會導致過多的鐵質累積在體內，造成身體嚴重的傷害，尤其是心臟與肝臟，甚至可能造成生命的危倦、體重消失等?！臻g×空間空間—空間×空間空間123456789AB關節(jié)痛222110心律不整膚色變化體重消失腹痛疲勞K(血鐵沉積ZABCDEFGH1JK1X(癥狀組合)23T(標簽)(血鐵沉積4矢節(jié)痛心律不整膚色變化體重消失腹痛疲勞的級別)52111216220012721210181110019100011000001空間對映空間對映importnumpyasnpimportmathimportkerasfromkeras.modelsimportSequentialimporttensorflowastf建立一個分類器model=Sequential()model.add(d)定義np,array([[2,1,1,1,2,1][2,2,0,0,1,2]準備訓練數(shù)據(jù)準備訓練數(shù)據(jù)(0,0,0,0,0,ijj)np,array([[1,0,0,0,0],optimizer=keras,optimizers.SGD(1r=0.25),metrics=['accuracy'])np,array([[2,1,1,1,2,1][2,2,0,0,1,2]2[2,1,2,1,0,12[1,0,0,0,1,1分類標簽np,array([[1,0,0,0,0],分類標簽np,array([[2,1,1,1,2[2,2,0,0,1,2[2,1,2,1,0,1[1,1,1,0,0,1]][1,0,0,0,1,1][0,0,0,0,0,1]])np,array([[1,0,0,0,0],2[1,0,0,0,0],[0,1,0,0,0],[0,0,1,0,0],[0,0,0,1,0],[0,0,0,0,111)22展開訓練optimizer=keras,optimjGD(1r=0.25),metrics=['accuracy']"C:/pb/","classifiermodel.pb",astext=False)tf.io.writegraph(frozengraph,"C:/pb/","classifiermodel.pbtxt",astext=True)TX=np,array([[0,0,1,1,0,1]·剛才已經(jīng)從TensorFlow匯出*pb檔案了，其路徑和檔名稱sess=['result/BiasAdd'])tf.io.writegraph(frozengraph,"C:/pb/","classifiermodel.pb"tf.io.writegraph(frozengraph,"C:/pb/","classifiermodel.pbtxt"TX=np,array([[0,0,1,1,[2,2,.1,0,1,2]])z=model.predictproba(TX)print("(nPredicted:")_·輸出預測值(分類):Predicted:[0.0.]]Predicted:[0.70.0.30.0.j]空間對映OptimizerPytorch→ONNX優(yōu)化模型：行優(yōu)化動作。操作流程：起步名稱步驟-1:進入優(yōu)化器的工作區(qū)1.1首先從Windows的命令行窗口出發(fā)：MicrosoftWindows[版本10.0.16299.2166]1.2輸入命令：cd"C:\ProgramFiles(x86)\IntelSWTools\openvino\deploymenttools\modeloptimizer"并且按<Enter>。1.3就進入到模型優(yōu)化器(ModelOptimizer)的工作區(qū)了：管理員：命令提示符MicrosoftWindows[版本10.0.16299.2166]ProgramFilesIntelSWToolsopenvinode步驟-2:展開優(yōu)化2.1輸入命令：ProgramFilesInteISWToolslopenvinodep●這指示它：剛才從TensorFlow所產(chǎn)生的*.pb檔案是--“C:\\pb\\classifiermode.pb”?！褚哺嬖V它：轉換出來的IR檔案的儲存路徑(文件夾),例如指定放在”C:\\pb\”里。輸入資料的格式是：[1,6]。2.2優(yōu)化完成了●完成時，會出現(xiàn)畫面：