深度學(xué)習(xí)在電力設(shè)備缺陷識別中的應(yīng)用進展

深度學(xué)習(xí)在電力設(shè)備缺陷識別中的應(yīng)用進展

Summary：電力設(shè)備的各種缺陷影響了電網(wǎng)的正常運轉(zhuǎn)，嚴(yán)重的缺陷甚至給生產(chǎn)生活帶來重大的損失，因此快速準(zhǔn)確的設(shè)備缺陷檢測具有重要意義。缺陷識別是電力設(shè)備缺陷管理工作中的重要流程。維護人員一般通過日?；?qū)ｍ椦矙z采集電力設(shè)備工作狀態(tài)，進而發(fā)現(xiàn)其中存在的缺陷。若無法及時、準(zhǔn)確、全面地發(fā)現(xiàn)缺陷，則會影響后續(xù)的缺陷管理工作。Keys：電力設(shè)備；缺陷識別；應(yīng)用進展前言本文概括了主流的深度學(xué)習(xí)缺陷識別模型及其改進與優(yōu)化，總結(jié)了當(dāng)前市場的應(yīng)用情況，分析了面臨的挑戰(zhàn)和難點。最后，從自動機器學(xué)習(xí)、樣本數(shù)據(jù)庫構(gòu)建、電力知識圖譜等方面分析深度學(xué)習(xí)在未來電力設(shè)備缺陷識別中的發(fā)展趨勢。1電力設(shè)備缺陷識別的發(fā)展1.1從人工巡檢到圖像采集電力設(shè)備缺陷通常依靠人工巡檢在視距內(nèi)或借助望遠(yuǎn)鏡等設(shè)備被發(fā)現(xiàn)。對于輸電線路此類分布廣、規(guī)模大的電力設(shè)備，人工巡檢不僅工作量和難度極大，還面臨著復(fù)雜、多變的戶外環(huán)境，工作具有較高的危險性。隨著技術(shù)的進步與發(fā)展，越來越多的電力維護單位開始采用無人機、巡檢機器人、固定攝像頭、全景采集等圖像采集設(shè)備對電力設(shè)備進行圖像采集。圖像采集設(shè)備采集到大量的電力設(shè)備圖像后，再由工程師根據(jù)經(jīng)驗判斷是否存在缺陷。這種方法的識別效果受限于工程師的技術(shù)水平和工作經(jīng)驗，且識別效率與工程師數(shù)量和工作時長相關(guān)。長時間進行人工識別，不僅使工程師精神疲勞，導(dǎo)致識別精度降低、效率下降，還易對工程師的身體健康造成傷害。1.2傳統(tǒng)圖像識別模式隨著采集到的圖像數(shù)量越來越多，將圖像識別技術(shù)應(yīng)用于電力設(shè)備缺陷識別中，已經(jīng)成為缺陷識別的發(fā)展方向之一。在圖像識別技術(shù)中，特征提取是關(guān)鍵步驟。傳統(tǒng)圖像識別算法由人工根據(jù)先驗知識和對任務(wù)的理解提取圖像特征，如根據(jù)電力設(shè)備的特點，提取邊緣、梯度、顏色、紋理等特征，包括尺度不變特征變換（SIFT）特征、方向梯度直方圖（HOG）特征等。但傳統(tǒng)的電力設(shè)備圖像缺陷識別算法對圖像特征提取的能力不足，擴展性也較差，無法很好地利用低層特征數(shù)據(jù)，無法提取深層特征，需要人工設(shè)計特征。人工設(shè)計的特征往往針對給定的設(shè)備類型，因而識別種類少，數(shù)據(jù)規(guī)模小，泛化能力差，難以滿足復(fù)雜場景下的多種類電力設(shè)備缺陷識別要求。2深度學(xué)習(xí)缺陷識別的研究進展深度學(xué)習(xí)是機器學(xué)習(xí)領(lǐng)域的一個方向，近年來在圖像識別領(lǐng)域取得突出成果?；谏疃葘W(xué)習(xí)的電力設(shè)備缺陷識別的主要任務(wù)在于對電力設(shè)備巡檢圖像進行圖像識別，判斷圖像中存在的缺陷并對其進行分類、定位和語義理解。經(jīng)過多年發(fā)展，較為典型的深度學(xué)習(xí)模型包括深度信任網(wǎng)絡(luò)模型、自編碼網(wǎng)絡(luò)模型及卷積神經(jīng)網(wǎng)絡(luò)（CNN）模型?；诰矸e神經(jīng)網(wǎng)絡(luò)的圖像識別算法于2012年取得突破性進展，在基于公共圖像數(shù)據(jù)集的分類任務(wù)中取得良好的效果。近年來，越來越多的研究者將卷積神經(jīng)網(wǎng)絡(luò)模型應(yīng)用于電力設(shè)備缺陷識別中，相較于傳統(tǒng)的圖像識別算法取得了更佳的識別精度、更強的泛化能力和更快的識別速度。2.1卷積神經(jīng)網(wǎng)絡(luò)缺陷識別模型卷積神經(jīng)網(wǎng)絡(luò)是一種包含卷積運算仿照生物視覺機制構(gòu)建的深層前饋型神經(jīng)網(wǎng)絡(luò)。經(jīng)典的卷積神經(jīng)網(wǎng)絡(luò)模型主要有兩類，即基于區(qū)域候選的兩階段模型和基于回歸的單階段模型。基于區(qū)域候選的模型主要有區(qū)域神經(jīng)網(wǎng)絡(luò)（R-CNN）、快速區(qū)域神經(jīng)網(wǎng)絡(luò)（FastR-CNN）、基于區(qū)域的全卷積網(wǎng)絡(luò)（R-FCN）等；基于回歸的模型主要有YOLO、單點多框檢測器（SSD）等。基于區(qū)域候選的模型以較快區(qū)域神經(jīng)網(wǎng)絡(luò)，（FasterR-CNN）為代表，是一種兩階段目標(biāo)檢測模型，其特點是先生成可能包含需要檢測目標(biāo)的候選框，再進一步對目標(biāo)進行檢測。FasterR-CNN模型是由R-CNN、FastR-CNN改進和優(yōu)化而來。R-CNN模型是將提取候選區(qū)域替代傳統(tǒng)的窗口滑動檢測，使用卷積神經(jīng)網(wǎng)絡(luò)計算候選區(qū)域的特征，最后使用支持向量機分類器進行分類。FastR-CNN模型在R-CNN基礎(chǔ)上進行了改進，不需要再對每個候選區(qū)域單獨提取特征，而是對整張圖片提取一次特征，同時提出感興趣區(qū)域池化對動態(tài)區(qū)域大小進行歸一化，并將分類器由支持向量機更換為softmax函數(shù)，從而提高速度。而FasterR-CNN在此基礎(chǔ)上增加了區(qū)域提取網(wǎng)絡(luò)（RPN），RPN在特征圖中進行滑動來選擇所需目標(biāo)，既保證了候選框選擇的準(zhǔn)確性，也提高了網(wǎng)絡(luò)訓(xùn)練的效率。2.2模型的改進和優(yōu)化單階段、兩階段的卷積神經(jīng)網(wǎng)絡(luò)在目標(biāo)檢測中具有較好的效果，但面對電力設(shè)備缺陷識別任務(wù)還存在一定不足。為了進一步提高深度學(xué)習(xí)的電力設(shè)備缺陷識別效果，研究者還將級聯(lián)網(wǎng)絡(luò)、遷移學(xué)習(xí)、生成對抗網(wǎng)絡(luò)（GANs）、注意力機制、網(wǎng)絡(luò)剪枝等技術(shù)與卷積神經(jīng)網(wǎng)絡(luò)結(jié)合使用，取得了較好的效果。采用級聯(lián)形式的識別模型，可以先對目標(biāo)部位進行檢測，將檢測結(jié)果裁剪放大作為下一階段缺陷識別模型的輸入，從而提高對小目標(biāo)缺陷的檢測效果。級聯(lián)YOLOv3和多個單分類（OCC）分類器對輸電線路缺陷進行識別。無人機采集到的缺陷圖像先傳入YOLOv3網(wǎng)絡(luò)，獲得部件的位置與邊界框，再對部件進行圖像裁剪，將裁剪后的部件圖像送入OCC分類器進行缺陷的判斷。樣本的數(shù)量對于深度學(xué)習(xí)模型訓(xùn)練的效果非常重要，樣本數(shù)量少不利于模型的訓(xùn)練[33]。遷移學(xué)習(xí)和GANs是深度學(xué)習(xí)中有效解決樣本數(shù)量少的重要方法。遷移學(xué)習(xí)的思想是從源區(qū)域?qū)⒅R遷移到目標(biāo)區(qū)域，從而提升目標(biāo)區(qū)域模型的性能。在缺陷識別中，遷移學(xué)習(xí)可以關(guān)聯(lián)不同數(shù)據(jù)集之間的特征，在具備大量樣本的源識別任務(wù)中進行模型訓(xùn)練，把訓(xùn)練出的模型參數(shù)遷移至小樣本識別任務(wù)模型中，這樣可以減少小樣本識別所需要的訓(xùn)練樣本。2.3市場應(yīng)用情況輸電線路缺陷識別是目前深度學(xué)習(xí)在我國電力設(shè)備缺陷管理中常見的應(yīng)用場景。我國的高壓輸電線路長期處于惡劣的自然環(huán)境之中，容易產(chǎn)生各種缺陷，同時巡檢的成本較高、效率較低，對于提高巡檢和缺陷識別效率有迫切的需求。目前的缺陷識別需求方主要以負(fù)責(zé)輸電線路實際管理工作的各省市級電網(wǎng)公司為主；技術(shù)研發(fā)方以電網(wǎng)系統(tǒng)內(nèi)各相關(guān)研究院、軟件院和主營無人機巡檢、人工智能的高新技術(shù)公司為主。在國家“新基建”大力發(fā)展人工智能的背景下，電網(wǎng)公司已從戰(zhàn)略層面加強人工智能在電力系統(tǒng)中的投入和研究，暢通科技成果轉(zhuǎn)化渠道，推動成果落地?；谏疃葘W(xué)習(xí)的電力設(shè)備缺陷識別是電力人工智能領(lǐng)域具有代表性的科技成果之一。一方面，電網(wǎng)公司建立“人工智能聯(lián)合實驗室”，提出“兩庫一平臺”（即樣本庫、模型庫和訓(xùn)練平臺）總部級訓(xùn)練平臺的建設(shè)任務(wù)，推動在各個省市級公司的應(yīng)用，并聯(lián)合各大互聯(lián)網(wǎng)公司共同探索和開發(fā)電力人工智能，發(fā)揮互聯(lián)網(wǎng)公司的算法技術(shù)優(yōu)勢和電網(wǎng)公司的數(shù)據(jù)優(yōu)勢；另一方面，各地市電網(wǎng)公司為了提高管理效率，通過招標(biāo)的方式采購基于深度學(xué)習(xí)的輸電線路缺陷識別技術(shù)服務(wù)和產(chǎn)品，靈活滿足當(dāng)前的缺陷數(shù)字化智能管理需求。3結(jié)論電力設(shè)備缺陷管理對于國家電力系統(tǒng)的安全和穩(wěn)定具有重要意義。本文對電力設(shè)備缺陷管理中缺陷識別的發(fā)展進行了回顧，并從卷積神經(jīng)網(wǎng)絡(luò)模型、模型優(yōu)化和改進、市場應(yīng)用情況三方面總結(jié)了深度學(xué)習(xí)在缺陷識別中的應(yīng)用進展。盡管當(dāng)前深度學(xué)習(xí)技術(shù)發(fā)展迅速，但在應(yīng)對復(fù)雜的缺陷識別任務(wù)、實現(xiàn)技術(shù)成果的轉(zhuǎn)化和突破方面還面臨眾多挑戰(zhàn)。未來可以通過自動機器學(xué)習(xí)、構(gòu)建電