視頻結構化大數(shù)據(jù)平臺解決方案

PAGEPAGE10/47視頻結構化大數(shù)據(jù)平臺解決方案千視通目錄建設背景 4建設目標 5建設原則 6標準化原則 6統(tǒng)一設計原則 6大數(shù)據(jù)處理原則 6高可高安全性原則 6適用性原則 7可擴展性原則 7系統(tǒng)總體設計 7設計依據(jù) 7總體架構設計 10業(yè)務架構設計 11網(wǎng)絡架構設計 12數(shù)據(jù)結構化 135.1.概述 13數(shù)據(jù)采集 14控制調度單元 15目標結構化單元 15車輛結構化單元 21前端要求 26數(shù)據(jù)存儲 296.1.概述 29功能設計 29數(shù)據(jù)存儲 29數(shù)據(jù)服務 30系統(tǒng)管理 31存儲設計 32數(shù)據(jù)應用 32以圖搜車 33人物大數(shù)據(jù) 34人物綜合查詢 34人物檢索 34人騎車檢索 36視頻框選嫌疑目標 37以圖搜圖 38智能建庫引擎 38以圖搜圖應用 38S應用 .9基本操作 39地圖查詢 39軌跡展示 40攝像頭操作 !未定義書簽。系統(tǒng)管理 41平臺特點 44提高海量視頻倒查的效能 44提供視頻關鍵特征的視頻檢索 45永久保存結構化的視頻信息 45基于虛擬化服務的云計算架構 46配置清單 !未定義書簽。建設背景平安城市視頻監(jiān)控技術已經(jīng)從聯(lián)網(wǎng)整合階段發(fā)展到視頻實戰(zhàn)深但是如何將這些視頻資源整合好、利用好、管理好、應用好，發(fā)揮視頻實戰(zhàn)的最大效用，是視頻實戰(zhàn)應用下一步發(fā)展面臨的問題。2010ZB番，一天產(chǎn)生的視頻監(jiān)控數(shù)據(jù)超過1500PB。地市“天網(wǎng)”攝像頭都數(shù)以萬計。人工分析視頻的方法不再適用。如何存儲海量視頻信息？如何提升海量視頻信息查找效率？如何利用海量視頻信息為案件偵破提供支撐？（經(jīng)過結構化引擎處理,基于云存儲技術構建大數(shù)據(jù)平臺，基于數(shù)據(jù)挖掘技術構建應用平臺，實現(xiàn)視頻圖片的智能檢索、車輛大數(shù)據(jù)應用、人物大數(shù)據(jù)應用，人臉大數(shù)據(jù)應用等。建設目標系統(tǒng)主要解決如何快速有效提高從大量視頻和圖像信息中查找到的增加問題以及目前的視頻數(shù)據(jù)使用方案越來越難解決的海量視頻系統(tǒng)建成后，公安所有的監(jiān)控視頻、交通卡口、社會監(jiān)控數(shù)據(jù)以及案事件的視頻資料等歸檔數(shù)據(jù)將成為一個結構化的處理，存儲，管理，分析，計算，使用的一體化大數(shù)據(jù)云中心。建設原則標準化原則統(tǒng)一設計原則按照公安部視頻數(shù)據(jù)的相關標準設計系統(tǒng)結構。特別是應用系統(tǒng)建設結構、數(shù)據(jù)模型結構、數(shù)據(jù)存儲結構以及系統(tǒng)擴展規(guī)劃等內容，從規(guī)劃的全局出發(fā)、從長遠的角度考慮。大數(shù)據(jù)處理原則致力于跨警種、跨系統(tǒng)的視頻相關數(shù)據(jù)結構化處理，致力于非結務需求。高可靠/高安全性原則從系統(tǒng)從結構上、產(chǎn)品性能上、設備的選型上，以及具體的實施對整個計算資源進行有效調度和分配，平時保障85%的計算資源利用15%的計算資源，一方面使得機器不在峰值上一直運行，同時在突發(fā)臨時事件時，預留的15%的計算資源可以備用，確保系統(tǒng)的有關標準及公安部門有關安全技術防范的要求。適用性原則系統(tǒng)的建設將保護已有資源，急用先行，在滿足應用需求的前提下，盡量降低建設成本?？蓴U展性原則系統(tǒng)設計不但保證目前系統(tǒng)容量的要求，也將考慮今后系統(tǒng)的SDK擴展。系統(tǒng)總體設計設計依據(jù)本系統(tǒng)主要設計依據(jù)遵循以下標準和規(guī)范：項目政策文件：見》201119號《全國公安裝備建設“十二五”規(guī)劃》201211作任務書》公科信【2012】73 號《全國公安機關圖像信息聯(lián)網(wǎng)總體設計方案》公科信傳發(fā)【2012】367 號《?。▍^(qū)、市）公安機關視頻像信息整合與共享技術方案編寫指南》公安信息系統(tǒng)類標準公安部《金盾工程總體方案設計》公安部《公安信息系統(tǒng)應用支撐平臺總體方案設計》公安部《公安信息化標準體系》公安部《地市級綜合信息系統(tǒng)總體設計方案》公安部《共享數(shù)據(jù)項代碼標準》公安部《共享數(shù)據(jù)項集項目規(guī)范》GAGA公安部《經(jīng)濟犯罪案件信息管理系統(tǒng)技術規(guī)范》GA397.X-2002GAGAGAGB/T22239-2008GB/T24856-2009計算機信息系統(tǒng)類標準《計算機軟件開發(fā)規(guī)范》GB/T20272-2006GB/T20273-2006視頻系統(tǒng)類標準《城市監(jiān)控報警聯(lián)網(wǎng)系統(tǒng)技術標準（GA/T669-2008）求》GBT28181-2011(GB50198-94)（GA/T367-2001）信息安全類標準GB/T24856-2009GB17859-1999GB/T22240-2008GB/T20269-2006總體架構設計”一個中心：利用云計算、云存儲技術，建設視頻大數(shù)據(jù)中心；一個平臺：多個業(yè)務應用：在大數(shù)據(jù)中心上，實現(xiàn)視頻圖片的智能檢索；在大數(shù)據(jù)中心上，實現(xiàn)視頻圖片的車輛分析；在大數(shù)據(jù)中心上，實現(xiàn)視頻圖片的人物分析；業(yè)務架構設計架構說明:大數(shù)據(jù)應用平臺組成。大數(shù)據(jù)接入負責接入在線各種社會視頻資源和公安各視頻資源?；蛘咧苯訉腚x線視頻資源。大數(shù)據(jù)處理對收集到的數(shù)據(jù)經(jīng)進行轉換、分析處理。視頻、圖片等非結構化數(shù)據(jù)經(jīng)過各種算法生成標準數(shù)據(jù)集供挖掘和分析使用。存SDKGIS應用等應用服務。網(wǎng)絡架構設計Hadoop系統(tǒng)可單獨部署，也可以級聯(lián)部署。級聯(lián)部署時，中心管理平臺可以對子節(jié)點進行任務管理、調度、狀態(tài)查看。可指定子節(jié)點信息上傳的位置、信息上傳的類型。中心管理服務器收到信息后，可對消息進行二次過濾后再入庫。視頻結構化平臺級聯(lián)示意圖數(shù)據(jù)結構化概述大數(shù)據(jù)視頻結構化分析系統(tǒng)控制調度、目標結構化單元、車輛結數(shù)據(jù)采集主要接入卡口數(shù)據(jù)、電警數(shù)據(jù)、實時視頻、歷史視頻、卡口識別洗、轉換、分類后，將數(shù)據(jù)存入大數(shù)據(jù)平臺。提供對大數(shù)據(jù)統(tǒng)一的接入方式，接口形式包括API便公安數(shù)據(jù)接入大數(shù)據(jù)平臺。大數(shù)據(jù)平臺采集視頻聯(lián)網(wǎng)平臺API方式：文件交換形式接口通過協(xié)議交換文件，文件格式需要接入時定義接口文檔；RDBMS通過JDBCWebService通過開發(fā)定制的服務和第三方接口?？刂普{度單元活動目標結構化單元AVI士、景陽等廠家。（DVR指定存儲設備的錄像文件）的視頻存儲文件下載至本處理單元。錄像文件進行處理。元主動或被動上報運行監(jiān)測狀態(tài)和當前任務處理狀態(tài)。整。的視頻數(shù)據(jù)管理單元。數(shù)據(jù)，并記錄運動物體的特征（顏色、方向、大小等）信息。片中人、車輛、人騎車的特征信息提取。例如：人結構化流程圖：17/47PAGEPAGE18/47獲取人圖像信息。獲取圖片中的人的等相關特征信息。（背包、拉桿箱、戴眼鏡等）進行自動檢測、自動識別的功能。支持模式：工具支持三種檢測模式。文件流模式實時流模式直連設備模式中人的信息提取，并識別出相關信息。主要功能：人結構化描述信息：性別信息識別系統(tǒng)支持男人、女人識別。年齡段信息識別系統(tǒng)支持老人、中年、青年、兒童進行識別。方向識別系統(tǒng)支持正面、側面、背面、斜上方等方向進行識別。上下身衣服顏色識別系統(tǒng)支持黑、白、紅、黃、藍、綠、灰、青等顏色識別。人裝飾物識別系統(tǒng)支持戴眼鏡、帽子、背包、拉桿箱、打雨傘等進行識別，國內領先。人騎車結構化描述信息：騎車類別識別系統(tǒng)支持兩輪車、三輪車識別。性別信息識別系統(tǒng)支持男人、女人識別。年齡信息識別系統(tǒng)支持老人、中年、青年、幼兒進行識別。上身衣服顏色識別系統(tǒng)支持黑、白、紅、黃、藍、綠、灰、青等顏色識別。人裝飾物識別系統(tǒng)支持戴眼鏡、打雨傘等進行識別?；顒幽繕怂俣茸R別系統(tǒng)支持對活動目標移動速度進行慢、快進行識別。車輛結構化描述信息：不同環(huán)境下車輛識別系統(tǒng)支持白天、夜間、同畫面多車輛、從車頭、從車尾識別。車身顏色識別黑、白、紅、黃、藍、綠、灰、青等10種車身顏色識別。車型識別如轎車、小型貨車、大型貨車、客車等類型。車品牌、車系、款型識別系統(tǒng)支持車輛三級品牌（品牌、車系和款型）識別國內領先?；顒幽繕诉\動方向系統(tǒng)支持對活動目標運動方向上、下、左、右進行識別?；顒幽繕怂俣茸R別系統(tǒng)支持對活動目標移動速度進行慢、快進行識別。車輛結構化單元等的相關特征信息。車輛結構化流程圖：22/47PAGEPAGE23/47獲取車輛圖像信息。獲取圖片中的車輛的車牌、車身、車標、車系、車輛寬度、安全帶等相關特征信息。實現(xiàn)對視頻圖幀中車輛信息（車牌號碼、車牌顏色、車身顏色、標識物、駕駛員行為等）進行自動檢測、自動識別的功能。支持模式：工具支持三種檢測模式。文件流模式實時流模式直連設備模式車輛特征識別單元采用車牌智能識別技術和先進的圖像識別算關信息。主要功能：不同環(huán)境下車輛識別系統(tǒng)支持白天、夜間、同畫面多車輛、從車頭、從車尾識別。車牌信息識別GA36-200717、掛車警用汽車號牌（前后車牌、拖拉機號牌、軍車號牌、武警車號牌、個性化車牌、黑色車牌。車身顏色識別黑、白、紅、黃、藍、綠、灰、青等10種車身顏色識別。車型識別如轎車、越野車、商務車、小型貨車、大型貨車、輕客、小型隨車吊、消防車、渣土車、押運車、工程搶修車、救援車、欄板卡車等類型。車品牌、車系、款型識別系統(tǒng)支持車輛三級品牌（品牌、車系和款型）1603000，國內領先。特有的年檢標、車窗貼、掛飾、遮陽板識別能力系統(tǒng)支持對年檢標、車窗貼、掛飾、遮陽板的識別檢測，并以不同顏色框加以標識。駕駛員行為識別系統(tǒng)支持駕駛員打電話、是否系安全帶等危險行為進行識別檢測?；顒幽繕诉\動方向系統(tǒng)支持對活動目標運動方向上、下、左、右進行識別?；顒幽繕怂俣茸R別系統(tǒng)支持對活動目標移動速度進行慢、快進行識別。人臉結構化單元表情、種族等的相關特征信息。實現(xiàn)對視頻圖幀中人臉信息（年齡、性別、表情、種族等）進行自動檢測、自動識別的功能。支持模式：工具支持三種檢測模式。文件流模式實時流模式直連設備模式人臉特征識別單元采用人臉智能識別技術和先進的圖像識別算法，對視頻流及圖片中人臉的信息提取，并識別出的相關信息。主要功能：1）區(qū)分男性、女性2）年齡識別能準確識別出具體的年齡3）種族識別能區(qū)分黃種人、黑種人、白種人。前端要求提取車牌的攝像機架設有如下要求：、高清視頻流。2、具備自動曝光補償、強光抑制、寬動態(tài)、自動白平衡。3、適應角度：車輛顯示完整，車輛正面與攝像頭法線方向的左右傾斜在20度以內，上下傾斜角度小于15度。4、車牌識別時，車牌聚焦清晰區(qū)域處的環(huán)境照明在白天必須大200lux100lux。590-160太暗等。6、支持各種車牌識別：民用車牌（92式、民用貨車車牌（排黃車牌、民用車牌（2002個性化車牌軍車車牌（2005式。7、識別車牌號碼的時間≥ 100ms 移動車輛，車牌檢測正確率>95%；漢字識別正確>90%、字符位識別率大、全車牌識別正確率。a）攝像機架設要求設備安裝位置與角度應避免出現(xiàn)強逆光、反光等情況。當同一個兩車道提取的準確率。如下現(xiàn)場布局側視圖所示。為保證從視頻中能準確的提供人臉和提起后進行人臉比對識別，對提取人臉的攝像機架設有如下要求：攝像機架設要求2.5m15度以內。攝像頭到人臉的距6米左右。地面2m以內的對焦寬度，監(jiān)控人臉寬度至少占畫面寬60攝像機架設示例光線要求200lux左右，避免有逆光、強光和陰陽臉200-900lux。照片采集要求抓拍的人臉照片清晰、完整。數(shù)據(jù)存儲概述視頻大數(shù)據(jù)資源信息庫是視頻圖像存儲、管理的綜合平臺。支持創(chuàng)新的QPI大數(shù)據(jù)資源信息庫采用SOA體系結構，以及多媒體數(shù)據(jù)庫M、分高效訪問，低資源占用，大大提高特征數(shù)據(jù)的交互性。功能設計數(shù)據(jù)存儲支持對上傳的結構或非結構化數(shù)據(jù)提供云存儲,主要體現(xiàn)在以下三個部分：多節(jié)點擴容能力：當磁盤容量不夠時，可以靈活的增加數(shù)據(jù)節(jié)點，簡單實現(xiàn)擴容。文件分塊存儲：對大文件進行分塊存儲，把一個大的數(shù)據(jù)文件自動切割成成的方式進行存儲,讀取時,分別在多個存儲節(jié)點上讀取,減少磁IO據(jù)處理迅速。自動容災：失的時,系統(tǒng)自動的在其它存儲節(jié)點上去獲取文件,對丟失的文件進行修復，自動重新恢復文件,達到數(shù)據(jù)節(jié)點相互備份的。數(shù)據(jù)服務通過封裝SDK提供以下主要服務：全文檢索對視頻大數(shù)據(jù)資源信息庫中存儲的所有數(shù)據(jù)提供全文檢索類并建立索引,當用戶進行檢索時,系統(tǒng)提供強大的檢索功能,可以根據(jù)內容進行多角度多側面的利用數(shù)據(jù)信息資源,方便快捷得獲取到自己想要的信息。文件下載對用戶需要進行存儲和管理的文件進行上傳和下載功能,對上傳到庫中的視頻文件進行快速下載或播放,圖片文件進行放大縮小以及瀏覽功能。流媒體服務系統(tǒng)內置流媒體服務，對用戶上傳的視頻,音頻以及多媒體文件,以流的方式在網(wǎng)絡中進行傳輸,相對于下載后觀看的待整個文件下載完畢。系統(tǒng)內置流媒體服務，對用戶上傳的視頻,音頻以及多媒體文件,以流的方式在網(wǎng)絡中進行傳輸,相對于下載后觀看的待整個文件下載完畢。系統(tǒng)管理賦予相應的角色權限，從而控制用戶查看庫中數(shù)據(jù)的權限；角色賦予相應的功能權限，從而控制用戶在系統(tǒng)中的功能權限；示，并可對置頂?shù)膬热葸M行維護；存儲設計存儲設計方案：目標結構化；1天每路：3.5G車輛結構化；1天每路（或者1天每路0萬輛車計算：備注：視頻結構化分析平臺：40903.5G×40×90÷1024G≈12.6T120903.2G×120×90÷1024G≈34.6T312.6T+34.6T≈47.2T47.2T*3=141.6T共需要的設備數(shù)量為：141.6T÷48T=3臺數(shù)據(jù)應用從視頻數(shù)據(jù)的數(shù)據(jù)量增長的角度，隨著公安業(yè)務及視頻技術的不數(shù)據(jù)加工和數(shù)據(jù)挖掘等深層次的數(shù)據(jù)應用。大數(shù)據(jù)綜合業(yè)務應用平臺提供視頻綜合分析業(yè)務應用，實現(xiàn)智能檢索、車輛大數(shù)據(jù)、人臉大數(shù)據(jù)、人物大數(shù)據(jù)等功能，滿足不同業(yè)務部門應用需求。以圖搜車以圖搜車結果對比圖片顯示人物大數(shù)據(jù)人物綜合查詢系統(tǒng)對日常業(yè)務所接入的實時源和離線源等視頻/圖片數(shù)據(jù)，進行特征提取分析及識別，對目標人物結構化信息（包括性別、年齡、方向特征、衣服顏色、背包、拉桿箱等）進行存儲。WEB/組合查詢。系統(tǒng)支持對目標任務進行精確查詢和模糊查詢。人物檢索人形檢索將嫌疑人的截圖輸入至系統(tǒng)中，利用人形檢索的功能，系統(tǒng)會根據(jù)目標嫌疑人的衣著、顏色分布、體態(tài)特征快速地在跨攝像頭中進行全局搜索，查找出相似的目標，并將結果以快照的形式輸出，刑偵人員可此進行研判；人形檢索，如下圖所示：人員衣著顏色和紋理特征檢索支持人員衣著顏色檢索，可以通過調色板精確選色，以及從視頻畫面中采集顏色。支持按上半身、下半身分別指定顏色進行檢索，檢索結果中符合條件的目標能夠排在前列。上下半身檢索結果如下圖所示：支持根據(jù)人員衣著紋理特征進行檢索，檢索結果如下圖所示：跨線與運動方向檢測支持通過指定跨線位置和方向對運動目標進行檢索，輸出目標快照。支持設置多條跨線，每條線的方向可單獨設置，目標快照中同時顯示所畫的線和方向?？鐓^(qū)域檢索支持進入?yún)^(qū)域、離開區(qū)域、在區(qū)域內逗留、出現(xiàn)在此區(qū)域的目標檢索。條件組合檢索支持在視頻中使用人車分類、跨線、跨區(qū)域、顏色等多種條件的組合檢索，檢索結果中符合條件的目標能夠排在目標快照圖片前列。人騎車檢索系統(tǒng)融合對人騎車目標進行檢索，結果如下圖：檢索人騎車目標快照視頻框選嫌疑目標支持在查看原始視頻時，暫停直接框選嫌疑目標，以框選的目標截圖為條件，可跨監(jiān)控點對框選目標進行快速查找。如下圖所示：以圖搜圖智能建庫引擎Hadoop的接口向用戶提供分布式索引建庫服務。以圖搜圖應用支持本地上傳圖片至圖片庫進圖像比對查找(人物、車輛、人臉、非機動車輛等目標)；通過提取圖片的局部特征進行查找和比對，分析結果通過快照的方式進行展示；支持對查找結果按時間進行排序以圖片列表的方式進行可視化呈現(xiàn)。GIS應用基本操作攝像頭圖層：正常攝像頭圖層，故障攝像頭圖層；車輛軌跡圖層：標地圖查詢支持視頻、卡口、電警等的點選、框選、圈選、多邊形選擇、社會面監(jiān)控的普通查詢和空間查詢。PGIS定位，顯示卡口基礎信息、過車數(shù)據(jù)信息等信息。軌跡展示以PGIS合計算，對預警車輛的位置與軌跡進行預測。預警車輛定位。通過地圖和列表形式實時顯示預警車輛信息，息。支持單個或多個預警車輛同時定位。時間段內的行駛軌跡，并在地圖上顯示完整的車輛行駛軌跡。預警車輛軌跡預測。根據(jù)預警車輛的行駛方向、車速、過車時間等，基于GIS分析其周邊卡口分布、歷史通行軌跡等，在地圖上顯示5分鐘、10分鐘等不同時間段預警車輛可能出現(xiàn)的范圍和途徑卡口位置。系統(tǒng)管理4地原始視頻文件和建立DVR/NVR支持結構化任務調度管理：選擇視頻圖像文件進行結構化處理任務配置，靈活設定任務優(yōu)先級。系統(tǒng)設置主要實現(xiàn)平臺的權限控制、日志管理、任務模板配置、時鐘同步、服務器配置功能，實現(xiàn)系統(tǒng)平臺整體監(jiān)控及資源調度。具備用戶權限控制功能，對客戶端登錄的用戶進行用戶鑒權，限制和管理用戶的操作權限；對系統(tǒng)用戶及操作權限提供增刪查改等。進行的配置操作。系統(tǒng)日志的查詢?yōu)橄到y(tǒng)的安全審計提供了一種手段。管理員可通過靈活的條件對系統(tǒng)日志進行查詢。通過設置查詢條件為系統(tǒng)管理員提供了靈活的操作日志查詢功址等相關信息。系統(tǒng)支持日志的導出功能。支持處理任務模塊定