交通云存儲(chǔ)系軟硬件設(shè)計(jì)方案

1、交通云存儲(chǔ)系軟硬件設(shè)計(jì)方案軟件設(shè)計(jì)交通云存儲(chǔ)系統(tǒng)主要由以下軟件組成：交通云存儲(chǔ)管理軟件（CVM），交通云存儲(chǔ)存儲(chǔ)軟件（CVS），交通云存儲(chǔ)接入軟件（CVA）和交通云存儲(chǔ)異構(gòu)軟件（ASS）。交通云存儲(chǔ)管理軟件CVM交通云存儲(chǔ)管理軟件CVM（Cloud Video Manage）是交通云存儲(chǔ)系統(tǒng)中的管理模塊，主要功能包括交通云存儲(chǔ)系統(tǒng)內(nèi)資源管理、存儲(chǔ)節(jié)點(diǎn)管理、集群管理、策略調(diào)度、運(yùn)維監(jiān)控等。軟件包含六大功能模塊，分別為：索引管理模塊、調(diào)度管理模塊、集群管理模塊、計(jì)劃管理模塊、資源管理模塊、輔助管理模塊，整體軟件架構(gòu)如下圖所示：CVM軟件架構(gòu)1）索引管理模塊索引管理模塊集群化管理集群中的全部管理節(jié)點(diǎn)

2、，能并發(fā)響應(yīng)用戶的檢索、插入、修改和刪除操作情況，提供一體化、高并發(fā)、快響應(yīng)的索引服務(wù)。同時(shí)，索引管理模塊提供視頻索引、圖片索引、標(biāo)注索引服務(wù)，支持以通道號(hào)、時(shí)間段、錄像類型和鎖定狀態(tài)為條件的視頻和圖片信息檢索服務(wù)，也提供統(tǒng)一資源定位符（URL）形式的WEB訪問(wèn)圖片方式，支持以通道號(hào)和時(shí)間段為條件插入、修改、刪除和檢索標(biāo)注的功能，以及根據(jù)標(biāo)注關(guān)鍵字檢索視頻的特色功能。2）調(diào)度管理模塊調(diào)度管理模塊根據(jù)集群中設(shè)備的負(fù)載狀況靈活的調(diào)度集群資源為應(yīng)用業(yè)務(wù)提供支撐。作為集群系統(tǒng)中的邏輯引擎根據(jù)不同的邏輯策略執(zhí)行不同的調(diào)度算法，提供資源分配調(diào)度、分散策略調(diào)度、循環(huán)覆蓋調(diào)度、錄像計(jì)劃調(diào)度等服務(wù)。3）集群管理

3、模塊集群管理模塊統(tǒng)一管理集群中分布式設(shè)備節(jié)點(diǎn)，包括管理節(jié)點(diǎn)和存儲(chǔ)節(jié)點(diǎn)。它負(fù)責(zé)管理節(jié)點(diǎn)之間關(guān)鍵信息的實(shí)時(shí)同步，保證集群中不同管理節(jié)點(diǎn)信息的一致性，無(wú)差異化的對(duì)外提供服務(wù)。同時(shí)也負(fù)責(zé)管理存儲(chǔ)節(jié)點(diǎn)，將存儲(chǔ)節(jié)點(diǎn)加入到集群中作為存儲(chǔ)資源的一部分，集群管理模塊維護(hù)集群中設(shè)備節(jié)點(diǎn)的實(shí)時(shí)狀態(tài)信息，對(duì)外提供設(shè)備狀態(tài)查詢接口便于管理和了解集群的整體運(yùn)行狀態(tài)信息。4）計(jì)劃管理模塊計(jì)劃管理模塊負(fù)責(zé)負(fù)責(zé)錄像計(jì)劃的管理、下發(fā)、切換，保存外部平臺(tái)下發(fā)的錄像計(jì)劃，調(diào)度系統(tǒng)中的錄像計(jì)劃并執(zhí)行錄像計(jì)劃，當(dāng)接入服務(wù)器異常時(shí)負(fù)責(zé)動(dòng)態(tài)切換錄像計(jì)劃到其它接入服務(wù)器。 5）資源管理模塊資源管理模塊負(fù)責(zé)對(duì)集群中所有存儲(chǔ)設(shè)備的存儲(chǔ)空間進(jìn)行統(tǒng)一

4、管理，根據(jù)入網(wǎng)存儲(chǔ)設(shè)備上報(bào)的資源信息計(jì)算出集群存儲(chǔ)總?cè)萘亢涂臻e容量，負(fù)責(zé)創(chuàng)建、刪除錄像池，為存儲(chǔ)業(yè)務(wù)分配合適的存儲(chǔ)資源。同時(shí)能動(dòng)態(tài)的調(diào)整錄像池的大小，彈性的對(duì)錄像池進(jìn)行擴(kuò)容或者縮減，將集群存儲(chǔ)空間切分成細(xì)小獨(dú)立的存儲(chǔ)單元，再根據(jù)用戶需要將很多個(gè)存儲(chǔ)單元有機(jī)組合后虛擬化成錄像池對(duì)外提供存儲(chǔ)服務(wù)。6）輔助管理模塊輔助管理模塊包含日志管理、運(yùn)維管理、數(shù)據(jù)遷移等功能，日志管理為其他模塊提供日志打印服務(wù)，對(duì)外具備日志查詢和日志文件下載功能，包含調(diào)試日志、事件提示日志、錯(cuò)誤日志、告警日志和重要日志。運(yùn)維管理云視頻管理節(jié)點(diǎn)的運(yùn)行參數(shù)獲取接口，供運(yùn)維平臺(tái)獲取管理節(jié)點(diǎn)的實(shí)時(shí)運(yùn)行信息。數(shù)據(jù)遷移功能對(duì)外提供將第三方

5、數(shù)據(jù)遷移到本交通云存儲(chǔ)系統(tǒng)中保存的功能。交通云存儲(chǔ)存儲(chǔ)軟件CVS交通云存儲(chǔ)存儲(chǔ)軟件CVS（Cloud Video Storage）是交通云存儲(chǔ)系統(tǒng)中的存儲(chǔ)模塊。CVS集成在交通云存儲(chǔ)節(jié)點(diǎn)（CVSN）上，在每一臺(tái)海量數(shù)據(jù)存儲(chǔ)設(shè)備上都必須裝載該軟件模塊。交通云存儲(chǔ)存儲(chǔ)軟件（CVS）接受交通云存儲(chǔ)管理軟件（CVM）的管理，從交通云存儲(chǔ)接入軟件（CVA）接收海量視頻，高效無(wú)誤的存放在本機(jī)的Raid或iSCSI設(shè)備中，方便用戶通過(guò)CVA進(jìn)行查詢。交通云存儲(chǔ)管理軟件（CVM）會(huì)均衡分配多臺(tái)交通云存儲(chǔ)存儲(chǔ)軟件（CVS）的業(yè)務(wù)負(fù)載量，使整個(gè)系統(tǒng)的讀寫性能達(dá)到最佳。交通云存儲(chǔ)存儲(chǔ)軟件按照功能模塊化設(shè)計(jì)，整體軟件

6、架構(gòu)如下圖所示：CVS軟件架構(gòu)1）通信模塊本模塊主要是負(fù)責(zé)和CVA及CVM進(jìn)行數(shù)據(jù)信息的交互，采用多線程并發(fā)接收和發(fā)送數(shù)據(jù)的方式，高效完成跨機(jī)器的數(shù)據(jù)交互。2）運(yùn)維管理本模塊主要是負(fù)責(zé)和運(yùn)維進(jìn)行交互，采集系統(tǒng)數(shù)據(jù)及程序運(yùn)行數(shù)據(jù)，并按照特定協(xié)議格式發(fā)送給運(yùn)維系統(tǒng)，方便平臺(tái)對(duì)整個(gè)云存儲(chǔ)系統(tǒng)運(yùn)行狀態(tài)進(jìn)行實(shí)時(shí)監(jiān)控，如有問(wèn)題出現(xiàn)，可以及時(shí)報(bào)警給相關(guān)人員進(jìn)行處理。3）視頻/圖片接入本模塊主要是負(fù)責(zé)處理從CVA傳輸進(jìn)來(lái)的視頻已經(jīng)從接入服務(wù)器傳輸進(jìn)來(lái)的圖片等數(shù)據(jù)，并按分類進(jìn)行一定的邏輯處理。采用多線程的處理方式，可同時(shí)支持多路的視頻和圖片數(shù)據(jù)接入。4）日志管理本模塊主要是負(fù)責(zé)對(duì)CVS的日志進(jìn)行統(tǒng)一管理，記錄一

7、些重要事件，方便事件回溯，對(duì)外提供日志查詢和日志下載功能。5）視頻/圖片文件系統(tǒng)本模塊根據(jù)視頻、圖片的特性，定義流式存儲(chǔ)結(jié)構(gòu)，主要是負(fù)責(zé)數(shù)據(jù)的高效讀、寫。6）數(shù)據(jù)庫(kù)管理本模塊主要是負(fù)責(zé)對(duì)CVS系統(tǒng)運(yùn)行時(shí)需要臨時(shí)存放的一些重要數(shù)據(jù)進(jìn)行保存，可以方便的以SQL接口提供插入和查詢，簡(jiǎn)化數(shù)據(jù)存放和獲取的機(jī)制。交通云存儲(chǔ)接入軟件CVA交通云存儲(chǔ)接入軟件CVA（Cloud Video Access）是整個(gè)系統(tǒng)的重要組成部分，主要包括錄像任務(wù)管理、錄像服務(wù)、設(shè)備狀態(tài)管理和部分流媒體轉(zhuǎn)發(fā)服務(wù)等功能。視頻云接入軟件支持定時(shí)錄像、移動(dòng)偵測(cè)錄像和事件錄像（如：手動(dòng)錄像），其中事件錄像的優(yōu)先級(jí)要高于定時(shí)錄像和移動(dòng)偵測(cè)

8、錄像。視頻云接入軟件實(shí)時(shí)檢測(cè)用戶配置的錄像計(jì)劃任務(wù)信息表，當(dāng)接入軟件檢測(cè)到有通道需要執(zhí)行錄像任務(wù)時(shí)，接入軟件首先通知流媒體服務(wù)從前端設(shè)備讀取視頻數(shù)據(jù)，然后根據(jù)錄像類型執(zhí)行相關(guān)錄像。視頻云接入軟件按照功能模塊化設(shè)計(jì)，軟件包括六大功能模塊：錄像任務(wù)管理、流媒體服務(wù)、設(shè)備狀態(tài)管理、負(fù)載信息管理、錄像服務(wù)、視頻幀分析。整體軟件架構(gòu)如下圖所示：CVA軟件架構(gòu)1）錄像任務(wù)管理錄像任務(wù)管理功能主要包括定時(shí)錄像管理、移動(dòng)偵測(cè)錄像管理和事件錄像管理等功能。定時(shí)錄像和移動(dòng)偵測(cè)錄像是用戶設(shè)置的計(jì)劃錄像，事件錄像是用戶計(jì)劃外的錄像。錄像管理功能需要按照用戶的需求從前端設(shè)備獲取視頻數(shù)據(jù)、執(zhí)行錄像、停止錄像和停止從前端設(shè)

9、備取流等操作。移動(dòng)偵測(cè)錄像，錄像管理功能首先需要對(duì)前端設(shè)備布防，并監(jiān)控前端設(shè)備的報(bào)警狀態(tài)，同時(shí)還可以根據(jù)用戶的需求提前從前端設(shè)備獲取視頻數(shù)據(jù)，通過(guò)預(yù)先獲取數(shù)據(jù)流保證了視頻的完成性，當(dāng)接入軟件收到前端設(shè)備的移動(dòng)偵測(cè)報(bào)警命令后，立即執(zhí)行錄像。事件錄像，錄像管理功能接收到事件錄像命令，首先檢索當(dāng)前通道是否有定時(shí)錄像或移動(dòng)偵測(cè)錄像，如果沒(méi)有上述兩種錄像，立即執(zhí)行錄像，事件錄像的優(yōu)先級(jí)要高于移動(dòng)偵測(cè)錄像和定時(shí)錄像。2）流媒體服務(wù)流媒體服務(wù)主要包括流媒體轉(zhuǎn)發(fā)模塊和流控制管理模塊，流媒體服務(wù)具有穩(wěn)定和高效等特點(diǎn)，整個(gè)系統(tǒng)提供持續(xù)的視頻數(shù)據(jù)支持。流媒體服務(wù)傳輸視頻數(shù)據(jù)支持RTSP、TCP和UDP協(xié)議，可以根據(jù)

10、不同環(huán)境選擇合適當(dāng)前網(wǎng)絡(luò)性能的傳輸方式。流媒體服務(wù)視頻流轉(zhuǎn)發(fā)功能：流媒體服務(wù)從前端設(shè)備獲取到視頻流后可以根據(jù)用戶的需要將視頻流轉(zhuǎn)發(fā)給多個(gè)用戶或設(shè)備。通過(guò)視頻轉(zhuǎn)發(fā)功能降低了前端設(shè)備的壓力，節(jié)省了網(wǎng)絡(luò)帶寬，極大的提高了系統(tǒng)性能。3）設(shè)備狀態(tài)管理設(shè)備狀態(tài)管理是云存儲(chǔ)接入軟件的基礎(chǔ)功能，它主要包括監(jiān)控前端設(shè)備狀態(tài)、布防狀態(tài)和取視頻數(shù)據(jù)流的狀態(tài)。前端設(shè)備狀態(tài)監(jiān)控：狀態(tài)管理功能實(shí)時(shí)獲取前端設(shè)備的狀態(tài)，當(dāng)檢測(cè)到前端設(shè)備異常，接入軟件會(huì)及時(shí)上報(bào)。設(shè)備布防狀態(tài)監(jiān)控：狀態(tài)管理功能實(shí)時(shí)監(jiān)控前端設(shè)備的布防狀態(tài)，當(dāng)前端設(shè)備布防失敗，接入軟件會(huì)及時(shí)上報(bào)。讀取視頻流狀態(tài)監(jiān)控：狀態(tài)管理功能實(shí)時(shí)監(jiān)控流媒體服務(wù)的工作狀態(tài)、如果流

11、媒體服務(wù)取視頻流時(shí)發(fā)生異常，接入軟件會(huì)及時(shí)上報(bào)。4）負(fù)載信息管理負(fù)載信息管理功能主要是接入軟件實(shí)時(shí)監(jiān)控當(dāng)前服務(wù)器的內(nèi)存和CPU使用情況，并定時(shí)上報(bào)當(dāng)前服務(wù)器的資源使用信息，管理系統(tǒng)可以根據(jù)上報(bào)的服務(wù)器資源使用信息管理錄像計(jì)劃。5）錄像服務(wù)錄像服務(wù)包括取流管理模塊和執(zhí)行錄像服務(wù)模塊兩個(gè)部分。錄像服務(wù)接收錄像任務(wù)管理模塊下發(fā)的錄像信令，當(dāng)錄像服務(wù)接收到錄像任務(wù)管理模塊開(kāi)啟錄像信令后，首先通過(guò)取流模塊向流媒體服務(wù)發(fā)送取流信令，然后將流媒體轉(zhuǎn)發(fā)的視頻數(shù)據(jù)發(fā)送到云視頻存儲(chǔ)軟件為一次錄像的開(kāi)始。當(dāng)錄像服務(wù)接收到錄像任務(wù)管理模塊下發(fā)的停止錄像信令，錄像服務(wù)首先向流媒體服務(wù)發(fā)送停止取流的信令，然后通知云視頻存

12、儲(chǔ)軟件停止錄像為一次錄像的結(jié)束。6）視頻幀分析幀分析模塊主要是對(duì)流媒體服務(wù)讀取的視頻數(shù)據(jù)進(jìn)行幀分析，從視頻數(shù)據(jù)中分析出關(guān)鍵幀等信息，為系統(tǒng)提供關(guān)鍵幀查詢和關(guān)鍵幀回放提供技術(shù)支持。交通云存儲(chǔ)異構(gòu)軟件ASS異構(gòu)存儲(chǔ)軟件ASS（Asynchronous Storage Service）主要負(fù)責(zé)接入第三方iSCSI/FC 標(biāo)準(zhǔn)存儲(chǔ)設(shè)備，軟件集成安裝在ASSN節(jié)點(diǎn)內(nèi)，具體負(fù)責(zé)接入第三方iSCSI/FC 存儲(chǔ)設(shè)備的工作。軟件主要由三個(gè)模塊實(shí)現(xiàn)，分別為識(shí)別模塊、掛載模塊和管理模塊；主要和CVS交互。通過(guò)識(shí)別模塊和掛載模塊實(shí)現(xiàn)對(duì)第三方標(biāo)準(zhǔn)存儲(chǔ)設(shè)備的兼容工作。通過(guò)管理模塊與存儲(chǔ)設(shè)備以及上層CVS之間進(jìn)行交互。整

13、體軟件架構(gòu)如下圖所示：ASS軟件架構(gòu)1）識(shí)別模塊探測(cè)到異構(gòu)設(shè)備后獲取其相關(guān)系統(tǒng)信息，將其視作為存儲(chǔ)設(shè)備，在設(shè)備目錄中添加相應(yīng)節(jié)點(diǎn)。2）掛載模塊將新加的設(shè)備節(jié)點(diǎn)轉(zhuǎn)化為通用存儲(chǔ)設(shè)備節(jié)點(diǎn)，并掛載到軟件系統(tǒng)中以備CVS使用。3）管理模塊本模塊的功能是：將通用本機(jī)內(nèi)存儲(chǔ)設(shè)備和異構(gòu)設(shè)備統(tǒng)一管理，實(shí)現(xiàn)設(shè)備的加入和退出，以及相關(guān)狀態(tài)的保存和記錄。硬件設(shè)計(jì)混合類云存儲(chǔ)系統(tǒng)硬件主要由存儲(chǔ)管理服務(wù)器（存儲(chǔ)管理節(jié)點(diǎn)CVMN）、存儲(chǔ)設(shè)備（存儲(chǔ)節(jié)點(diǎn)CVSN）、異構(gòu)服務(wù)器（第三方存儲(chǔ)服務(wù)節(jié)點(diǎn)ASSN）和運(yùn)維服務(wù)器組成。交通云存儲(chǔ)管理節(jié)點(diǎn)CVMN交通云存儲(chǔ)管理節(jié)點(diǎn)：CVMN（Cloud Video Manage Node）在

14、云存儲(chǔ)標(biāo)配服務(wù)器上集成安裝視頻云管理軟件CVM（Cloud Video Manger），其主要功能包括交通云存儲(chǔ)系統(tǒng)內(nèi)資源管理、存儲(chǔ)節(jié)點(diǎn)管理、集群管理、策略調(diào)度、運(yùn)維監(jiān)控等。根據(jù)交通云存儲(chǔ)系統(tǒng)的規(guī)模情況和可靠性要求管理節(jié)點(diǎn)部署可分為：HA部署和集群部署兩種模式。其中HA部署模式適用于1024路以內(nèi)監(jiān)控前端視頻讀寫規(guī)模，通過(guò)兩臺(tái)服務(wù)器做雙機(jī)熱備；集群部署模式適用于較大型的交通云存儲(chǔ)系統(tǒng)，可以進(jìn)行三臺(tái)或三臺(tái)以上配備，集群部署的服務(wù)器臺(tái)數(shù)必須是奇數(shù)增加。集群部署的優(yōu)勢(shì)在于通過(guò)交通云存儲(chǔ)管理節(jié)點(diǎn)內(nèi)部集群功能將協(xié)調(diào)各節(jié)點(diǎn)設(shè)備資源，將用戶配置、數(shù)據(jù)庫(kù)信息、策略計(jì)劃進(jìn)行統(tǒng)一進(jìn)行調(diào)度，整體性能呈現(xiàn)線性增長(zhǎng)。同

15、時(shí)也增加了系統(tǒng)的可靠性，多臺(tái)設(shè)備的故障不會(huì)影響到系統(tǒng)的運(yùn)行。無(wú)論是HA部署模式還是集群部署模式，交通云存儲(chǔ)都使用唯一的虛擬IP地址對(duì)外提供服務(wù)。交通云存儲(chǔ)節(jié)點(diǎn)CVSN交通云存儲(chǔ)節(jié)點(diǎn)：CVSN（Cloud Video Storage Node）在存儲(chǔ)設(shè)備上集成安裝交通云存儲(chǔ)存儲(chǔ)軟件CVS（Cloud Video Storage）和視頻云接入軟件CVA（Cloud Video Access）作為存儲(chǔ)節(jié)點(diǎn)。主要是響應(yīng)交通云存儲(chǔ)管理節(jié)點(diǎn)（CVMN）和應(yīng)用層的錄像、查詢、下載等操作申請(qǐng)，以及管理物理存儲(chǔ)設(shè)備和空間，交通云存儲(chǔ)節(jié)點(diǎn)模塊具有以下功能：負(fù)責(zé)根據(jù)接收云存儲(chǔ)管理節(jié)點(diǎn)下發(fā)的錄像計(jì)劃，并根據(jù)錄像計(jì)劃向?qū)?yīng)的前端攝像頭進(jìn)行取流操作。負(fù)責(zé)將接收到的錄像數(shù)據(jù)寫入到存儲(chǔ)底層或從存儲(chǔ)底層讀取數(shù)據(jù)，通過(guò)協(xié)議接口主要向API提供錄像、查詢、回放及下載服務(wù)。提供存儲(chǔ)設(shè)備的狀態(tài)檢測(cè)和信息上報(bào)功能。 存儲(chǔ)底層：使用Raid技術(shù)來(lái)保證數(shù)據(jù)安全，支持節(jié)能的磁盤休眠功能。第三方存儲(chǔ)服務(wù)節(jié)點(diǎn)ASSN第三方存儲(chǔ)服務(wù)節(jié)點(diǎn)：ASSN（Asynchro