大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)建設(shè)方案

統(tǒng)計(jì)大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)建設(shè)方案目錄CONTENTS1大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)綜述2大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)3大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)演進(jìn)路線4大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)建設(shè)實(shí)施5大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)治理統(tǒng)計(jì)基礎(chǔ)設(shè)施有待完善市政治理效能有待提升政府要提升公共服務(wù)質(zhì)量，提高行政效能產(chǎn)業(yè)經(jīng)濟(jì)有待發(fā)展市民生活質(zhì)量有待提高資源環(huán)境有待改善要完善統(tǒng)計(jì)交通、信息化基礎(chǔ)設(shè)施等需要優(yōu)化產(chǎn)業(yè)結(jié)構(gòu)、發(fā)展新興產(chǎn)業(yè)、改進(jìn)傳統(tǒng)產(chǎn)業(yè)統(tǒng)計(jì)污染、氣候變暖、資源可持續(xù)性統(tǒng)計(jì)居民社保、教育、文化和衛(wèi)生等基礎(chǔ)日益重要統(tǒng)計(jì)問(wèn)題大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)利用面臨的困惑和挑戰(zhàn)大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)利用面臨的困惑和挑戰(zhàn)01缺乏理念03缺乏工具 04

缺乏機(jī)制 02

缺乏標(biāo)準(zhǔn)缺乏政府?dāng)?shù)據(jù)共享的理念對(duì)治理現(xiàn)代化認(rèn)識(shí)不足缺乏政府?dāng)?shù)據(jù)共享機(jī)制的責(zé)任主體，怕犯泄密錯(cuò)誤，寧可不作為缺乏數(shù)據(jù)共享的技術(shù)支撐能力和基礎(chǔ)平臺(tái)缺乏政府?dāng)?shù)據(jù)共享的統(tǒng)一標(biāo)準(zhǔn)和規(guī)范，缺乏治理機(jī)制設(shè)計(jì)智慧統(tǒng)計(jì)智慧的醫(yī)療智慧的教育與科技智慧的市民服務(wù)智慧的公共安全智慧的交通自動(dòng)收費(fèi)票務(wù)管理運(yùn)輸信息管理電子病歷家庭健康服務(wù)醫(yī)療費(fèi)用管理犯罪信息倉(cāng)庫(kù)突發(fā)事件響應(yīng)數(shù)字監(jiān)控系統(tǒng)智慧的公共事業(yè)高速寬帶網(wǎng)路智慧的電力建筑能耗評(píng)估監(jiān)測(cè)水處理/水資源管理開(kāi)放式學(xué)習(xí)先進(jìn)教室智慧的科技園區(qū)失業(yè)保險(xiǎn)金管理就業(yè)服務(wù)家庭服務(wù)住宅信息管理全面感知充分整合智能處理協(xié)同運(yùn)作精確管控創(chuàng)新應(yīng)用大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)中心建設(shè)定位大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)中心建設(shè)定位

依托統(tǒng)計(jì)大數(shù)據(jù)中心相關(guān)平臺(tái)和應(yīng)用支撐，匯聚統(tǒng)計(jì)管理各相關(guān)部門業(yè)務(wù)數(shù)據(jù)，進(jìn)行集中展示和分析，提升統(tǒng)計(jì)運(yùn)行管理、政務(wù)服務(wù)、統(tǒng)計(jì)綜合管理決策和產(chǎn)業(yè)轉(zhuǎn)型升級(jí)等方面的綜合能力?；菝衽d業(yè)善政通過(guò)大數(shù)據(jù)推動(dòng)產(chǎn)業(yè)結(jié)構(gòu)優(yōu)化升級(jí)，催生基于大數(shù)據(jù)、網(wǎng)絡(luò)經(jīng)濟(jì)的新興產(chǎn)業(yè)，促進(jìn)投資，拉動(dòng)經(jīng)濟(jì)增長(zhǎng)推動(dòng)公共服務(wù)便利化，讓百姓辦事不求人，實(shí)現(xiàn)衣食住行醫(yī)療教育等公共服務(wù)便捷化，市民生活幸福指數(shù)明顯提升基于大數(shù)據(jù)推進(jìn)政府各項(xiàng)改革，轉(zhuǎn)變執(zhí)政理念，創(chuàng)新治理方式，由電子政務(wù)向智慧政務(wù)升級(jí)，不斷提高政府工作的效率和效能統(tǒng)計(jì)管理共享歷史-傳統(tǒng)共享對(duì)管理和內(nèi)控主要是人為監(jiān)控，沒(méi)有太大幫助票據(jù)傳遞造成很大成本，對(duì)成本降低的作用有限共享財(cái)務(wù)標(biāo)準(zhǔn)業(yè)務(wù)流程各部門共享平臺(tái)共享中心/共享分中心建設(shè)目標(biāo)-業(yè)財(cái)資稅數(shù)字化生態(tài)圈業(yè)務(wù)數(shù)據(jù)稅務(wù)數(shù)據(jù)資金數(shù)據(jù)財(cái)務(wù)信息數(shù)據(jù)控制數(shù)據(jù)驅(qū)動(dòng)數(shù)據(jù)驅(qū)動(dòng)數(shù)據(jù)驅(qū)動(dòng)業(yè)、財(cái)、資、稅及數(shù)據(jù)分析建設(shè)業(yè)務(wù)系統(tǒng)財(cái)務(wù)系統(tǒng)資金系統(tǒng)稅務(wù)系統(tǒng)負(fù)責(zé)業(yè)務(wù)管理及業(yè)務(wù)數(shù)據(jù)采集驅(qū)動(dòng)財(cái)務(wù)信息負(fù)責(zé)增值稅進(jìn)項(xiàng)銷項(xiàng)管理負(fù)責(zé)資金統(tǒng)一支付負(fù)責(zé)財(cái)務(wù)信息生成及處理反饋及控制業(yè)務(wù)數(shù)據(jù)規(guī)劃01數(shù)據(jù)分析03數(shù)據(jù)采集02通過(guò)主數(shù)據(jù)管理規(guī)劃、數(shù)據(jù)采集載體設(shè)計(jì)、數(shù)據(jù)分析挖掘及建模，支撐管理會(huì)計(jì)指標(biāo)體系分析，支撐財(cái)務(wù)管理報(bào)表。生態(tài)圈提升企業(yè)統(tǒng)計(jì)價(jià)值創(chuàng)造能力支撐精準(zhǔn)決策創(chuàng)造價(jià)值通過(guò)管理提升創(chuàng)造價(jià)值生態(tài)良性循環(huán)創(chuàng)造價(jià)值

推動(dòng)管理會(huì)計(jì)體系建設(shè)提升價(jià)值創(chuàng)造能力生態(tài)圈提升企業(yè)統(tǒng)計(jì)價(jià)值創(chuàng)造能力提升價(jià)值創(chuàng)造能力支撐精準(zhǔn)決策創(chuàng)造價(jià)值通過(guò)管理提升創(chuàng)造價(jià)值生態(tài)良性循環(huán)創(chuàng)造價(jià)值提升全面預(yù)算管控能力提升資金集中管控能力提升制度執(zhí)行力提升工作質(zhì)量和效率提升風(fēng)險(xiǎn)管控能力推動(dòng)管理會(huì)計(jì)體系建設(shè)生態(tài)圈提升企業(yè)統(tǒng)計(jì)價(jià)值創(chuàng)造能力提升價(jià)值創(chuàng)造能力支撐精準(zhǔn)決策創(chuàng)造價(jià)值通過(guò)管理提升創(chuàng)造價(jià)值生態(tài)良性循環(huán)創(chuàng)造價(jià)值業(yè)務(wù)數(shù)據(jù)財(cái)務(wù)數(shù)據(jù)財(cái)務(wù)部門財(cái)務(wù)信息業(yè)務(wù)信息業(yè)務(wù)部門業(yè)財(cái)生態(tài)圈加工生產(chǎn)驅(qū)動(dòng)業(yè)務(wù)業(yè)務(wù)支撐支撐反映控制分析推動(dòng)管理會(huì)計(jì)體系建設(shè)生態(tài)圈提升企業(yè)統(tǒng)計(jì)價(jià)值創(chuàng)造能力戰(zhàn)略財(cái)務(wù)業(yè)務(wù)財(cái)務(wù)共享財(cái)務(wù)協(xié)同和推動(dòng)決策和配置通過(guò)管理提升創(chuàng)造價(jià)值生態(tài)良性循環(huán)創(chuàng)造價(jià)值推動(dòng)管理會(huì)計(jì)體系建立支撐精準(zhǔn)決策創(chuàng)造價(jià)值提升價(jià)值創(chuàng)造能力記錄和控制財(cái)務(wù)賬務(wù)查詢、年初、年末處理費(fèi)用報(bào)銷業(yè)務(wù)系統(tǒng)財(cái)務(wù)共享平臺(tái)核算系統(tǒng)網(wǎng)報(bào)系統(tǒng)資金系統(tǒng)查詢分析系統(tǒng)影像系統(tǒng)接口資金支付管理、資金業(yè)務(wù)管理、……影像附件管理……財(cái)務(wù)業(yè)務(wù)查詢……業(yè)務(wù)相關(guān)系統(tǒng)【核心業(yè)務(wù)處理】主數(shù)據(jù)平臺(tái)組織機(jī)構(gòu)、供應(yīng)商主數(shù)據(jù)、物資、機(jī)械、周轉(zhuǎn)材主數(shù)據(jù)……接口信息化生態(tài)圈體系架構(gòu)-工業(yè)板塊信息化體系部署架構(gòu)二級(jí)云平臺(tái)集成門戶影像系統(tǒng)報(bào)賬平臺(tái)共享平臺(tái)核算系統(tǒng)專項(xiàng)核算報(bào)表系統(tǒng)股份云平臺(tái)財(cái)務(wù)頂層平臺(tái)資金平臺(tái)微信平臺(tái)數(shù)字生態(tài)共享建設(shè)方案預(yù)警模型數(shù)據(jù)采集風(fēng)險(xiǎn)預(yù)警建模工具領(lǐng)導(dǎo)查詢展現(xiàn)設(shè)置移動(dòng)展現(xiàn)數(shù)據(jù)分析數(shù)據(jù)分析門戶組件數(shù)據(jù)組件權(quán)限體系表單引擎基礎(chǔ)數(shù)據(jù)流程引擎通訊組件業(yè)務(wù)引擎移動(dòng)組件制證組件任務(wù)組件影像組件集成組件建模組件支撐環(huán)境共享接口系統(tǒng)報(bào)賬平臺(tái)資金系統(tǒng)賬戶管理資金管理票據(jù)指令付款指令報(bào)表系統(tǒng)報(bào)表設(shè)置報(bào)表填報(bào)合并報(bào)表基礎(chǔ)數(shù)據(jù)標(biāo)準(zhǔn)化業(yè)務(wù)規(guī)范業(yè)務(wù)流程標(biāo)準(zhǔn)化業(yè)務(wù)模式標(biāo)準(zhǔn)化業(yè)務(wù)數(shù)據(jù)標(biāo)準(zhǔn)化中鐵財(cái)務(wù)共享平臺(tái)數(shù)據(jù)池業(yè)務(wù)數(shù)據(jù)數(shù)據(jù)分析財(cái)務(wù)數(shù)據(jù)財(cái)務(wù)報(bào)表任務(wù)池流程管理分發(fā)機(jī)制任務(wù)管理績(jī)效考核票據(jù)池影像管理附件管理影像采集影像查看核算系統(tǒng)賬齡分析資產(chǎn)管理稅務(wù)系統(tǒng)對(duì)賬平臺(tái)數(shù)據(jù)接口數(shù)據(jù)接口工業(yè)業(yè)務(wù)系統(tǒng)采購(gòu)管理生產(chǎn)管理銷售管理合同管理主數(shù)據(jù)平臺(tái)人員信息客商信息機(jī)構(gòu)信息頂層數(shù)據(jù)為統(tǒng)計(jì)提供專業(yè)化核算服務(wù)收入資金資產(chǎn)費(fèi)用成本以“互聯(lián)網(wǎng)+財(cái)務(wù)”的模式，為企業(yè)統(tǒng)計(jì)提供專業(yè)化財(cái)務(wù)核算服務(wù)，涵蓋財(cái)務(wù)核算的方方面面，包括收入、成本、資產(chǎn)、費(fèi)用、資金、稅務(wù)等。互聯(lián)網(wǎng)+財(cái)務(wù)負(fù)責(zé)統(tǒng)計(jì)資金風(fēng)險(xiǎn)監(jiān)控2資金支付控制1財(cái)務(wù)控制業(yè)務(wù)4形成財(cái)務(wù)信息3統(tǒng)一支付出口1、用核算系統(tǒng)的財(cái)務(wù)信息控制業(yè)務(wù)系統(tǒng)的業(yè)務(wù)發(fā)生，產(chǎn)生資金支付計(jì)劃或額度4、資金平臺(tái)支付完成，共享平臺(tái)形成正式憑證給核算系統(tǒng)，形成閉環(huán)3、共享平臺(tái)生成預(yù)憑證后，共享資金組監(jiān)控支付風(fēng)險(xiǎn)，審批資金支付指令后推送到資金平臺(tái)，資金平臺(tái)提供統(tǒng)一支付出口2、報(bào)賬平臺(tái)根據(jù)資金支付額度進(jìn)行資金支付控制負(fù)責(zé)業(yè)統(tǒng)計(jì)策解讀與標(biāo)準(zhǔn)化4、標(biāo)準(zhǔn)化業(yè)財(cái)處理流程加強(qiáng)統(tǒng)計(jì)管控政策的解讀，標(biāo)準(zhǔn)化企業(yè)流程：將業(yè)財(cái)審批流程標(biāo)準(zhǔn)化，由系統(tǒng)控制流程風(fēng)險(xiǎn)，推進(jìn)內(nèi)控制度落地。3、標(biāo)準(zhǔn)化財(cái)務(wù)處理政策加強(qiáng)政策解讀與細(xì)化，標(biāo)準(zhǔn)化財(cái)務(wù)核算政策：根據(jù)業(yè)務(wù)表單設(shè)計(jì)和配置憑證模版，由系統(tǒng)自動(dòng)制證，標(biāo)準(zhǔn)化統(tǒng)計(jì)財(cái)務(wù)核算政策與標(biāo)準(zhǔn)，實(shí)現(xiàn)業(yè)財(cái)數(shù)據(jù)縱向一致性，提高統(tǒng)計(jì)內(nèi)部財(cái)務(wù)數(shù)據(jù)的橫向可比性。1、標(biāo)準(zhǔn)化基礎(chǔ)數(shù)據(jù)強(qiáng)化財(cái)務(wù)主數(shù)據(jù)管理：標(biāo)準(zhǔn)化機(jī)構(gòu)、人員、客商、科目、字典等基礎(chǔ)數(shù)據(jù)，為系統(tǒng)集成和數(shù)據(jù)分析打好基礎(chǔ)。2、標(biāo)準(zhǔn)化業(yè)務(wù)數(shù)據(jù)采集標(biāo)準(zhǔn)化業(yè)務(wù)數(shù)據(jù)的填寫與采集：將業(yè)務(wù)數(shù)據(jù)用標(biāo)準(zhǔn)化的表單進(jìn)行采集，加強(qiáng)業(yè)務(wù)規(guī)范性、橫向可比性，強(qiáng)化核算依據(jù)的標(biāo)準(zhǔn)與規(guī)范，為自動(dòng)制證和賬轉(zhuǎn)表的實(shí)現(xiàn)打好基礎(chǔ)。負(fù)責(zé)統(tǒng)計(jì)數(shù)據(jù)資產(chǎn)的采集和管理數(shù)據(jù)挖掘及風(fēng)險(xiǎn)管理數(shù)據(jù)資產(chǎn)經(jīng)營(yíng)指標(biāo)分析數(shù)據(jù)資產(chǎn)形成管理報(bào)表數(shù)據(jù)資產(chǎn)形成財(cái)務(wù)報(bào)表風(fēng)險(xiǎn)控制數(shù)據(jù)分析管理報(bào)表財(cái)務(wù)報(bào)表數(shù)據(jù)資產(chǎn)管理與應(yīng)用根據(jù)數(shù)據(jù)資產(chǎn)應(yīng)用要求優(yōu)化數(shù)據(jù)采集數(shù)據(jù)資產(chǎn)管理分析建模數(shù)據(jù)資產(chǎn)挖掘進(jìn)行風(fēng)險(xiǎn)管理股份數(shù)據(jù)中心及主數(shù)據(jù)建設(shè)組織架構(gòu)體系組織機(jī)構(gòu)、職能部門、企業(yè)職員、系統(tǒng)用戶、崗位職責(zé)等。核算政策體系會(huì)計(jì)科目、輔助類別、銀行賬戶、客商往來(lái)、業(yè)務(wù)板塊等。其他標(biāo)準(zhǔn)字典國(guó)家地區(qū)、企業(yè)類型、單位隸屬關(guān)系、營(yíng)業(yè)狀態(tài)、職稱等。基礎(chǔ)數(shù)據(jù)申請(qǐng)及審批機(jī)構(gòu)、部門、人員、客商、字典新增及變更審批，申請(qǐng)審批功能?？缇株P(guān)聯(lián)交易跨局管理交易的數(shù)據(jù)的抽取及對(duì)賬。股份數(shù)據(jù)分析各局共享數(shù)據(jù)抽取及分析展現(xiàn)。共享平臺(tái)建設(shè)共享站點(diǎn)共享站點(diǎn)及分中心管理；共享業(yè)務(wù)分組及崗位設(shè)置。共享會(huì)計(jì)共享會(huì)計(jì)注冊(cè)及管理。任務(wù)處理共享任務(wù)的分發(fā)機(jī)制；共享標(biāo)準(zhǔn)節(jié)點(diǎn)：初審、符合、資金處理節(jié)點(diǎn)。影像系統(tǒng)影像采集、發(fā)票識(shí)別、影像上傳、影像管理、影像補(bǔ)掃、電子文檔等。01030402資金處理組資金相關(guān)的核算及管理工作，主要負(fù)責(zé)資金中心的收支業(yè)務(wù)。綜合核算組應(yīng)收應(yīng)付賬齡分析、營(yíng)業(yè)外收支、質(zhì)保金折現(xiàn)、金融資產(chǎn)確認(rèn)轉(zhuǎn)移處置、投資、融資、稅務(wù)保險(xiǎn)、期末結(jié)轉(zhuǎn)等業(yè)務(wù)。資產(chǎn)費(fèi)用組資產(chǎn)（臨時(shí)設(shè)施、在建工程、固定資產(chǎn)、無(wú)形資產(chǎn)、投資性房地產(chǎn)）新增、折舊、攤銷、處置等業(yè)務(wù)；職工薪酬及差旅費(fèi)、會(huì)議費(fèi)等經(jīng)費(fèi)報(bào)銷業(yè)務(wù)。收入成本組收入確認(rèn)、成本確認(rèn)、勞務(wù)結(jié)算、材料領(lǐng)用、攤銷及處置、機(jī)械費(fèi)結(jié)算、其他直接費(fèi)結(jié)算、專項(xiàng)儲(chǔ)備、研發(fā)支出、其他業(yè)務(wù)收入及成本等業(yè)務(wù)。任務(wù)分發(fā)大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)建設(shè)目標(biāo)精準(zhǔn)治理政府可借助大數(shù)據(jù)實(shí)現(xiàn)統(tǒng)計(jì)管理、社會(huì)管理、應(yīng)急指揮等精準(zhǔn)化治理。大數(shù)據(jù)將通過(guò)全息的數(shù)據(jù)呈現(xiàn)，使政府從“主觀主義”“經(jīng)驗(yàn)主義”的模糊治理方式，轉(zhuǎn)向“實(shí)事求是”“數(shù)據(jù)驅(qū)動(dòng)”的精準(zhǔn)治理方式。簡(jiǎn)政放權(quán)政府可借助大數(shù)據(jù)，助力簡(jiǎn)政放權(quán)，支持從事前審批向事中事后監(jiān)管轉(zhuǎn)變，借助大數(shù)據(jù)實(shí)現(xiàn)政府負(fù)面清單、權(quán)力清單和責(zé)任清單的透明化管理，通過(guò)大數(shù)據(jù)實(shí)現(xiàn)精準(zhǔn)監(jiān)督。產(chǎn)業(yè)聚集把大數(shù)據(jù)產(chǎn)業(yè)與大眾創(chuàng)業(yè)、萬(wàn)眾創(chuàng)新結(jié)合起來(lái)。建立大數(shù)據(jù)創(chuàng)業(yè)公司、大數(shù)據(jù)產(chǎn)業(yè)園、大數(shù)據(jù)重點(diǎn)實(shí)驗(yàn)室等大數(shù)據(jù)生態(tài)環(huán)境。經(jīng)濟(jì)發(fā)展政府借助大數(shù)據(jù)提高經(jīng)濟(jì)治理水平，融合稅務(wù)、財(cái)政、金融等多部門數(shù)據(jù)，同時(shí)結(jié)合社會(huì)化大數(shù)據(jù)，建立經(jīng)濟(jì)大數(shù)據(jù)決策支持體系，為產(chǎn)業(yè)結(jié)構(gòu)調(diào)整升級(jí)提供支持。服務(wù)民生政府運(yùn)用大數(shù)據(jù)推動(dòng)民生服務(wù)，實(shí)現(xiàn)基于大數(shù)據(jù)的智慧交通、智慧環(huán)保、智慧醫(yī)療、智慧教育、智慧養(yǎng)老、智慧旅游等。政府管理分析類應(yīng)用建設(shè)現(xiàn)狀基本分析關(guān)注的內(nèi)容存在的問(wèn)題基本的現(xiàn)狀大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)累積數(shù)據(jù)沒(méi)有充分利用缺乏面向整個(gè)政府的統(tǒng)一、完整的數(shù)據(jù)視圖；缺乏支撐政府日常應(yīng)急運(yùn)轉(zhuǎn)的風(fēng)險(xiǎn)評(píng)估體系；缺乏政府服務(wù)360度視圖，服務(wù)行為分析和預(yù)測(cè)無(wú)法實(shí)現(xiàn)；缺乏面向銀行應(yīng)急運(yùn)營(yíng)管理的關(guān)鍵績(jī)效指標(biāo)體系；……統(tǒng)計(jì)已建立面向整個(gè)統(tǒng)計(jì)服務(wù)的數(shù)據(jù)倉(cāng)庫(kù)，整合了前臺(tái)應(yīng)急運(yùn)營(yíng)數(shù)據(jù)和后臺(tái)管理數(shù)據(jù)，建立了面向統(tǒng)計(jì)服務(wù)的管理分析應(yīng)用；政府已開(kāi)展服務(wù)民生等多種應(yīng)急，積累了一定量的應(yīng)急數(shù)據(jù)，同時(shí)應(yīng)急人員也從服務(wù)管理、風(fēng)險(xiǎn)評(píng)級(jí)和經(jīng)營(yíng)規(guī)模預(yù)測(cè)等方面，提出了大量分析預(yù)測(cè)需求；……數(shù)據(jù)平臺(tái)、數(shù)據(jù)應(yīng)用、數(shù)據(jù)管控……基礎(chǔ)數(shù)據(jù)平臺(tái)和BI應(yīng)用建設(shè)是未來(lái)一段時(shí)間的重點(diǎn)！數(shù)據(jù)平臺(tái)整體架構(gòu)；數(shù)據(jù)平臺(tái)各層建設(shè)的標(biāo)準(zhǔn)；較成熟的銀行業(yè)數(shù)據(jù)模型；數(shù)據(jù)質(zhì)量治理；元數(shù)據(jù)管理；

數(shù)據(jù)標(biāo)準(zhǔn)建設(shè)數(shù)據(jù)整合；

數(shù)據(jù)應(yīng)用建設(shè)；數(shù)據(jù)平臺(tái)的軟硬環(huán)境……大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)建設(shè)目標(biāo)外部非結(jié)構(gòu)化數(shù)據(jù)統(tǒng)一制定目標(biāo)和分析模型統(tǒng)一劃分分析主題統(tǒng)一設(shè)計(jì)數(shù)據(jù)模式統(tǒng)一規(guī)劃分析方法統(tǒng)一部署技術(shù)基礎(chǔ)統(tǒng)一定義BI應(yīng)用自定義報(bào)表工具行＋列的簡(jiǎn)單定義方式多種格式報(bào)表政府決策層政府職能管控層各級(jí)應(yīng)急操作層關(guān)注政府主要經(jīng)營(yíng)指標(biāo)應(yīng)急人員使用BI應(yīng)用實(shí)現(xiàn)應(yīng)急協(xié)作和創(chuàng)新BI分析工具供應(yīng)鏈銀行系統(tǒng)POP系統(tǒng)其他應(yīng)急系統(tǒng)云數(shù)據(jù)推送平臺(tái)已實(shí)現(xiàn)了主要統(tǒng)計(jì)服務(wù)及銀行應(yīng)急系統(tǒng)數(shù)據(jù)清洗、整合，為未來(lái)政府?dāng)?shù)據(jù)平臺(tái)提供了豐富的數(shù)據(jù)源。通過(guò)數(shù)據(jù)平臺(tái)和BI應(yīng)用建設(shè)，政府將搭建統(tǒng)一的大數(shù)據(jù)共享和分析平臺(tái)，對(duì)各類應(yīng)急進(jìn)行前瞻性預(yù)測(cè)及分析，為政府各層次用戶提供統(tǒng)一的決策分析支持，提升數(shù)據(jù)共享與流轉(zhuǎn)能力采購(gòu)管理系統(tǒng)查看職能單位的應(yīng)急經(jīng)營(yíng)情況大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)頂層框架大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)建設(shè)預(yù)期收益2.加強(qiáng)應(yīng)急協(xié)作實(shí)現(xiàn)分散在服務(wù)民生等各個(gè)應(yīng)急系統(tǒng)中的數(shù)據(jù)在數(shù)據(jù)平臺(tái)中的集中和整合，建立單一的產(chǎn)品、服務(wù)等數(shù)據(jù)的政府級(jí)視圖，有效促進(jìn)應(yīng)急的集成和協(xié)作，并為政府級(jí)分析、交叉銷售提供基礎(chǔ)3.促進(jìn)應(yīng)急創(chuàng)新政府應(yīng)急人員可以基于明細(xì)、可信的數(shù)據(jù)，進(jìn)行多維分析和數(shù)據(jù)挖掘，為銀行應(yīng)急創(chuàng)新（服務(wù)服務(wù)創(chuàng)新、產(chǎn)品創(chuàng)新等）創(chuàng)造了有利條件4.提升建設(shè)效率通過(guò)數(shù)據(jù)平臺(tái)對(duì)數(shù)據(jù)進(jìn)行集中，為管理分析、挖掘預(yù)測(cè)類等系統(tǒng)提供一致的數(shù)據(jù)基礎(chǔ)，改變現(xiàn)有系統(tǒng)數(shù)據(jù)來(lái)源多、數(shù)據(jù)處理復(fù)雜的現(xiàn)狀，實(shí)現(xiàn)應(yīng)用系統(tǒng)建設(shè)模式的轉(zhuǎn)變，提升相關(guān)IT系統(tǒng)的建設(shè)和運(yùn)行效率5.改善數(shù)據(jù)質(zhì)量從中長(zhǎng)期看，數(shù)據(jù)倉(cāng)庫(kù)對(duì)政府分散在各個(gè)應(yīng)急系統(tǒng)中的數(shù)據(jù)整合、清洗，有助于政府整體數(shù)據(jù)質(zhì)量的改善，提高的數(shù)據(jù)的實(shí)用性通過(guò)數(shù)據(jù)平臺(tái)實(shí)現(xiàn)數(shù)據(jù)集中，確保政府各級(jí)單位均可在保證數(shù)據(jù)隱私和安全的前提下使用數(shù)據(jù)，充分發(fā)揮數(shù)據(jù)作為政府重要資產(chǎn)的應(yīng)急價(jià)值1.實(shí)現(xiàn)數(shù)據(jù)共享大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)管控體系內(nèi)部運(yùn)轉(zhuǎn)機(jī)制管控組織數(shù)據(jù)管控委員會(huì)數(shù)據(jù)所有人數(shù)據(jù)認(rèn)責(zé)人IT支持……管控流程數(shù)據(jù)接入流程數(shù)據(jù)變更流程數(shù)據(jù)授權(quán)流程數(shù)據(jù)退役流程標(biāo)準(zhǔn)/政策制定流程評(píng)價(jià)考核流程……評(píng)價(jià)與考核標(biāo)準(zhǔn)（數(shù)據(jù)標(biāo)準(zhǔn)、質(zhì)量要求、安全要求）遵守標(biāo)準(zhǔn)所需要的政策政策與標(biāo)準(zhǔn)遵從考評(píng)定義……數(shù)據(jù)產(chǎn)生者數(shù)據(jù)使用者………流程支撐流程支撐制定管控平臺(tái)工具支撐明確了數(shù)據(jù)管控過(guò)程中的組織結(jié)構(gòu)、角色、職責(zé)等。管控組織除了要負(fù)責(zé)制定數(shù)據(jù)標(biāo)準(zhǔn)、質(zhì)量、安全等要求外，還需要負(fù)責(zé)制定管控的相關(guān)流程和評(píng)價(jià)考核指標(biāo)等內(nèi)容?？荚u(píng)制定通過(guò)建立一些定性或定量的數(shù)據(jù)管控評(píng)價(jià)考核指標(biāo)，去評(píng)估及考核數(shù)據(jù)相關(guān)責(zé)任人職責(zé)履行情況、數(shù)據(jù)管控標(biāo)準(zhǔn)及數(shù)據(jù)政策的執(zhí)行情況等。規(guī)范了數(shù)據(jù)管控過(guò)程中，各個(gè)環(huán)節(jié)日常任務(wù)處理的運(yùn)作模式，例如數(shù)據(jù)定義如何變更、數(shù)據(jù)沖突如何協(xié)調(diào)等。采用專門的技術(shù)平臺(tái)支撐管控流程的自動(dòng)化，發(fā)布管控組織制定的一些相關(guān)標(biāo)準(zhǔn)和規(guī)范，及時(shí)反映管控過(guò)程中存在的一些問(wèn)題等。管控綜合管理標(biāo)準(zhǔn)/規(guī)范管理流程管理考核儀表盤……元數(shù)據(jù)管理應(yīng)急元數(shù)據(jù)管理技術(shù)元數(shù)據(jù)管理管理元數(shù)據(jù)分析……數(shù)據(jù)質(zhì)量管理稽核規(guī)則管理數(shù)據(jù)稽核質(zhì)量報(bào)告……工具支撐組織架構(gòu)、評(píng)價(jià)與考核、管控流程、管控工具這四個(gè)域相互作用、相互支撐，提供對(duì)各信息系統(tǒng)數(shù)據(jù)的管控。目錄大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)綜述1大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)2大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)演進(jìn)路線3大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)建設(shè)實(shí)施重點(diǎn)4大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)數(shù)據(jù)質(zhì)量管理平臺(tái)5數(shù)據(jù)融合分析數(shù)據(jù)采集交換共享信息應(yīng)用交換數(shù)據(jù)數(shù)據(jù)融合跨部門數(shù)據(jù)整合加工數(shù)據(jù)質(zhì)量處理跨部門數(shù)據(jù)關(guān)聯(lián)融合按需服務(wù)融合數(shù)據(jù)服務(wù)數(shù)據(jù)數(shù)據(jù)交換平臺(tái)政府部門數(shù)據(jù)社會(huì)化數(shù)據(jù)管理對(duì)象基礎(chǔ)屬性信息業(yè)務(wù)狀態(tài)信息大數(shù)據(jù)基礎(chǔ)平臺(tái)統(tǒng)計(jì)運(yùn)行大數(shù)據(jù)個(gè)人企業(yè)數(shù)據(jù)服務(wù)大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)建設(shè)思路公共服務(wù)大數(shù)據(jù)產(chǎn)業(yè)升級(jí)大數(shù)據(jù)政府決策大數(shù)據(jù)互聯(lián)網(wǎng)數(shù)據(jù)大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)歷史數(shù)據(jù)查詢數(shù)據(jù)交換平臺(tái)應(yīng)用集市數(shù)據(jù)區(qū)統(tǒng)計(jì)統(tǒng)計(jì)服務(wù)公檢法系統(tǒng)輿情控制系統(tǒng)金融系統(tǒng)……系統(tǒng)政府內(nèi)外部半結(jié)構(gòu)化、非結(jié)構(gòu)化數(shù)據(jù)大數(shù)據(jù)交換組件數(shù)據(jù)庫(kù)數(shù)據(jù)交換組件數(shù)據(jù)區(qū)數(shù)據(jù)交換組件數(shù)據(jù)計(jì)算層大數(shù)據(jù)區(qū)沙盤演練數(shù)據(jù)區(qū)數(shù)據(jù)應(yīng)用層實(shí)時(shí)數(shù)據(jù)區(qū)服務(wù)主題協(xié)議主題產(chǎn)品主題應(yīng)急沙盤演練數(shù)據(jù)增值產(chǎn)品統(tǒng)計(jì)服務(wù)數(shù)據(jù)供應(yīng)鏈數(shù)據(jù)增值產(chǎn)品數(shù)據(jù)區(qū)主題數(shù)據(jù)區(qū)……用戶訪問(wèn)層服務(wù)匯總賬戶匯總機(jī)構(gòu)匯總……社交媒體移動(dòng)互聯(lián)用戶評(píng)價(jià)訪問(wèn)日志處理后大數(shù)據(jù)待處理大數(shù)據(jù)流程調(diào)度監(jiān)控告警數(shù)據(jù)標(biāo)準(zhǔn)數(shù)據(jù)質(zhì)量元數(shù)據(jù)數(shù)據(jù)安全流程調(diào)度平臺(tái)……數(shù)據(jù)管控平臺(tái)流程調(diào)度層數(shù)據(jù)管控層數(shù)據(jù)產(chǎn)生層數(shù)據(jù)交換層實(shí)時(shí)數(shù)據(jù)查詢服務(wù)管理財(cái)務(wù)管理……外部用戶貼源數(shù)據(jù)區(qū)……內(nèi)部管理分析內(nèi)部用戶歷史歸檔數(shù)據(jù)區(qū)IT人員風(fēng)險(xiǎn)管理大數(shù)據(jù)平臺(tái)總體架構(gòu)委辦局?jǐn)?shù)據(jù)庫(kù)政務(wù)數(shù)據(jù)分析數(shù)據(jù)源終端設(shè)備物聯(lián)網(wǎng)監(jiān)控設(shè)備事件信息實(shí)時(shí)監(jiān)測(cè)流數(shù)據(jù)采集整合空間數(shù)據(jù)統(tǒng)計(jì)運(yùn)行監(jiān)控中心大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)門戶建筑數(shù)據(jù)法人庫(kù)人口庫(kù)經(jīng)濟(jì)數(shù)據(jù)專題數(shù)據(jù)視頻數(shù)據(jù)氣象監(jiān)測(cè)環(huán)保監(jiān)測(cè)交通流量位置信息社會(huì)事件災(zāi)害事件輿情事件政務(wù)決策支持平臺(tái)統(tǒng)計(jì)運(yùn)行大數(shù)據(jù)的資源采集監(jiān)控34基礎(chǔ)設(shè)施：地下管網(wǎng)、統(tǒng)計(jì)部件交通出行：交通路況、車輛監(jiān)控、客流量監(jiān)控生態(tài)環(huán)境：氣象、空氣、水質(zhì)、污染源、水位、雨量監(jiān)測(cè)數(shù)據(jù)匯聚委辦局?jǐn)?shù)據(jù)打造統(tǒng)計(jì)資源基礎(chǔ)平臺(tái)實(shí)時(shí)可視化展示和預(yù)警

整合統(tǒng)計(jì)管理相關(guān)部門數(shù)據(jù)，建設(shè)專題數(shù)據(jù)庫(kù)接入天地圖地圖資源，全面展示統(tǒng)計(jì)綜合運(yùn)行視圖監(jiān)測(cè)數(shù)據(jù)實(shí)時(shí)更新，掌握最新動(dòng)態(tài)重要場(chǎng)所視頻監(jiān)控，及時(shí)查看現(xiàn)場(chǎng)狀況預(yù)警閾值設(shè)置和上報(bào)，提高保障能力…統(tǒng)計(jì)大數(shù)據(jù)總體體征分析35

基于統(tǒng)計(jì)大數(shù)據(jù)的采集分析，建立一套經(jīng)專家論證的、符合統(tǒng)計(jì)實(shí)際的、科學(xué)合理的統(tǒng)計(jì)運(yùn)行評(píng)價(jià)指標(biāo)體系，基本涵蓋了統(tǒng)計(jì)運(yùn)行的主要方面。通過(guò)儀表盤、雷達(dá)圖、柱狀圖、樹(shù)狀圖等多種呈現(xiàn)方式，使得市領(lǐng)導(dǎo)能夠全面、直觀、多視角、快速地了解整個(gè)統(tǒng)計(jì)的總體運(yùn)行狀態(tài)。

統(tǒng)計(jì)供水指數(shù)統(tǒng)計(jì)排水指數(shù)統(tǒng)計(jì)能源指數(shù)統(tǒng)計(jì)環(huán)境指數(shù)統(tǒng)計(jì)通信指數(shù)管網(wǎng)安全指數(shù)基礎(chǔ)設(shè)施

1交通擁堵指數(shù)統(tǒng)計(jì)客運(yùn)指數(shù)交通出行2生產(chǎn)安全指數(shù)統(tǒng)計(jì)治安指數(shù)交通安全指數(shù)消防安全指數(shù)公共衛(wèi)生指數(shù)城管綜合指數(shù)公共安全3統(tǒng)計(jì)宜居指數(shù)污染源排放指數(shù)氣象指數(shù)太湖藍(lán)藻指數(shù)生態(tài)環(huán)境4統(tǒng)計(jì)體征指標(biāo)智慧交通：交通信息實(shí)時(shí)采集、匯總、分析、發(fā)布36統(tǒng)計(jì)綜合交通管理解決方案統(tǒng)計(jì)交通數(shù)據(jù)采集發(fā)布智能公交、智能停車交通信號(hào)的智能控制交通應(yīng)急指揮平臺(tái)高速公路解決方案綜合視頻監(jiān)控ETC聯(lián)網(wǎng)收費(fèi)智能卡口與攔截收費(fèi)軟件通行卡加密軌道交通解決方案地鐵綜合通信售檢票系統(tǒng)地鐵清分系統(tǒng)乘客向?qū)到y(tǒng)鐵路行業(yè)解決方案集裝箱貨運(yùn)管理鐵路旅客經(jīng)濟(jì)運(yùn)行動(dòng)態(tài)監(jiān)控經(jīng)營(yíng)分析與資產(chǎn)管理系統(tǒng)航空行業(yè)解決方案客票銷售電子商務(wù)平臺(tái)航空代理人銷售平臺(tái)機(jī)場(chǎng)旅客服務(wù)平臺(tái)機(jī)場(chǎng)信息管理系統(tǒng)航空協(xié)會(huì)與管理機(jī)構(gòu)信息系統(tǒng)社區(qū)服務(wù)中心區(qū)域中心醫(yī)院地區(qū)大型綜合醫(yī)療醫(yī)院社區(qū)熙康健康小屋上門診療/隨訪雙向轉(zhuǎn)診雙向轉(zhuǎn)診轉(zhuǎn)診/遠(yuǎn)程醫(yī)療轉(zhuǎn)診/遠(yuǎn)程醫(yī)療個(gè)人/家庭健康檔案區(qū)域診療平臺(tái)全科醫(yī)生隨診包政府公衛(wèi)監(jiān)控/決策平臺(tái)全方位支持/協(xié)同區(qū)域醫(yī)療信息網(wǎng)平臺(tái)個(gè)人/家庭健康檔案智慧醫(yī)療：可穿戴設(shè)備、電子病歷、遠(yuǎn)程醫(yī)療、移動(dòng)支付HIS（HIS、公衛(wèi)系統(tǒng)）個(gè)人/家庭健康檔案智慧教育：整合各類教育資源，實(shí)現(xiàn)教育資源平衡學(xué)校老師家長(zhǎng)教育主管部門學(xué)生校校通光纖寬帶無(wú)線網(wǎng)絡(luò)班班通電子教輔+教學(xué)端電子教材+教學(xué)端人人通幼學(xué)通、翼校通飛Young人人通教育管理公共服務(wù)平臺(tái)對(duì)接國(guó)家平臺(tái)平安校園綜合辦公教育管理信息系統(tǒng)教育資源公共服務(wù)平臺(tái)教材資源測(cè)評(píng)系統(tǒng)網(wǎng)絡(luò)實(shí)驗(yàn)品牌資源智慧教室智慧校園電子書包校園一卡通遠(yuǎn)程教育平安校園智慧圖書館基礎(chǔ)資源云計(jì)算大數(shù)據(jù)應(yīng)用服務(wù)健康感知器物聯(lián)網(wǎng)醫(yī)療設(shè)備終端無(wú)線寬帶、3G、4G網(wǎng)絡(luò)、物聯(lián)網(wǎng)智慧養(yǎng)老智慧社區(qū)養(yǎng)老檔案智慧政務(wù)政務(wù)審批政務(wù)服務(wù)門戶用戶門戶管理門戶移動(dòng)終端智能終端PC終端用戶居民政府企業(yè)智慧社區(qū)建設(shè)標(biāo)準(zhǔn)政府信息接口第三方服務(wù)接口智慧社區(qū)：智慧政務(wù)、智慧網(wǎng)格、智慧養(yǎng)老、O2O養(yǎng)老服務(wù)緊急救援養(yǎng)老健康網(wǎng)格化管理政務(wù)服務(wù)平安社區(qū)智能物業(yè)智能家居社區(qū)O2O智慧監(jiān)管：整合數(shù)據(jù)實(shí)現(xiàn)企業(yè)信用監(jiān)管企業(yè)監(jiān)管安全監(jiān)管經(jīng)濟(jì)市場(chǎng)工商質(zhì)檢安監(jiān)食品安全衛(wèi)生安全公共安全宏觀經(jīng)濟(jì)節(jié)能減排價(jià)格指數(shù)傳感器監(jiān)控?cái)z像GPSRFID移動(dòng)設(shè)備….無(wú)線網(wǎng)關(guān)企業(yè)行為基礎(chǔ)設(shè)施市場(chǎng)行為經(jīng)濟(jì)行為……水電氣熱交通運(yùn)輸市政設(shè)施基礎(chǔ)設(shè)施智慧政務(wù)：數(shù)據(jù)開(kāi)放、權(quán)利公開(kāi)、政務(wù)協(xié)同6智慧政務(wù)全面整合政府門戶及下屬單位子網(wǎng)站的信息資源，實(shí)現(xiàn)有序互聯(lián)、有效共享，政府各部門通過(guò)重置流程及資源，以提供市民及公司便捷、優(yōu)質(zhì)、低成本的服務(wù)增加創(chuàng)新的溝通渠道，提供市民與領(lǐng)導(dǎo)，企業(yè)與政府之間互動(dòng)交流的平臺(tái)機(jī)制，加強(qiáng)與各界代表人士的協(xié)商，樹(shù)立一個(gè)公平、公正、公開(kāi)，并且響應(yīng)快速高效的政府形象利用網(wǎng)上行政監(jiān)察和法制監(jiān)督系統(tǒng)對(duì)“服務(wù)”的治理，對(duì)行政執(zhí)法信息公開(kāi)的程度和執(zhí)行效率進(jìn)行監(jiān)督，確保行政行為依法、透明、廉潔、高效運(yùn)行政府各聯(lián)網(wǎng)部門實(shí)現(xiàn)數(shù)據(jù)整合和信息資源共享，對(duì)政府工作流程進(jìn)行優(yōu)化和改造，以標(biāo)準(zhǔn)化服務(wù)的方式實(shí)現(xiàn)各類跨部門的聯(lián)動(dòng)業(yè)務(wù)，提高政府辦事效率一站式服務(wù)：互動(dòng)溝通：并聯(lián)審批：權(quán)力公開(kāi)：安全管理42

實(shí)時(shí)監(jiān)控統(tǒng)計(jì)安全事件，顯示事件名稱、緊急程度、類別、上報(bào)部門、發(fā)生時(shí)間等信息，支持在GIS上進(jìn)行定位顯示。提供事件周邊應(yīng)急資源的分析功能，包括醫(yī)院床位數(shù)、應(yīng)急物資、避難場(chǎng)所等，便于市領(lǐng)導(dǎo)對(duì)現(xiàn)場(chǎng)進(jìn)行應(yīng)急指揮。大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)預(yù)測(cè)分析、決策支持預(yù)測(cè)模型預(yù)測(cè)結(jié)果管理者可以實(shí)現(xiàn)管理者可以實(shí)現(xiàn)民生資源：社會(huì)保險(xiǎn)收支預(yù)測(cè)價(jià)格波動(dòng)預(yù)測(cè)市場(chǎng)經(jīng)濟(jì)預(yù)測(cè)…….基礎(chǔ)設(shè)施：安全生產(chǎn)預(yù)測(cè)…公眾服務(wù)：統(tǒng)計(jì)交通容量預(yù)測(cè)…安全監(jiān)管：衛(wèi)生疫情預(yù)測(cè)…歷史數(shù)據(jù)輿情報(bào)告年度報(bào)告監(jiān)測(cè)數(shù)據(jù)……目標(biāo)庫(kù)行動(dòng)指揮宏觀調(diào)控交通規(guī)劃安全通告……可視化決策管理統(tǒng)計(jì)報(bào)表分析政務(wù)數(shù)據(jù)分析統(tǒng)計(jì)運(yùn)行態(tài)勢(shì)客觀評(píng)價(jià)小李，咱們統(tǒng)計(jì)的生態(tài)環(huán)境總體狀況怎么樣？哪些環(huán)節(jié)需要重點(diǎn)關(guān)注和改進(jìn)？好的，馬上給您整理報(bào)告。層層分析各領(lǐng)域運(yùn)行狀態(tài)細(xì)化到最原始的指標(biāo)數(shù)據(jù)，并提供指標(biāo)變化趨勢(shì)分析。統(tǒng)計(jì)綜合體征領(lǐng)域指標(biāo)三級(jí)指標(biāo)監(jiān)測(cè)指標(biāo)公共安全交通出行生態(tài)環(huán)境基礎(chǔ)設(shè)施綜合評(píng)價(jià)全面、直觀、多視角、快速了解統(tǒng)計(jì)的總體運(yùn)行狀態(tài)。發(fā)現(xiàn)不足確定需要重點(diǎn)關(guān)注和改進(jìn)的指標(biāo)數(shù)據(jù)，安排專項(xiàng)整治。點(diǎn)擊播放大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體產(chǎn)品框架非結(jié)構(gòu)化/半結(jié)構(gòu)化數(shù)據(jù)管理分析平臺(tái)（X86MPP集群）應(yīng)急系統(tǒng)結(jié)構(gòu)化數(shù)據(jù)基礎(chǔ)計(jì)算平臺(tái)（貼源數(shù)據(jù)區(qū)+主題數(shù)據(jù)區(qū)+大數(shù)據(jù)區(qū)）（Hadoop集群+Hive）數(shù)據(jù)交換平臺(tái)（自主開(kāi)發(fā)交換組件+NAS存儲(chǔ)）實(shí)時(shí)分析平臺(tái)（內(nèi)存數(shù)據(jù)庫(kù)）沙盤演練平臺(tái)（Hadoop集群）數(shù)據(jù)大腦管控平臺(tái)FTPSFTP/HTTP/APICopyfromloalQueue云數(shù)據(jù)推送平臺(tái)增值產(chǎn)品平臺(tái)（Hadoop集群）歷史歸檔查詢平臺(tái)（Hadoop集群+Hive）Load（Hive）DistcpHQL+LoadDistcpDistcpHQL+LoadDistcpHQL+LoadSqoopSqoopSqoopMR流程調(diào)度平臺(tái)大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)產(chǎn)生層內(nèi)部應(yīng)急系統(tǒng)產(chǎn)生的結(jié)構(gòu)化數(shù)據(jù)統(tǒng)計(jì)日常統(tǒng)計(jì)服務(wù)處理過(guò)程中產(chǎn)生的結(jié)構(gòu)化數(shù)據(jù)，存儲(chǔ)在關(guān)系型數(shù)據(jù)庫(kù)中，如：……政府日常應(yīng)急處理過(guò)程中產(chǎn)生的結(jié)構(gòu)化數(shù)據(jù)，存儲(chǔ)在關(guān)系型數(shù)據(jù)庫(kù)中，如：……政府內(nèi)部非結(jié)構(gòu)化數(shù)據(jù)日常應(yīng)急處理過(guò)程中產(chǎn)生的非結(jié)構(gòu)化數(shù)據(jù)，存儲(chǔ)形式多樣，主要包括用戶訪問(wèn)日志、用戶投訴、用戶點(diǎn)評(píng)……政府外部數(shù)據(jù)政府外部數(shù)據(jù)以非結(jié)構(gòu)化為主，主要包括國(guó)家政策法規(guī)、論壇等互聯(lián)網(wǎng)信息、地理位置等移動(dòng)信息、微博等社交媒體信息……

源數(shù)據(jù)內(nèi)容在本次項(xiàng)目實(shí)施中將采用以增量為主、全量為輔結(jié)合的方式獲取源數(shù)據(jù)統(tǒng)計(jì)和政府應(yīng)急系統(tǒng)的數(shù)據(jù)增量數(shù)據(jù)識(shí)別、獲取由云數(shù)據(jù)推送平臺(tái)負(fù)責(zé)，云數(shù)據(jù)推送平臺(tái)采用分析、對(duì)比源系統(tǒng)日志方式實(shí)現(xiàn)對(duì)于無(wú)法通過(guò)上述方式獲取增量的源系統(tǒng)數(shù)據(jù)，則采用某一個(gè)時(shí)間范圍內(nèi)的全部數(shù)據(jù)作為增量初始數(shù)據(jù)加載均采用全量模式源數(shù)據(jù)增量大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)交換層數(shù)據(jù)交換層設(shè)計(jì)目標(biāo)傳輸組件是根據(jù)數(shù)據(jù)源存儲(chǔ)的不同分類而設(shè)計(jì)的，本質(zhì)是通過(guò)分析數(shù)據(jù)存儲(chǔ)結(jié)構(gòu)和數(shù)據(jù)存儲(chǔ)庫(kù)的特點(diǎn)來(lái)針對(duì)性的設(shè)計(jì)工具，以追求卓越的性能保證數(shù)據(jù)在平臺(tái)內(nèi)高速流轉(zhuǎn)保證數(shù)據(jù)交換過(guò)程中不失真保證數(shù)據(jù)交換過(guò)程中不丟失保證數(shù)據(jù)交換過(guò)程安全可靠數(shù)據(jù)區(qū)數(shù)據(jù)交換組件數(shù)據(jù)庫(kù)數(shù)據(jù)交換組件大數(shù)據(jù)交換組件政府系統(tǒng)數(shù)據(jù)服務(wù)層外部大數(shù)據(jù)統(tǒng)計(jì)系統(tǒng)Hadoop元數(shù)據(jù)云數(shù)據(jù)推送平臺(tái)數(shù)據(jù)平臺(tái)導(dǎo)入臨時(shí)區(qū)數(shù)據(jù)平臺(tái)導(dǎo)出臨時(shí)區(qū)NAS存儲(chǔ)ETL程序區(qū)大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)交換層NAS存儲(chǔ)Hadoop集群元數(shù)據(jù)區(qū)ETL數(shù)據(jù)處理程序區(qū)數(shù)據(jù)平臺(tái)臨時(shí)數(shù)據(jù)區(qū)存儲(chǔ)數(shù)據(jù)平臺(tái)各個(gè)Hadoop集群的元數(shù)據(jù)信息，如：HDFS文件系統(tǒng)元數(shù)據(jù)政府?dāng)?shù)據(jù)交換平臺(tái)每日獲取運(yùn)輸局推送平臺(tái)提供的應(yīng)急系統(tǒng)變化數(shù)據(jù)，暫存在NAS臨時(shí)數(shù)據(jù)區(qū)銀行數(shù)據(jù)平臺(tái)加工計(jì)算結(jié)果返回給應(yīng)急系統(tǒng)，暫存在NAS臨時(shí)數(shù)據(jù)區(qū)數(shù)據(jù)平臺(tái)ETL加工處理程序（數(shù)據(jù)壓縮、數(shù)據(jù)加載、各數(shù)據(jù)數(shù)據(jù)處理等）統(tǒng)一存儲(chǔ)在NAS集群指定目錄，各接口服務(wù)器通過(guò)文件系統(tǒng)Link建立映射大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)交換層大數(shù)據(jù)交換組件政府內(nèi)部非結(jié)構(gòu)化、半結(jié)構(gòu)化數(shù)據(jù)，如：音頻、視頻、郵件、Office文檔、抵押品掃描件等政府外部非結(jié)構(gòu)化、半結(jié)構(gòu)化數(shù)據(jù)，如：微博、貼吧、論壇、用戶點(diǎn)擊流、用戶移動(dòng)位置等批量采集：大數(shù)據(jù)源以SFTP協(xié)議批量傳輸數(shù)據(jù)文件在線訪問(wèn)：開(kāi)發(fā)Java或C應(yīng)用，調(diào)用大據(jù)源API，或以網(wǎng)絡(luò)平臺(tái)爬蟲方式抓取源系統(tǒng)非結(jié)構(gòu)化、半結(jié)構(gòu)化數(shù)據(jù)組件以實(shí)時(shí)和批量?jī)煞N模式實(shí)現(xiàn)下列功能：數(shù)據(jù)采集數(shù)據(jù)傳輸?shù)綌?shù)據(jù)交換平臺(tái)（接口服務(wù)器）NAS指定目錄存儲(chǔ)數(shù)據(jù)到數(shù)據(jù)平臺(tái)大數(shù)據(jù)區(qū)指定HDFS目錄定時(shí)抽取用戶訪問(wèn)日志，加載到數(shù)據(jù)平臺(tái)大數(shù)據(jù)區(qū)HDFS指定目錄，MR程序加工處理開(kāi)發(fā)網(wǎng)絡(luò)爬蟲程序，掃描用戶微博，抓取用戶微博內(nèi)容，社交圈信息，存入大數(shù)據(jù)區(qū)處理對(duì)象實(shí)現(xiàn)技術(shù)實(shí)現(xiàn)功能應(yīng)用場(chǎng)景大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)交換層數(shù)據(jù)庫(kù)數(shù)據(jù)交換組件政府內(nèi)部應(yīng)急系統(tǒng)產(chǎn)生的結(jié)構(gòu)化數(shù)據(jù)，包括兩大來(lái)源：統(tǒng)計(jì)統(tǒng)計(jì)服務(wù)數(shù)據(jù)，數(shù)據(jù)存儲(chǔ)在Oracle、SQLServer、MySQL和MongoDB四類數(shù)據(jù)庫(kù)政府互聯(lián)網(wǎng)銀行應(yīng)急數(shù)據(jù)，數(shù)據(jù)存儲(chǔ)在MySQL數(shù)據(jù)庫(kù)Perl程序數(shù)據(jù)采集，調(diào)用Perl文件模塊相關(guān)函數(shù)，輪詢指定目錄，獲取數(shù)據(jù)文件數(shù)據(jù)核查，Perl執(zhí)行文件級(jí)數(shù)據(jù)質(zhì)量檢查數(shù)據(jù)加載，調(diào)用HiveLoad數(shù)據(jù)命令，加載到數(shù)據(jù)平臺(tái)臨時(shí)數(shù)據(jù)區(qū)的HiveTable組件以實(shí)時(shí)和批量模式實(shí)現(xiàn)下列功能：數(shù)據(jù)采集，輪詢NAS集群指定目錄，獲取數(shù)據(jù)文件（LZO壓縮）數(shù)據(jù)核查，對(duì)數(shù)據(jù)文件進(jìn)行質(zhì)量校驗(yàn)數(shù)據(jù)加載，加載數(shù)據(jù)到臨時(shí)數(shù)據(jù)區(qū)云數(shù)據(jù)推送平臺(tái)連接供應(yīng)鏈銀行系統(tǒng)數(shù)據(jù)庫(kù)，分析供應(yīng)鏈銀行MySQL數(shù)據(jù)庫(kù)日志，識(shí)別增量數(shù)據(jù)，存儲(chǔ)到銀行平臺(tái)NAS存儲(chǔ)的指定目錄，銀行平臺(tái)加載數(shù)據(jù)文件到數(shù)據(jù)平臺(tái)臨時(shí)區(qū)Hive表處理對(duì)象實(shí)現(xiàn)技術(shù)實(shí)現(xiàn)功能應(yīng)用場(chǎng)景大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)交換層數(shù)據(jù)區(qū)數(shù)據(jù)交換組件數(shù)據(jù)平臺(tái)計(jì)算層各數(shù)據(jù)區(qū)貼源數(shù)據(jù)區(qū)主題數(shù)據(jù)區(qū)集市數(shù)據(jù)區(qū)沙盤數(shù)據(jù)區(qū)大數(shù)據(jù)區(qū)歸檔數(shù)據(jù)區(qū)Sqoop實(shí)現(xiàn)集市數(shù)據(jù)區(qū)與數(shù)據(jù)平臺(tái)其他Hadoop數(shù)據(jù)區(qū)的數(shù)據(jù)交換Hadoop命令、Hive外部表、MR程序?qū)崿F(xiàn)數(shù)據(jù)平臺(tái)Hadoop數(shù)據(jù)區(qū)間的數(shù)據(jù)交換組件以批量方式實(shí)現(xiàn)下列數(shù)據(jù)交換功能：貼源數(shù)據(jù)區(qū)和主題數(shù)據(jù)區(qū)到集市數(shù)據(jù)區(qū)大數(shù)據(jù)區(qū)到主題數(shù)據(jù)區(qū)和集市數(shù)據(jù)區(qū)主題數(shù)據(jù)區(qū)、貼源數(shù)據(jù)區(qū)、集市數(shù)據(jù)區(qū)到沙盤數(shù)據(jù)區(qū)各個(gè)數(shù)據(jù)區(qū)數(shù)據(jù)歸檔數(shù)據(jù)集市的數(shù)據(jù)按照據(jù)生命周期規(guī)劃，統(tǒng)一將過(guò)期數(shù)據(jù)歸檔到歷史數(shù)據(jù)歸檔區(qū)處理對(duì)象實(shí)現(xiàn)技術(shù)實(shí)現(xiàn)功能應(yīng)用場(chǎng)景大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——流程調(diào)度層批量處理流程批量數(shù)據(jù)處理由流程調(diào)度層部署的自定義開(kāi)發(fā)WorkFlow組件調(diào)度運(yùn)行整個(gè)流程主要完成如下工作：獲取應(yīng)急系統(tǒng)結(jié)構(gòu)化數(shù)據(jù)，存入臨時(shí)數(shù)據(jù)區(qū)獲取政府內(nèi)外部非結(jié)構(gòu)化數(shù)據(jù)，并進(jìn)行結(jié)構(gòu)化處理，存入主題或集市數(shù)據(jù)區(qū)按照貼源數(shù)據(jù)模型整合數(shù)據(jù)（標(biāo)準(zhǔn)化、數(shù)據(jù)更新/追加）按照主題數(shù)據(jù)模型整合數(shù)據(jù)并生成匯總數(shù)據(jù)加工計(jì)算后，結(jié)果交付到數(shù)據(jù)集市，支持分析類應(yīng)用大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——流程調(diào)度層實(shí)時(shí)數(shù)據(jù)處理流程實(shí)時(shí)數(shù)據(jù)處理強(qiáng)調(diào)的是實(shí)時(shí)或準(zhǔn)實(shí)時(shí)獲取并處理數(shù)據(jù)，通常采取消息隊(duì)列等技術(shù)構(gòu)建“數(shù)據(jù)流”整個(gè)處理流程由流程調(diào)度層部署的自定義開(kāi)發(fā)WorkFlow組件調(diào)度運(yùn)行整個(gè)流程主要完成如下工作：通過(guò)數(shù)據(jù)庫(kù)數(shù)據(jù)交換組件獲取增量數(shù)據(jù)，加載到實(shí)時(shí)數(shù)據(jù)區(qū)通過(guò)大數(shù)據(jù)交換組件獲取非結(jié)構(gòu)化數(shù)據(jù)，并利用Storm處理數(shù)據(jù)，加載到實(shí)時(shí)數(shù)據(jù)區(qū)針對(duì)實(shí)時(shí)數(shù)據(jù)區(qū)數(shù)據(jù)執(zhí)行標(biāo)準(zhǔn)化處理和貼源整合大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——流程調(diào)度層歸檔數(shù)據(jù)處理流程數(shù)據(jù)歸檔的對(duì)象包括應(yīng)急系統(tǒng)數(shù)據(jù)文件、貼源數(shù)據(jù)區(qū)數(shù)據(jù)、主題數(shù)據(jù)區(qū)數(shù)據(jù)、大數(shù)據(jù)區(qū)數(shù)據(jù)和集市數(shù)據(jù)區(qū)數(shù)據(jù)數(shù)據(jù)按照生命周期規(guī)劃存儲(chǔ)到歸檔區(qū)Hadoop集群，歸檔后原數(shù)據(jù)區(qū)刪除此數(shù)據(jù)整個(gè)處理流程由流程調(diào)度層部署的自定義開(kāi)發(fā)WorkFlow組件調(diào)度運(yùn)行整個(gè)流程主要完成如下工作：數(shù)據(jù)文件通過(guò)HDFS命令行copyfromlocal進(jìn)行歸檔貼源、主題和大數(shù)據(jù)區(qū)通過(guò)HDFS命令行distcp或自定義開(kāi)發(fā)的MR程序執(zhí)行歸檔集市數(shù)據(jù)區(qū)通過(guò)Sqoop或數(shù)據(jù)庫(kù)提供的Hadoop集成技術(shù)（如：外部表）執(zhí)行歸檔大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)存儲(chǔ)層應(yīng)急系統(tǒng)前日增量數(shù)據(jù)緩存數(shù)據(jù)，支持后續(xù)ELT數(shù)據(jù)處理數(shù)據(jù)內(nèi)容主要用途數(shù)據(jù)模型保留周期用戶

訪問(wèn)模式工作負(fù)載平臺(tái)要求貼源數(shù)據(jù)模型保存最近7天數(shù)據(jù)貼源數(shù)據(jù)區(qū)和主題數(shù)據(jù)區(qū)批量作業(yè)訪問(wèn)無(wú)最終用戶訪問(wèn)I/O敏感，連續(xù)小批量的數(shù)據(jù)抽取和加載少量量數(shù)據(jù)使用Hive的Load命令，大量數(shù)據(jù)使用MR程序與主題區(qū)/貼源區(qū)/集市區(qū)構(gòu)成一個(gè)Hadoop集群（Hive）無(wú)單點(diǎn)故障，7×24小時(shí)+非工作日有限停機(jī)主題數(shù)據(jù)區(qū)、集市數(shù)據(jù)區(qū)和沙盤演練數(shù)據(jù)區(qū)批量作業(yè)訪問(wèn)無(wú)最終用戶訪問(wèn)I/O敏感，日終批量ETL以ELT形式通過(guò)HiveSQL執(zhí)行與主題區(qū)/貼源區(qū)/集市區(qū)構(gòu)成一個(gè)Hadoop集群（Hive）無(wú)單點(diǎn)故障，7×24小時(shí)+非工作日有限停機(jī)貼源數(shù)據(jù)模型不保存歷史應(yīng)急系統(tǒng)前日快照數(shù)據(jù)和一段時(shí)間的流水?dāng)?shù)據(jù)數(shù)據(jù)標(biāo)準(zhǔn)化，為后續(xù)主題模型、集市和沙盤演練提供數(shù)據(jù)臨時(shí)數(shù)據(jù)區(qū)貼源數(shù)據(jù)區(qū)大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)存儲(chǔ)層（續(xù)）政府內(nèi)外部非結(jié)構(gòu)化、半結(jié)構(gòu)化數(shù)據(jù)采集并存儲(chǔ)數(shù)據(jù)，進(jìn)行結(jié)構(gòu)化處理，最終得到結(jié)構(gòu)化數(shù)據(jù)數(shù)據(jù)內(nèi)容主要用途數(shù)據(jù)模型保留周期用戶

訪問(wèn)模式工作負(fù)載平臺(tái)要求數(shù)據(jù)按照HDFS文件存儲(chǔ)建議保留1年集市區(qū)/沙盤區(qū)/增值產(chǎn)品區(qū)/主題區(qū)/歸檔區(qū)批量作業(yè)訪問(wèn)少量高級(jí)應(yīng)急人員進(jìn)行智慧統(tǒng)計(jì)大數(shù)據(jù)云MapReduce分布式計(jì)算，半/非結(jié)構(gòu)化數(shù)據(jù)的結(jié)構(gòu)化處理（包括文本檢索、語(yǔ)義分詞、圖像識(shí)別、音頻識(shí)別等）與主題區(qū)/貼源區(qū)構(gòu)成一個(gè)Hadoop集群（HDFS）無(wú)單點(diǎn)故障，7×24小時(shí)+非工作日有限停機(jī)集市區(qū)/沙盤區(qū)/增值產(chǎn)品區(qū)/主題區(qū)/高時(shí)效區(qū)批量作業(yè)訪問(wèn)應(yīng)急人員執(zhí)行歷史數(shù)據(jù)查詢MapReduce分布式計(jì)算，HDFS命令實(shí)現(xiàn)Hadoop集群內(nèi)歸檔，Sqoop實(shí)現(xiàn)數(shù)據(jù)庫(kù)歸檔，通過(guò)Hive提供歷史查詢獨(dú)立的Hadoop集群（HDFS+Hive）無(wú)單點(diǎn)故障，7×24小時(shí)+非工作日有限停機(jī)數(shù)據(jù)按照HDFS文件存儲(chǔ)數(shù)據(jù)文件按照數(shù)據(jù)區(qū)劃分目錄，建議保留7年其他各數(shù)據(jù)區(qū)歷史數(shù)據(jù)按數(shù)據(jù)生命周期規(guī)劃歸檔平臺(tái)過(guò)期數(shù)據(jù)，支撐歷史數(shù)據(jù)查詢大數(shù)據(jù)區(qū)歷史歸檔數(shù)據(jù)區(qū)大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)存儲(chǔ)層（續(xù)）應(yīng)急系統(tǒng)歷史明細(xì)數(shù)據(jù)打破應(yīng)急條線整合數(shù)據(jù)數(shù)據(jù)內(nèi)容主要用途數(shù)據(jù)模型保留周期用戶

訪問(wèn)模式工作負(fù)載可用性要求第三范式模型保留長(zhǎng)期歷史，需要根據(jù)主題細(xì)化主題區(qū)/集市區(qū)/沙盤區(qū)/增值產(chǎn)品區(qū)/歸檔區(qū)批量作業(yè)訪問(wèn)少量高級(jí)應(yīng)急人員進(jìn)行靈活查詢、挖掘預(yù)測(cè)I/O敏感，日終批量ETL（合并、拉鏈、關(guān)聯(lián)、匯總等等）以ELT形式通過(guò)HiveSQL執(zhí)行，復(fù)雜處理使用MR定制UDF與大數(shù)據(jù)區(qū)/貼源區(qū)構(gòu)成一個(gè)Hadoop集群（Hive）無(wú)單點(diǎn)故障，7×24小時(shí)+非工作日有限停機(jī)集市區(qū)/沙盤區(qū)/增值產(chǎn)品區(qū)/歸檔區(qū)批量作業(yè)訪問(wèn)少量高級(jí)應(yīng)急人員進(jìn)行靈活查詢、挖掘預(yù)測(cè)I/O敏感，日終批量ETL（連接、聚合、匯總等等）以ELT形式通過(guò)HiveSQL執(zhí)行，復(fù)雜處理使用MR定制UDF與大數(shù)據(jù)區(qū)/貼源區(qū)構(gòu)成一個(gè)Hadoop集群（Hive）無(wú)單點(diǎn)故障，7×24小時(shí)+非工作日有限停機(jī)逆范式寬表依賴于集市數(shù)據(jù)需求對(duì)主題數(shù)據(jù)預(yù)加工后的結(jié)果數(shù)據(jù)針對(duì)應(yīng)用需求進(jìn)行數(shù)據(jù)預(yù)連接、預(yù)匯總，為集市提供數(shù)據(jù)主題數(shù)據(jù)區(qū)—明細(xì)主題數(shù)據(jù)區(qū)—匯總大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)存儲(chǔ)層（續(xù)）按沙盤演練需求，準(zhǔn)備的明細(xì)或匯總應(yīng)急數(shù)據(jù)為數(shù)據(jù)科學(xué)家的挖掘預(yù)測(cè)操作提供數(shù)據(jù)服務(wù)數(shù)據(jù)內(nèi)容主要用途數(shù)據(jù)模型保留周期用戶

訪問(wèn)模式工作負(fù)載可用性要求模型依賴于沙盤演練需求在整個(gè)沙盤演練周期內(nèi)保留集市區(qū)/沙盤區(qū)/歸檔區(qū)批量作業(yè)訪問(wèn)少量高級(jí)應(yīng)急人員進(jìn)行靈活查詢、挖掘預(yù)測(cè)I/O敏感，終批量ETL（合并、拉鏈、關(guān)聯(lián)、匯總等等）以ELT形式通過(guò)HiveSQL執(zhí)行，復(fù)雜處理使用MR定制UDF獨(dú)立的Hadoop集群（HDFS）無(wú)單點(diǎn)故障，7×24小時(shí)+非工作日有限停機(jī)沙盤區(qū)/歸檔區(qū)批量作業(yè)訪問(wèn)決策人員、管理人員、應(yīng)急人員訪問(wèn)I/O敏感型，BI工具提交的報(bào)表、查詢、分析SQL命令和日終批量ETL（匯總、聚集等操作，以ELT形式通過(guò)SQL執(zhí)行）基于開(kāi)放平臺(tái)的完全無(wú)共享

MPP數(shù)據(jù)庫(kù)集群+內(nèi)存數(shù)據(jù)庫(kù)無(wú)單點(diǎn)故障，7×24小時(shí)+非工作日有限停機(jī)維度數(shù)據(jù)模型依賴應(yīng)急需求面向政府內(nèi)部管理分析類應(yīng)用需求的匯總數(shù)據(jù)為服務(wù)、運(yùn)營(yíng)等管理分析主題和數(shù)據(jù)增值產(chǎn)品提供數(shù)據(jù)服務(wù)沙盤演練數(shù)據(jù)區(qū)應(yīng)用集市數(shù)據(jù)區(qū)大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)存儲(chǔ)層（續(xù)）根據(jù)外部用戶的數(shù)據(jù)使用需求數(shù)據(jù)平臺(tái)加工計(jì)算的結(jié)果數(shù)據(jù)為部署在數(shù)據(jù)平臺(tái)上的政府內(nèi)外部增值產(chǎn)品提供數(shù)據(jù)支持?jǐn)?shù)據(jù)內(nèi)容主要用途數(shù)據(jù)模型保留周期用戶

訪問(wèn)模式工作負(fù)載可用性要求應(yīng)用模型，依賴于用戶應(yīng)急需求依賴于用戶應(yīng)急需求政府外部人員，如：服務(wù)通過(guò)自己部署在Paas平臺(tái)上的應(yīng)用訪問(wèn)I/O敏感型，BI工具提交的報(bào)表、查詢、分析SQL命令和日終批量ETL（匯總、聚集等操作，以ELT形式通過(guò)SQL執(zhí)行）獨(dú)立的Paas平臺(tái)，部署Hadoop集群無(wú)單點(diǎn)故障，7×24小時(shí)+非工作日有限停機(jī)政府應(yīng)急人員高時(shí)效、高并發(fā)、高可靠性的聯(lián)機(jī)交易類查詢CPU敏感，BI工具或應(yīng)急系統(tǒng)高并發(fā)、高時(shí)效查詢，以及準(zhǔn)實(shí)時(shí)連續(xù)ETL處理+SQL批量處理獨(dú)立的內(nèi)存數(shù)據(jù)庫(kù)集群無(wú)單點(diǎn)故障，365×24小時(shí)不停機(jī)貼源數(shù)據(jù)模型依賴用戶應(yīng)急需求面向應(yīng)用的應(yīng)急系統(tǒng)快照數(shù)據(jù)和一段時(shí)間的交易流水為實(shí)時(shí)獲準(zhǔn)實(shí)時(shí)分析應(yīng)用提供數(shù)據(jù)服務(wù)增值產(chǎn)品數(shù)據(jù)區(qū)實(shí)時(shí)數(shù)據(jù)區(qū)大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)存儲(chǔ)層數(shù)據(jù)流數(shù)據(jù)集成層操作型聚合數(shù)據(jù)臨時(shí)數(shù)據(jù)區(qū)實(shí)時(shí)數(shù)據(jù)區(qū)公共匯總數(shù)據(jù)主題明細(xì)數(shù)據(jù)結(jié)構(gòu)化數(shù)據(jù)非結(jié)構(gòu)化&半結(jié)構(gòu)化數(shù)據(jù)沙盤演練數(shù)據(jù)區(qū)實(shí)驗(yàn)室數(shù)據(jù)集市數(shù)據(jù)區(qū)POP自營(yíng)數(shù)據(jù)貼源數(shù)據(jù)區(qū)銀行應(yīng)急數(shù)據(jù)主題數(shù)據(jù)區(qū)政府管理集市財(cái)務(wù)管理集市運(yùn)營(yíng)管理集市風(fēng)險(xiǎn)管理集市……集市大物流系統(tǒng)數(shù)據(jù)供應(yīng)鏈系統(tǒng)數(shù)據(jù)財(cái)務(wù)審計(jì)數(shù)據(jù)財(cái)務(wù)研發(fā)數(shù)據(jù)操作型明細(xì)據(jù)歸檔數(shù)據(jù)區(qū)大數(shù)據(jù)區(qū)源系統(tǒng)數(shù)據(jù)文件貼源數(shù)據(jù)主題數(shù)據(jù)集市數(shù)據(jù)高時(shí)效數(shù)據(jù)大數(shù)據(jù)增值產(chǎn)品數(shù)據(jù)區(qū)大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)應(yīng)用層大數(shù)據(jù)平臺(tái)應(yīng)用針對(duì)公檢法查詢需求、內(nèi)外部審計(jì)需求和最終用戶的歷史交易查詢需求，以貼源存儲(chǔ)的歸檔數(shù)據(jù)為基礎(chǔ)，實(shí)現(xiàn)的查詢類應(yīng)用歷史查詢類應(yīng)用通常使用BI工具或自主開(kāi)發(fā)實(shí)現(xiàn)服務(wù)經(jīng)理等最終應(yīng)急人員針對(duì)當(dāng)前應(yīng)急的發(fā)生（如：用戶交易、用戶訪問(wèn)日志），進(jìn)行實(shí)時(shí)查詢、分析的應(yīng)用管理分析類應(yīng)用主要實(shí)現(xiàn)了政府服務(wù)管理、運(yùn)營(yíng)管理、財(cái)務(wù)管理、風(fēng)險(xiǎn)管理、監(jiān)管信息披露五大分析體系功能管理分析類應(yīng)用通常采用套裝軟件和BI工具（MicroStrategy等）實(shí)現(xiàn)應(yīng)急人員根據(jù)應(yīng)急需求或自己對(duì)應(yīng)急的理解，設(shè)計(jì)計(jì)算模型，準(zhǔn)備各類明細(xì)或匯總數(shù)據(jù)，導(dǎo)入模型運(yùn)算，驗(yàn)證應(yīng)急結(jié)果沙盤演練類應(yīng)用通常使用R語(yǔ)言在Hadoop分布式體系下實(shí)現(xiàn)政府?dāng)?shù)據(jù)科學(xué)家根據(jù)自己對(duì)應(yīng)急需求的理解或者對(duì)市場(chǎng)的判斷，設(shè)計(jì)并運(yùn)行模型，發(fā)掘數(shù)據(jù)價(jià)值，并封裝成商業(yè)產(chǎn)品數(shù)據(jù)增值產(chǎn)品通常采用R語(yǔ)言和BI工具實(shí)現(xiàn)，面向政府內(nèi)外部用戶管理分析類應(yīng)用1沙盤演練類應(yīng)用3歷史查詢類應(yīng)用4高時(shí)效類分析應(yīng)用5數(shù)據(jù)增值類產(chǎn)品2實(shí)時(shí)分析類應(yīng)用通常使用CEP、ESB等技術(shù)實(shí)現(xiàn)大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——平臺(tái)發(fā)展不同階段對(duì)應(yīng)應(yīng)用工作負(fù)載復(fù)雜度大數(shù)據(jù)平臺(tái)發(fā)展階段劃分操作為主階段什么正在發(fā)生？動(dòng)態(tài)數(shù)據(jù)倉(cāng)庫(kù)階段

讓正確的事情發(fā)生！分析為主階段為什么會(huì)發(fā)生報(bào)表為主階段發(fā)生了什么預(yù)測(cè)為主階段將會(huì)發(fā)生什么？批量隨機(jī)查詢數(shù)據(jù)分析持續(xù)更新加載/短查詢基于事件的動(dòng)態(tài)觸發(fā)數(shù)據(jù)量增長(zhǎng)用戶數(shù)增長(zhǎng)查詢復(fù)雜度增長(zhǎng)ETL處理復(fù)雜度增長(zhǎng)管理分析類應(yīng)用歷史查詢類應(yīng)用實(shí)時(shí)分析類應(yīng)用沙盤演練類應(yīng)用數(shù)據(jù)增值類產(chǎn)品大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——管理分析類應(yīng)用總賬分析資產(chǎn)負(fù)債表分析損益表分析現(xiàn)金流量表分析財(cái)務(wù)指標(biāo)分析盈利分析機(jī)構(gòu)貢獻(xiàn)度產(chǎn)品貢獻(xiàn)度服務(wù)細(xì)分貢獻(xiàn)度渠道績(jī)效資產(chǎn)負(fù)債分析主要指標(biāo)報(bào)告，如：凈利息收入、凈收入、凈現(xiàn)值、市場(chǎng)價(jià)值等頭寸報(bào)告現(xiàn)金流報(bào)告風(fēng)險(xiǎn)價(jià)值（VaR）計(jì)算財(cái)務(wù)預(yù)算與計(jì)劃財(cái)務(wù)預(yù)算財(cái)務(wù)計(jì)劃執(zhí)行監(jiān)控執(zhí)行過(guò)程分析年末財(cái)務(wù)計(jì)劃執(zhí)行分析預(yù)測(cè)與場(chǎng)景分析應(yīng)急規(guī)模預(yù)測(cè)收益預(yù)測(cè)……領(lǐng)導(dǎo)管理駕駛艙機(jī)構(gòu)績(jī)效考核服務(wù)經(jīng)理考核服務(wù)經(jīng)理工作量評(píng)估服務(wù)經(jīng)理服務(wù)服務(wù)收益評(píng)估產(chǎn)品績(jī)效考核應(yīng)急量考核供應(yīng)鏈銀行應(yīng)急人人貸應(yīng)急保理應(yīng)急基金應(yīng)急其它中間應(yīng)急……渠道成本與收益……風(fēng)險(xiǎn)監(jiān)控報(bào)表/信息披露流動(dòng)性報(bào)表利率敏感性報(bào)表資本充足率報(bào)表……市場(chǎng)風(fēng)險(xiǎn)市場(chǎng)風(fēng)險(xiǎn)暴露值流動(dòng)性管理、利率管理信用風(fēng)險(xiǎn)信用風(fēng)險(xiǎn)暴露值計(jì)算信用風(fēng)險(xiǎn)控制（貸前控制、貸中監(jiān)控、貸后分析）操作風(fēng)險(xiǎn)異常交易預(yù)警后督差錯(cuò)檢查……防欺詐/反洗錢定義欺詐交易模型可能性欺詐交易預(yù)警欺詐交易分布分析全面風(fēng)險(xiǎn)管理……目前監(jiān)管機(jī)構(gòu)沒(méi)有明確要求服務(wù)單一視圖政府服務(wù)信息管理個(gè)人服務(wù)信息管理同業(yè)服務(wù)信息管理目標(biāo)服務(wù)搜索重點(diǎn)服務(wù)關(guān)懷服務(wù)風(fēng)險(xiǎn)服務(wù)異動(dòng)服務(wù)服務(wù)細(xì)分個(gè)人服務(wù)細(xì)分政府服務(wù)細(xì)分服務(wù)行為分析服務(wù)輪廓分析產(chǎn)品交叉銷售分析百分比分析渠道偏好分析營(yíng)銷活動(dòng)管理營(yíng)銷活動(dòng)規(guī)劃營(yíng)銷活動(dòng)定義營(yíng)銷活動(dòng)執(zhí)行營(yíng)銷活動(dòng)蘋果營(yíng)銷活動(dòng)自動(dòng)化渠道接口與集成流程自動(dòng)化……服務(wù)管理運(yùn)營(yíng)管理財(cái)務(wù)管理風(fēng)險(xiǎn)管理監(jiān)管披露示例大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)訪問(wèn)層即席查詢：通過(guò)即席查詢工具或手工書寫SQL語(yǔ)句，完成應(yīng)急信息的即席查看多維分析：從多個(gè)維度靈活組合對(duì)目標(biāo)值進(jìn)行分析，常見(jiàn)功能包括上下鉆取、透明鉆取、旋轉(zhuǎn)、分頁(yè)、層鉆、跨維鉆取等主動(dòng)問(wèn)題發(fā)現(xiàn)：通過(guò)事件觸發(fā)、規(guī)則匹配等方式發(fā)現(xiàn)政府運(yùn)營(yíng)中的問(wèn)題，通過(guò)手機(jī)、郵件等方式報(bào)警決策層管理層應(yīng)急人員即席查詢靜態(tài)報(bào)表多維分析儀表盤挖掘預(yù)測(cè)儀表盤：通過(guò)儀表盤及其它展現(xiàn)方式對(duì)政府關(guān)鍵績(jī)效指標(biāo)進(jìn)行展示，為領(lǐng)導(dǎo)層決策提供直觀的數(shù)據(jù)支持靜態(tài)報(bào)表：按照預(yù)先定義格式，批處理報(bào)表，在線查詢報(bào)表等Office集成：將分析應(yīng)用嵌入到Office界面中，利用Office的方便、易用特性，降低用戶使用難度問(wèn)題發(fā)現(xiàn)Office集成Web服務(wù)挖掘預(yù)測(cè)：使用專業(yè)的軟件工具，通過(guò)數(shù)理統(tǒng)計(jì)等高級(jí)統(tǒng)計(jì)分析算法，分析結(jié)構(gòu)化、非結(jié)構(gòu)化數(shù)據(jù)，通過(guò)數(shù)據(jù)模型去挖掘隱藏在數(shù)據(jù)中的價(jià)值數(shù)據(jù)科學(xué)家應(yīng)急系統(tǒng)Web服務(wù)：將分析應(yīng)用的功能發(fā)布為Web服務(wù)，注冊(cè)在政府服務(wù)總線上，供其它應(yīng)急系統(tǒng)或分析應(yīng)用調(diào)用，獲取分析結(jié)果多種展現(xiàn)形式滿足各層級(jí)用戶及應(yīng)用系統(tǒng)使用需求大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)管控層銀行數(shù)據(jù)管控體系涵蓋組織架構(gòu)、評(píng)價(jià)與考核、管控流程、管控平臺(tái)四個(gè)域。數(shù)據(jù)標(biāo)準(zhǔn)管理數(shù)據(jù)質(zhì)量管理元數(shù)據(jù)管理工作流管理……組織數(shù)據(jù)與信息標(biāo)準(zhǔn)化委員會(huì)數(shù)據(jù)管理人數(shù)據(jù)所有人數(shù)據(jù)生產(chǎn)人數(shù)據(jù)使用人IT支持團(tuán)隊(duì)考核指標(biāo)責(zé)任評(píng)價(jià)標(biāo)準(zhǔn)執(zhí)行評(píng)價(jià)政策執(zhí)行評(píng)價(jià)評(píng)價(jià)標(biāo)準(zhǔn)數(shù)據(jù)類型數(shù)據(jù)格式應(yīng)急分類真實(shí)性定義及時(shí)性定義完整性定義技術(shù)元數(shù)據(jù)流程評(píng)價(jià)與考核流程考核指標(biāo)建立/維護(hù)流程標(biāo)準(zhǔn)建立/維護(hù)流程組織建立/維護(hù)流程評(píng)價(jià)與考核應(yīng)急含義一致性定義數(shù)據(jù)認(rèn)責(zé)平臺(tái)安全等級(jí)權(quán)限定義數(shù)據(jù)停用數(shù)據(jù)共享數(shù)據(jù)移動(dòng)數(shù)據(jù)存儲(chǔ)數(shù)據(jù)創(chuàng)建應(yīng)急元數(shù)據(jù)管理元數(shù)據(jù)數(shù)據(jù)全生命周期數(shù)據(jù)安全管理數(shù)據(jù)標(biāo)準(zhǔn)數(shù)據(jù)質(zhì)量元數(shù)據(jù)數(shù)據(jù)安全…………審計(jì)定義保留策略……大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)管控體系內(nèi)部運(yùn)轉(zhuǎn)機(jī)制管控組織數(shù)據(jù)管控委員會(huì)數(shù)據(jù)所有人數(shù)據(jù)認(rèn)責(zé)人IT支持……管控流程數(shù)據(jù)接入流程數(shù)據(jù)變更流程數(shù)據(jù)授權(quán)流程數(shù)據(jù)退役流程標(biāo)準(zhǔn)/政策制定流程評(píng)價(jià)考核流程……評(píng)價(jià)與考核標(biāo)準(zhǔn)（數(shù)據(jù)標(biāo)準(zhǔn)、質(zhì)量要求、安全要求）遵守標(biāo)準(zhǔn)所需要的政策政策與標(biāo)準(zhǔn)遵從考評(píng)定義……數(shù)據(jù)產(chǎn)生者數(shù)據(jù)使用者………流程支撐流程支撐制定管控平臺(tái)工具支撐明確了數(shù)據(jù)管控過(guò)程中的組織結(jié)構(gòu)、角色、職責(zé)等。管控組織除了要負(fù)責(zé)制定數(shù)據(jù)標(biāo)準(zhǔn)、質(zhì)量、安全等要求外，還需要負(fù)責(zé)制定管控的相關(guān)流程和評(píng)價(jià)考核指標(biāo)等內(nèi)容?？荚u(píng)制定通過(guò)建立一些定性或定量的數(shù)據(jù)管控評(píng)價(jià)考核指標(biāo)，去評(píng)估及考核數(shù)據(jù)相關(guān)責(zé)任人職責(zé)履行情況、數(shù)據(jù)管控標(biāo)準(zhǔn)及數(shù)據(jù)政策的執(zhí)行情況等。規(guī)范了數(shù)據(jù)管控過(guò)程中，各個(gè)環(huán)節(jié)日常任務(wù)處理的運(yùn)作模式，例如數(shù)據(jù)定義如何變更、數(shù)據(jù)沖突如何協(xié)調(diào)等。采用專門的技術(shù)平臺(tái)支撐管控流程的自動(dòng)化，發(fā)布管控組織制定的一些相關(guān)標(biāo)準(zhǔn)和規(guī)范，及時(shí)反映管控過(guò)程中存在的一些問(wèn)題等。管控綜合管理標(biāo)準(zhǔn)/規(guī)范管理流程管理考核儀表盤……元數(shù)據(jù)管理應(yīng)急元數(shù)據(jù)管理技術(shù)元數(shù)據(jù)管理管理元數(shù)據(jù)分析……數(shù)據(jù)質(zhì)量管理稽核規(guī)則管理數(shù)據(jù)稽核質(zhì)量報(bào)告……工具支撐組織架構(gòu)、評(píng)價(jià)與考核、管控流程、管控工具這四個(gè)域相互作用、相互支撐，提供對(duì)各信息系統(tǒng)數(shù)據(jù)的管控。大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)管控組織數(shù)據(jù)管控組織是數(shù)據(jù)管控體系中最重要的因素，它負(fù)責(zé)定義和管理應(yīng)急數(shù)據(jù)相關(guān)標(biāo)準(zhǔn)，制定遵尋標(biāo)準(zhǔn)所必須的政策，監(jiān)測(cè)正在進(jìn)行的數(shù)據(jù)管控行動(dòng)。數(shù)據(jù)管控組織是否有完整與合理的角色定義、是否有高層領(lǐng)導(dǎo)的參與，是整個(gè)數(shù)據(jù)管控的成敗的關(guān)鍵。典型的數(shù)據(jù)管控組織如下所示：數(shù)據(jù)管控負(fù)責(zé)單位崗位角色數(shù)據(jù)管控主導(dǎo)方信息管理委員會(huì)

數(shù)據(jù)標(biāo)準(zhǔn)管理員數(shù)據(jù)質(zhì)量管理員數(shù)據(jù)產(chǎn)生單位數(shù)據(jù)管控參與方應(yīng)急協(xié)調(diào)人數(shù)據(jù)分析員數(shù)據(jù)主管數(shù)據(jù)使用單位應(yīng)急協(xié)調(diào)人數(shù)據(jù)分析員數(shù)據(jù)主管數(shù)據(jù)擁有單位應(yīng)急協(xié)調(diào)人數(shù)據(jù)分析員數(shù)據(jù)主管數(shù)據(jù)管理單位運(yùn)維組織實(shí)施項(xiàng)目組數(shù)據(jù)安全管理員數(shù)據(jù)管控經(jīng)理元數(shù)據(jù)管理員大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)標(biāo)準(zhǔn)管理消除一數(shù)多義，提升數(shù)據(jù)的唯一性、一致性，將逐步形成的數(shù)據(jù)標(biāo)準(zhǔn)納入一個(gè)規(guī)范的管理流程中，進(jìn)行數(shù)據(jù)標(biāo)準(zhǔn)的更新、發(fā)布、使用監(jiān)督等工作。數(shù)據(jù)標(biāo)準(zhǔn)管理工作可以分為以下幾個(gè)部分：數(shù)據(jù)標(biāo)準(zhǔn)建立和維護(hù)、數(shù)據(jù)標(biāo)準(zhǔn)執(zhí)行、數(shù)據(jù)標(biāo)準(zhǔn)管理的考評(píng)。數(shù)據(jù)標(biāo)準(zhǔn)建立和維護(hù)數(shù)據(jù)分類數(shù)據(jù)結(jié)構(gòu)關(guān)鍵應(yīng)急對(duì)象關(guān)鍵代碼數(shù)據(jù)維度代碼映射服務(wù)類數(shù)據(jù)標(biāo)準(zhǔn)產(chǎn)品類數(shù)據(jù)標(biāo)準(zhǔn)。。。類數(shù)據(jù)標(biāo)準(zhǔn)數(shù)據(jù)標(biāo)準(zhǔn)執(zhí)行數(shù)據(jù)標(biāo)準(zhǔn)管理的考評(píng)定性考評(píng)定量考評(píng)數(shù)據(jù)標(biāo)準(zhǔn)分析報(bào)告數(shù)據(jù)標(biāo)準(zhǔn)理念推廣歸檔系統(tǒng)……ODS大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)質(zhì)量管理數(shù)據(jù)質(zhì)量管理框架藍(lán)圖如下，其中數(shù)據(jù)質(zhì)量提升是改進(jìn)數(shù)據(jù)質(zhì)量的手段和質(zhì)量考評(píng)的目的：數(shù)據(jù)質(zhì)量要求確認(rèn)，根據(jù)應(yīng)急要求制定和明確數(shù)據(jù)質(zhì)量要求，同時(shí)也需要符合數(shù)據(jù)標(biāo)準(zhǔn)的要求；數(shù)據(jù)質(zhì)量考評(píng)，對(duì)數(shù)據(jù)質(zhì)量的量化評(píng)價(jià)制定數(shù)據(jù)質(zhì)量問(wèn)題解決方案，根據(jù)數(shù)據(jù)質(zhì)量考評(píng)和日常工作中發(fā)現(xiàn)的數(shù)據(jù)質(zhì)量問(wèn)題，實(shí)施相應(yīng)的措施，提升數(shù)據(jù)質(zhì)量數(shù)據(jù)質(zhì)量要求應(yīng)急規(guī)則數(shù)據(jù)一致性要求數(shù)據(jù)完整性要求數(shù)據(jù)唯一性要求數(shù)據(jù)準(zhǔn)確性要求數(shù)據(jù)及時(shí)性要求數(shù)據(jù)質(zhì)量標(biāo)準(zhǔn)數(shù)據(jù)質(zhì)量驗(yàn)證規(guī)則數(shù)據(jù)質(zhì)量考核指標(biāo)數(shù)據(jù)質(zhì)量提升數(shù)據(jù)補(bǔ)錄手工修正自動(dòng)修正數(shù)據(jù)質(zhì)量考評(píng)數(shù)據(jù)質(zhì)量監(jiān)控不定期數(shù)據(jù)質(zhì)量檢查數(shù)據(jù)質(zhì)量分析報(bào)告大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——元數(shù)據(jù)管理應(yīng)急元數(shù)據(jù)：面向應(yīng)急人員，從應(yīng)急術(shù)語(yǔ)、應(yīng)急描述、應(yīng)急指標(biāo)和應(yīng)急規(guī)則等幾個(gè)方面對(duì)數(shù)據(jù)進(jìn)行描述管理元數(shù)據(jù)：面向數(shù)據(jù)管理人員，從運(yùn)維管理的角度描述數(shù)據(jù)處理、數(shù)據(jù)質(zhì)量和數(shù)據(jù)安全的狀態(tài)信息技術(shù)元數(shù)據(jù)：面向技術(shù)人員，從數(shù)據(jù)結(jié)構(gòu)和數(shù)據(jù)處理細(xì)節(jié)方面對(duì)數(shù)據(jù)進(jìn)行技術(shù)化描述大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)安全管理數(shù)據(jù)安全管理可分為數(shù)據(jù)安全分級(jí)管理和數(shù)據(jù)訪問(wèn)授權(quán)管理兩個(gè)部分：數(shù)據(jù)安全分級(jí)：根據(jù)應(yīng)急要求，制定一系列的數(shù)據(jù)安全分級(jí)標(biāo)準(zhǔn)和政策，為數(shù)據(jù)應(yīng)用以及數(shù)據(jù)管理中實(shí)施數(shù)據(jù)安全保護(hù)和訪問(wèn)提供數(shù)據(jù)安全控制的基礎(chǔ)。數(shù)據(jù)訪問(wèn)授權(quán)：數(shù)據(jù)訪問(wèn)授權(quán)的主要工作是根據(jù)數(shù)據(jù)安全分級(jí)標(biāo)準(zhǔn)，定義數(shù)據(jù)訪問(wèn)的授權(quán)方法及流程，建立基于數(shù)據(jù)安全分級(jí)的數(shù)據(jù)使用授權(quán)機(jī)制，實(shí)現(xiàn)數(shù)據(jù)訪問(wèn)和信息披露的安全。數(shù)據(jù)安全分級(jí)數(shù)據(jù)敏感度數(shù)據(jù)安全等級(jí)定義數(shù)據(jù)訪問(wèn)授權(quán)數(shù)據(jù)重要性數(shù)據(jù)使用需求數(shù)據(jù)使用者權(quán)責(zé)數(shù)據(jù)訪問(wèn)授權(quán)規(guī)則安全技術(shù)大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——高階工作流程應(yīng)急數(shù)據(jù)規(guī)劃管理高階流程數(shù)據(jù)認(rèn)責(zé)流程數(shù)據(jù)治理考核體系數(shù)據(jù)治理考核流程數(shù)據(jù)治理考核指標(biāo)體系數(shù)據(jù)標(biāo)準(zhǔn)管理管理高階流程數(shù)據(jù)標(biāo)準(zhǔn)建立流程數(shù)據(jù)標(biāo)準(zhǔn)維護(hù)流程數(shù)據(jù)質(zhì)量管理管理高階流程數(shù)據(jù)質(zhì)量要求確定流程元數(shù)據(jù)管理高階流程元數(shù)據(jù)變更流程數(shù)據(jù)安全管理管理高階流程數(shù)據(jù)安全審批流程數(shù)據(jù)認(rèn)責(zé)流程數(shù)據(jù)標(biāo)準(zhǔn)、質(zhì)量、元數(shù)據(jù)、安全管理流程協(xié)調(diào)會(huì)議考核流程大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)——數(shù)據(jù)管控平臺(tái)數(shù)據(jù)管控平臺(tái)從總體上來(lái)說(shuō)分為數(shù)據(jù)層、應(yīng)用層、展現(xiàn)層三個(gè)主要層面，以數(shù)據(jù)層的數(shù)據(jù)庫(kù)及相關(guān)基礎(chǔ)系統(tǒng)為主要信息來(lái)源，通過(guò)應(yīng)用層的運(yùn)算處理，以不同的形式，不同的功能在展現(xiàn)層提供用戶接口首頁(yè)標(biāo)準(zhǔn)管理主菜單指標(biāo)速遞待辦事項(xiàng)信息地圖標(biāo)準(zhǔn)瀏覽標(biāo)準(zhǔn)維護(hù)工作管理流程管理績(jī)效指標(biāo)系統(tǒng)管理用戶管理權(quán)限管理規(guī)范管理數(shù)據(jù)管控平臺(tái)統(tǒng)一用戶集成界面數(shù)據(jù)標(biāo)準(zhǔn)知識(shí)庫(kù)數(shù)據(jù)管控平臺(tái)知識(shí)庫(kù)……元數(shù)據(jù)管理元數(shù)據(jù)采集……元數(shù)據(jù)知識(shí)庫(kù)質(zhì)量管理規(guī)則配置……質(zhì)量稽核庫(kù)數(shù)據(jù)層應(yīng)用層展現(xiàn)層大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體產(chǎn)品框架非結(jié)構(gòu)化/半結(jié)構(gòu)化數(shù)據(jù)管理分析平臺(tái)（X86MPP集群）應(yīng)急系統(tǒng)結(jié)構(gòu)化數(shù)據(jù)基礎(chǔ)計(jì)算平臺(tái)（貼源數(shù)據(jù)區(qū)+主題數(shù)據(jù)區(qū)+大數(shù)據(jù)區(qū)）（Hadoop集群+Hive）數(shù)據(jù)交換平臺(tái)（自主開(kāi)發(fā)交換組件+NAS存儲(chǔ)）實(shí)時(shí)分析平臺(tái)（內(nèi)存數(shù)據(jù)庫(kù)）沙盤演練平臺(tái)（Hadoop集群）數(shù)據(jù)管控平臺(tái)FTPSFTP/HTTP/APICopyfromloalQueue云數(shù)據(jù)推送平臺(tái)增值產(chǎn)品平臺(tái)（Hadoop集群）歷史歸檔查詢平臺(tái)（Hadoop集群+Hive）Load（Hive）DistcpHQL+LoadDistcpDistcpHQL+LoadDistcpHQL+LoadSqoopSqoopSqoopMR流程調(diào)度平臺(tái)目錄大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)綜述1大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)2大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)演進(jìn)路線3大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)建設(shè)實(shí)施重點(diǎn)4大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)數(shù)據(jù)質(zhì)量管理平臺(tái)5大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)演進(jìn)路線以基礎(chǔ)平臺(tái)搭建為主，配合政府初期應(yīng)急開(kāi)展，應(yīng)用建設(shè)從服務(wù)信息管理、風(fēng)險(xiǎn)管理和運(yùn)營(yíng)管理三方面開(kāi)展搭建大數(shù)據(jù)處理平臺(tái)和實(shí)時(shí)分析平臺(tái)，應(yīng)用方面開(kāi)展實(shí)時(shí)分析和數(shù)據(jù)產(chǎn)品封裝開(kāi)展服務(wù)信息管理、信用風(fēng)險(xiǎn)評(píng)級(jí)和應(yīng)急統(tǒng)計(jì)分析三類應(yīng)用建設(shè)開(kāi)展貼源數(shù)據(jù)整合，初步建立政府級(jí)數(shù)據(jù)視圖，實(shí)現(xiàn)對(duì)管理分析類應(yīng)用和實(shí)時(shí)分析類應(yīng)用的支撐規(guī)劃數(shù)據(jù)管控藍(lán)圖，初步實(shí)施數(shù)據(jù)質(zhì)量和技術(shù)元數(shù)據(jù)管理2013年2014年——2015年2015年以后對(duì)政府價(jià)值的創(chuàng)造應(yīng)管技應(yīng)急分析框架基礎(chǔ)數(shù)據(jù)平臺(tái)數(shù)據(jù)管控體系應(yīng)技管全面開(kāi)展內(nèi)部管理分析、實(shí)時(shí)分析和沙盤演練應(yīng)用建設(shè)，初步展開(kāi)增值數(shù)據(jù)產(chǎn)品開(kāi)發(fā)工作全面開(kāi)展大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)建設(shè)，引入更多數(shù)據(jù)源，豐富并完善平臺(tái)數(shù)據(jù)區(qū)建設(shè)隨著應(yīng)用體系的搭建，完善數(shù)據(jù)質(zhì)量和元數(shù)據(jù)建設(shè)，開(kāi)展數(shù)據(jù)標(biāo)準(zhǔn)化工作應(yīng)技管深化分析體系，形成深度智能化應(yīng)急分析性能持續(xù)優(yōu)化、數(shù)據(jù)平臺(tái)持續(xù)完善、持續(xù)深化數(shù)據(jù)管控體系，形成政府政府級(jí)的數(shù)據(jù)管控體系應(yīng)技管一期2013.10當(dāng)前位置未來(lái)持續(xù)優(yōu)化提升階段第一階段第二階段第三階段政務(wù)數(shù)據(jù)開(kāi)放大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)演進(jìn)說(shuō)明——基礎(chǔ)數(shù)據(jù)平臺(tái)階段劃分建設(shè)內(nèi)容預(yù)期效果第一階段搭建數(shù)據(jù)交換平臺(tái)，部署NAS存儲(chǔ)集群，設(shè)計(jì)并實(shí)施數(shù)據(jù)庫(kù)交換組件和數(shù)據(jù)區(qū)交換組件搭建基礎(chǔ)計(jì)算平臺(tái)，設(shè)計(jì)并實(shí)施貼源數(shù)據(jù)區(qū)，以T+1頻率整合統(tǒng)計(jì)和銀行應(yīng)急數(shù)據(jù)搭建歷史歸檔查詢平臺(tái)，歸檔統(tǒng)計(jì)和銀行應(yīng)急數(shù)據(jù)文件搭建內(nèi)部管理分析應(yīng)用平臺(tái)，部署MPP集群和BI分析應(yīng)用環(huán)境搭建實(shí)時(shí)分析平臺(tái)，部署內(nèi)存數(shù)據(jù)庫(kù)和實(shí)時(shí)BI分析環(huán)境實(shí)現(xiàn)了數(shù)據(jù)平臺(tái)內(nèi)部個(gè)數(shù)據(jù)區(qū)之間、數(shù)據(jù)平臺(tái)與外部系統(tǒng)間的雙向數(shù)據(jù)傳輸實(shí)現(xiàn)了應(yīng)急數(shù)據(jù)按照貼源數(shù)據(jù)模整合實(shí)現(xiàn)了數(shù)據(jù)按照生命周期的歸檔管理實(shí)現(xiàn)了內(nèi)部管理分析環(huán)境搭建實(shí)現(xiàn)實(shí)時(shí)分析環(huán)境搭建第二階段數(shù)據(jù)交換平臺(tái)增強(qiáng)和優(yōu)化，包括：大數(shù)據(jù)交換組件設(shè)計(jì)實(shí)施基礎(chǔ)計(jì)算平臺(tái)增強(qiáng)，包括：引入更多的數(shù)據(jù)源，增強(qiáng)貼源數(shù)據(jù)區(qū)；設(shè)計(jì)并實(shí)施主題數(shù)據(jù)區(qū)，打破應(yīng)急條線整合數(shù)據(jù)；設(shè)計(jì)并實(shí)施大數(shù)據(jù)區(qū)，實(shí)現(xiàn)政府內(nèi)外部非結(jié)構(gòu)化、半結(jié)構(gòu)化數(shù)據(jù)加工、處理搭建沙盤演練平臺(tái)實(shí)時(shí)分析平臺(tái)增強(qiáng)和優(yōu)化，包括：引入更多應(yīng)用及相關(guān)數(shù)據(jù)源實(shí)現(xiàn)了基礎(chǔ)數(shù)據(jù)一次存儲(chǔ)、一次計(jì)算、多次使用建立了數(shù)據(jù)分析人員的實(shí)驗(yàn)環(huán)境，實(shí)現(xiàn)了用戶自主用數(shù)為實(shí)時(shí)、準(zhǔn)實(shí)時(shí)類分析用提供平臺(tái)為封裝、銷售數(shù)據(jù)類產(chǎn)品提供了平臺(tái)第三階段基礎(chǔ)計(jì)算平臺(tái)持續(xù)增強(qiáng)和優(yōu)化，引入更多的數(shù)據(jù)源、優(yōu)化模型和ETL處理搭建增值產(chǎn)品平臺(tái)，設(shè)計(jì)并實(shí)施增值產(chǎn)品數(shù)據(jù)區(qū)數(shù)據(jù)交換平臺(tái)、沙盤演練平臺(tái)、實(shí)時(shí)分析平臺(tái)進(jìn)一步增強(qiáng)和優(yōu)化數(shù)據(jù)平臺(tái)納入盡可能多的政府內(nèi)外部數(shù)據(jù)數(shù)據(jù)平臺(tái)以最優(yōu)的性能支持各類數(shù)據(jù)應(yīng)用大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)演進(jìn)說(shuō)明——數(shù)據(jù)管控階段劃分建設(shè)內(nèi)容預(yù)期效果第一階段分析和梳理當(dāng)前數(shù)據(jù)管理方面的成果和現(xiàn)狀，數(shù)據(jù)管控藍(lán)圖和路線圖設(shè)計(jì)，數(shù)據(jù)管控工作的組織、技術(shù)和流程高階設(shè)計(jì)梳理政府大數(shù)據(jù)平臺(tái)ETL流程各環(huán)節(jié)的數(shù)據(jù)質(zhì)量要求，指定數(shù)據(jù)質(zhì)量檢查規(guī)則、評(píng)價(jià)指標(biāo)、管控流程，并落地實(shí)施數(shù)據(jù)質(zhì)量管理系統(tǒng)梳理政府大數(shù)據(jù)平臺(tái)包含的技術(shù)元數(shù)據(jù)，如：數(shù)據(jù)字典、ETL任務(wù)、ETL流程、BI語(yǔ)義層等，制定相應(yīng)的管控流程并落地實(shí)施元數(shù)據(jù)管理系統(tǒng)同步大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)ETL建設(shè)，實(shí)現(xiàn)了數(shù)據(jù)質(zhì)量管理系統(tǒng)收集并整合了政府所有技術(shù)元數(shù)據(jù)，實(shí)現(xiàn)了數(shù)據(jù)生命周管理、血緣分析和影響分析等功能第二階段隨著更多數(shù)據(jù)源的引入，進(jìn)一步增強(qiáng)數(shù)據(jù)質(zhì)量管理系統(tǒng)隨著更多數(shù)據(jù)源的引入、更多平臺(tái)的建立，梳理并整合更多技術(shù)元數(shù)據(jù)梳理政府大數(shù)據(jù)平臺(tái)包含的應(yīng)急和管理類元數(shù)據(jù)，如應(yīng)急術(shù)語(yǔ)、應(yīng)急指標(biāo)、應(yīng)急定義等，制定相應(yīng)的管控流程并落地實(shí)施元數(shù)據(jù)管理系統(tǒng)開(kāi)展基礎(chǔ)類數(shù)據(jù)標(biāo)準(zhǔn)建設(shè)，基礎(chǔ)數(shù)據(jù)標(biāo)準(zhǔn)、管控流程、評(píng)價(jià)指標(biāo)、落地策略完善了數(shù)據(jù)質(zhì)量管理體系，實(shí)現(xiàn)了問(wèn)題及時(shí)發(fā)現(xiàn)、及時(shí)解決實(shí)現(xiàn)了政府全方位的元數(shù)據(jù)管理，打通了應(yīng)急和技術(shù)元數(shù)據(jù)關(guān)聯(lián)關(guān)系為政府?dāng)?shù)據(jù)平臺(tái)建設(shè)提供了基礎(chǔ)類數(shù)據(jù)標(biāo)準(zhǔn)第三階段數(shù)據(jù)質(zhì)量管理持續(xù)優(yōu)化并增強(qiáng)元數(shù)據(jù)管理持續(xù)優(yōu)化并增強(qiáng)基礎(chǔ)類數(shù)據(jù)標(biāo)準(zhǔn)逐步落地實(shí)施開(kāi)展指標(biāo)類數(shù)據(jù)標(biāo)準(zhǔn)建設(shè)基礎(chǔ)數(shù)據(jù)標(biāo)準(zhǔn)、管控流程、評(píng)價(jià)指標(biāo)、落地策略通過(guò)完善的數(shù)據(jù)管控體系，提升數(shù)據(jù)質(zhì)量、避免數(shù)據(jù)二義性、建立數(shù)據(jù)間的血緣關(guān)系，使得應(yīng)急人員可以方便、有效的使用數(shù)據(jù)，提高數(shù)據(jù)實(shí)用性大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)演進(jìn)說(shuō)明——應(yīng)用體系階段劃分建設(shè)內(nèi)容預(yù)期效果第一階段開(kāi)展服務(wù)信息管理建設(shè)，設(shè)計(jì)并實(shí)施個(gè)人服務(wù)和供應(yīng)商360°視圖、服務(wù)目標(biāo)搜索、服務(wù)細(xì)分等功能開(kāi)展風(fēng)險(xiǎn)管理建設(shè)，設(shè)計(jì)并實(shí)施供應(yīng)商和個(gè)人服務(wù)風(fēng)險(xiǎn)評(píng)級(jí)模型開(kāi)展運(yùn)營(yíng)管理建設(shè)，設(shè)計(jì)并實(shí)施服務(wù)民生等應(yīng)急條線應(yīng)急量統(tǒng)計(jì)分析初步梳理實(shí)時(shí)、準(zhǔn)實(shí)時(shí)分析需求，進(jìn)行高時(shí)效分析應(yīng)用試點(diǎn)可以方便的對(duì)個(gè)人服務(wù)和供應(yīng)商進(jìn)行分群，以及全方位信息查詢和展示供應(yīng)商和個(gè)人服務(wù)風(fēng)險(xiǎn)等級(jí)評(píng)定針對(duì)目前開(kāi)展的應(yīng)急進(jìn)行經(jīng)營(yíng)情況統(tǒng)計(jì)分析搭建并驗(yàn)證高時(shí)效應(yīng)用體系第二階段隨著政府應(yīng)急的展開(kāi)，逐步開(kāi)展內(nèi)部管理分析體系的建設(shè)，本階段重點(diǎn)為服務(wù)關(guān)系管理、運(yùn)營(yíng)管理等高級(jí)應(yīng)急人員利用沙盤演練平臺(tái)進(jìn)行數(shù)據(jù)挖掘、預(yù)測(cè)和科學(xué)試驗(yàn)進(jìn)一步樹(shù)立實(shí)時(shí)、準(zhǔn)實(shí)時(shí)分析需求，深化開(kāi)展高時(shí)效分析應(yīng)用開(kāi)始梳理市場(chǎng)上的數(shù)據(jù)應(yīng)用需求，嘗試封裝增值數(shù)據(jù)產(chǎn)品通過(guò)內(nèi)部管理分析體系的建設(shè)、滿足了政府日常經(jīng)營(yíng)管理、決策分析和進(jìn)一步提高價(jià)值創(chuàng)造力的需要實(shí)現(xiàn)了應(yīng)急人員自主用數(shù)實(shí)現(xiàn)了高時(shí)效分析，與應(yīng)急流程的整合實(shí)現(xiàn)了數(shù)據(jù)產(chǎn)品的封裝，提升了數(shù)據(jù)價(jià)值第三階段隨著政府應(yīng)急的展開(kāi)，進(jìn)一步完善內(nèi)部管理分析體系的建設(shè)，包括：市場(chǎng)風(fēng)險(xiǎn)管理、操作風(fēng)險(xiǎn)管理、財(cái)務(wù)管理等收集實(shí)時(shí)分析需求，進(jìn)一步增強(qiáng)并優(yōu)化實(shí)時(shí)分析應(yīng)用體系增值數(shù)據(jù)產(chǎn)品設(shè)計(jì)逐漸成為重點(diǎn)，數(shù)據(jù)分析師收集政府內(nèi)外部數(shù)據(jù)需求，設(shè)計(jì)更完善的增值數(shù)據(jù)產(chǎn)品通過(guò)內(nèi)部管理分析應(yīng)用體系建設(shè)進(jìn)一步實(shí)現(xiàn)數(shù)據(jù)共享、應(yīng)急協(xié)作與創(chuàng)新通過(guò)實(shí)時(shí)分析應(yīng)用體系建設(shè)，實(shí)現(xiàn)大數(shù)據(jù)平臺(tái)應(yīng)急系統(tǒng)的交互，與應(yīng)急流程的融合增值數(shù)據(jù)產(chǎn)品的開(kāi)發(fā)進(jìn)一步發(fā)揮的數(shù)據(jù)平臺(tái)的數(shù)據(jù)價(jià)值目錄大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)綜述1大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)總體架構(gòu)2大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)演進(jìn)路線3大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)建設(shè)實(shí)施重點(diǎn)4大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)數(shù)據(jù)質(zhì)量管理平臺(tái)5銀行大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)一期架構(gòu)基礎(chǔ)計(jì)算平臺(tái)：基于Hadoop集群構(gòu)建，按照應(yīng)急條線、以貼源數(shù)據(jù)模型存儲(chǔ)了應(yīng)急系統(tǒng)明細(xì)數(shù)據(jù)數(shù)據(jù)交換平臺(tái)：NAS集群實(shí)現(xiàn)了進(jìn)出數(shù)據(jù)平臺(tái)數(shù)據(jù)的暫存，應(yīng)急數(shù)據(jù)交換組件實(shí)現(xiàn)了應(yīng)急系統(tǒng)每日增量數(shù)據(jù)加載，數(shù)據(jù)區(qū)數(shù)據(jù)交換組件實(shí)現(xiàn)了基礎(chǔ)計(jì)算平臺(tái)與管理分析平臺(tái)間的數(shù)據(jù)交換流程調(diào)度平臺(tái)：自主開(kāi)發(fā)的流程調(diào)度引擎實(shí)現(xiàn)整個(gè)數(shù)據(jù)平臺(tái)的數(shù)據(jù)處理任務(wù)調(diào)度和運(yùn)行管理分析平臺(tái)：由X86分析型數(shù)據(jù)庫(kù)集群、BI軟件1J2EE應(yīng)用構(gòu)成，實(shí)現(xiàn)了面向應(yīng)用的數(shù)據(jù)加工、管理、分析服務(wù)實(shí)時(shí)分析平臺(tái)：由高檔X86服務(wù)器組成的集群，實(shí)現(xiàn)高時(shí)效、高并發(fā)的實(shí)時(shí)、準(zhǔn)實(shí)時(shí)類管理分析需求基于大數(shù)據(jù)平臺(tái)實(shí)現(xiàn)大數(shù)據(jù)產(chǎn)業(yè)的協(xié)同發(fā)展，以大數(shù)據(jù)運(yùn)營(yíng)的思路來(lái)落實(shí)信息惠民，拉動(dòng)信息消費(fèi)數(shù)據(jù)交換平臺(tái)—平臺(tái)邏輯架構(gòu)云數(shù)據(jù)推送平臺(tái)實(shí)現(xiàn)源系統(tǒng)數(shù)據(jù)一次獲取獲、按需分發(fā)。平臺(tái)采用GoldenGate、JBUS、Flume等技術(shù)獲取增量數(shù)據(jù)，存儲(chǔ)在MySQL集群平臺(tái)按照接口規(guī)范生成文件，LZO壓縮后，通過(guò)FTP傳輸?shù)絅AS指定目錄POP銀行大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)NAS集群物流財(cái)務(wù)供應(yīng)鏈人人貸……云數(shù)據(jù)推送平臺(tái)數(shù)據(jù)交換平臺(tái)由FTP服務(wù)器、加載服務(wù)器和NAS存儲(chǔ)組成，完成應(yīng)急系統(tǒng)數(shù)據(jù)的獲取、加載和歸檔FTP服務(wù)器：利用LVS構(gòu)成的FTP集群，接收云數(shù)據(jù)推送平臺(tái)處理后的數(shù)據(jù)，存儲(chǔ)在NAS集群的指定目錄加載服務(wù)器：部署ETL任務(wù)，實(shí)現(xiàn)指定目錄的文件到達(dá)監(jiān)控、文件級(jí)檢核、數(shù)據(jù)加載（HiveLoad）到臨時(shí)數(shù)據(jù)區(qū)，同時(shí)歸檔（copyfromlocal）歷史數(shù)據(jù)區(qū)NAS集群：按照日期和源系統(tǒng)劃分目錄，緩存數(shù)據(jù)，支持日常數(shù)據(jù)交換和ETL…………LVS集群：FTP服務(wù)器#3加載服務(wù)器#1文件加載文件歸檔文件到達(dá)事件監(jiān)控文件級(jí)檢核加載服務(wù)器#4文件加載文件歸檔文件到達(dá)事件監(jiān)控文件級(jí)檢核LVS集群：FTP服務(wù)器#1LVS集群：負(fù)載均衡服務(wù)器…………數(shù)據(jù)交換平臺(tái)—參與方責(zé)任劃分設(shè)計(jì)并實(shí)施云數(shù)據(jù)推送平臺(tái)；按照政府接口定義，抽取應(yīng)急系統(tǒng)數(shù)據(jù)；按照政府接口規(guī)范要求，按時(shí)生成數(shù)據(jù)文件、控制文件和DDL文件，并通過(guò)FTP傳輸?shù)絅AS指定目錄；若源系統(tǒng)有變更，則要求在變更前提供變更內(nèi)容說(shuō)明，升級(jí)平臺(tái)版本，根據(jù)政府更新接口規(guī)范提供數(shù)據(jù)；應(yīng)及時(shí)解決接口數(shù)據(jù)提供過(guò)程中出現(xiàn)的問(wèn)題；對(duì)于未盡事宜，應(yīng)同政府協(xié)商解決。云計(jì)算安裝部署政府大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)物理環(huán)境、應(yīng)用軟件，并進(jìn)行基礎(chǔ)設(shè)施運(yùn)維；在應(yīng)急系統(tǒng)數(shù)據(jù)庫(kù)服務(wù)器安裝并部署云數(shù)據(jù)推送平臺(tái)服務(wù)端，并提供數(shù)據(jù)庫(kù)訪問(wèn)。運(yùn)維單位制定接口規(guī)范，并提交給云數(shù)據(jù)推送項(xiàng)目組；梳理應(yīng)急系統(tǒng)數(shù)據(jù)字典，制定接口定義，并提交給云數(shù)據(jù)推送項(xiàng)目組；開(kāi)發(fā)數(shù)據(jù)交換組件，從NAS獲取數(shù)據(jù)并處理；對(duì)接收的數(shù)據(jù)提供驗(yàn)證功能，并返回驗(yàn)證結(jié)果到云數(shù)據(jù)推送平臺(tái)；根據(jù)云數(shù)據(jù)推送平臺(tái)提交的變更通知修改接口定義和數(shù)據(jù)交換組件；對(duì)于未盡事宜，應(yīng)同云計(jì)算方協(xié)商解決。政府針對(duì)政府需求，指定接口人、提供文檔；應(yīng)急系統(tǒng)因版本升級(jí)等原因?qū)е聰?shù)據(jù)模型發(fā)生變化，及時(shí)通知云數(shù)據(jù)推送平臺(tái)接口責(zé)任人。研發(fā)單位數(shù)據(jù)交換平臺(tái)—應(yīng)急系統(tǒng)數(shù)據(jù)抽取實(shí)現(xiàn)方式每張?jiān)聪到y(tǒng)表都對(duì)應(yīng)一個(gè)獨(dú)立的數(shù)據(jù)接口數(shù)據(jù)接口由數(shù)據(jù)文件和控制文件構(gòu)成（文件命名和具體內(nèi)容參見(jiàn)接口規(guī)范）文件統(tǒng)一采用UTF-8編碼，統(tǒng)一存在在JSS指定目錄（參見(jiàn)接口規(guī)范）如果在抽取周期內(nèi)沒(méi)有數(shù)據(jù)變更，云數(shù)據(jù)推送平臺(tái)應(yīng)該生成空的數(shù)據(jù)接口傳輸方式FTP傳輸，利用LVS技術(shù)構(gòu)建FTP集群，接收數(shù)據(jù)傳輸頻率云數(shù)據(jù)推送平臺(tái)通常按照T+1頻率為政府提供數(shù)據(jù)，具體頻率要求參見(jiàn)接口定義接口處理模式云數(shù)據(jù)推送平臺(tái)根據(jù)不同接口單元定義，準(zhǔn)備數(shù)據(jù)、生成接口數(shù)據(jù)文件；云數(shù)據(jù)推送平臺(tái)根據(jù)接口規(guī)范生成相應(yīng)的接口控制文件；云數(shù)據(jù)推送平臺(tái)壓縮數(shù)據(jù)（LZO），并通過(guò)FTP將數(shù)據(jù)接口存入NAS指定目錄；銀行大數(shù)據(jù)統(tǒng)計(jì)平臺(tái)部署在不同加載服務(wù)器上的數(shù)據(jù)交換組件完成：定時(shí)輪詢NAS指定目錄，獲取接口（包括數(shù)據(jù)文件、控制文件和DDL文件）；執(zhí)行文件級(jí)檢核；通過(guò)檢核后，

將數(shù)據(jù)文件和控制文件移動(dòng)到NAS集群指定目錄，觸發(fā)后續(xù)ETL處理；在TaskAutomation調(diào)度下執(zhí)行數(shù)據(jù)加載和數(shù)據(jù)歸檔任務(wù)。數(shù)據(jù)交換平臺(tái)—平臺(tái)部署架構(gòu)數(shù)據(jù)交換平臺(tái)由8臺(tái)X86服務(wù)器和一個(gè)NAS集群構(gòu)成X86服務(wù)器按照功能分為2組，一組實(shí)現(xiàn)數(shù)據(jù)獲取，一組實(shí)現(xiàn)數(shù)據(jù)加載和歸檔NAS集群作為公共數(shù)據(jù)區(qū)，由8臺(tái)服務(wù)器共享訪問(wèn)（讀寫）PythonruntimePythonJSSModuleFTPRedhatLinuxLVS服務(wù)器4HDFSClientHive加載任務(wù)歸檔任務(wù)RedhatLinux加載服務(wù)器1HDFSClientHive加載任務(wù)歸檔任務(wù)RedhatLinux加載服務(wù)器4LANPythonruntimePythonJSSModuleLVSRedhatLinuxLVS服務(wù)器1…………NAS集群負(fù)責(zé)源系統(tǒng)數(shù)據(jù)文件加載和歸檔每臺(tái)服務(wù)器負(fù)責(zé)多個(gè)源系統(tǒng)支持按需擴(kuò)展/減少服務(wù)器LVS1負(fù)載均衡其它LVS服務(wù)器負(fù)責(zé)接收接口文件，寫入NAS集群目錄支持按需擴(kuò)展/減少服務(wù)器部署數(shù)據(jù)交換平臺(tái)和流程調(diào)度平臺(tái)程序，各服務(wù)器通過(guò)文件鏈接使用按日期和源系統(tǒng)建立數(shù)據(jù)目錄，緩存每日接口文件，供交換平臺(tái)訪問(wèn)流程調(diào)度平臺(tái)—平臺(tái)邏輯架構(gòu)TaskAutomation驅(qū)動(dòng)各個(gè)平臺(tái)、實(shí)現(xiàn)從數(shù)據(jù)存入NAS平臺(tái)到數(shù)據(jù)集市生成整個(gè)處理過(guò)程的工作流管理數(shù)據(jù)交換平臺(tái)負(fù)責(zé)數(shù)據(jù)抽取、文件級(jí)質(zhì)量檢核、調(diào)用HiveLoad加載數(shù)據(jù)基礎(chǔ)計(jì)算平臺(tái)使用HiveSQL實(shí)現(xiàn)貼源數(shù)據(jù)整合、公共匯總數(shù)據(jù)處理管理分析平臺(tái)使用關(guān)系型數(shù)據(jù)庫(kù)的SQL實(shí)現(xiàn)集市數(shù)據(jù)的處理歷史歸檔查詢平臺(tái)負(fù)責(zé)數(shù)據(jù)文件和Hadoop集群數(shù)據(jù)歸檔流程調(diào)度平臺(tái)—流程調(diào)度元數(shù)據(jù)TaskAutomation的元數(shù)據(jù)統(tǒng)一存儲(chǔ)在MySQL數(shù)據(jù)庫(kù)中任務(wù)定義，包括任務(wù)名稱、描述、運(yùn)行服務(wù)器、運(yùn)行狀態(tài)、運(yùn)行時(shí)間、相關(guān)數(shù)據(jù)源等屬性任務(wù)依賴，任務(wù)的執(zhí)行依賴與其他上游任務(wù)任務(wù)觸發(fā)，任務(wù)成功執(zhí)行后觸發(fā)的下游任務(wù)任務(wù)組，一組有相互關(guān)系的任務(wù)，全部完成后會(huì)觸發(fā)頭任務(wù)運(yùn)行……元數(shù)據(jù)由所有流程調(diào)度服務(wù)器共享流程調(diào)度平臺(tái)—任務(wù)調(diào)度引擎通過(guò)偵測(cè)器偵測(cè)事件，按照任務(wù)定義和任務(wù)依賴關(guān)系觸發(fā)任務(wù)運(yùn)行，觸發(fā)方式把主要包括自動(dòng)觸發(fā)定時(shí)觸發(fā)，按照預(yù)先定義的時(shí)間周期，如每日、每周、每月，或任何有規(guī)律的時(shí)間間隔執(zhí)行任務(wù)。目前可明確的任務(wù)主要是每月執(zhí)行的基礎(chǔ)計(jì)算平臺(tái)、管理分析平臺(tái)數(shù)據(jù)歸檔。事件觸發(fā)，按照特定的事件觸發(fā)、執(zhí)行任務(wù)。如：數(shù)據(jù)文件到達(dá)指定目錄，會(huì)觸發(fā)數(shù)據(jù)加載任務(wù)。同樣，流程失敗也會(huì)觸發(fā)新的job，如錯(cuò)誤處理、例外處理等。手動(dòng)觸發(fā)系統(tǒng)管理員可以使用TaskAutomation提供的界面或命令接口執(zhí)行一些job。這些job的功能通常包括對(duì)特定范圍的數(shù)據(jù)進(jìn)行審計(jì)與驗(yàn)證、對(duì)特定范圍的數(shù)據(jù)進(jìn)行針對(duì)性很強(qiáng)的數(shù)據(jù)清洗、或者是對(duì)某流程失敗后的修復(fù)。每個(gè)要執(zhí)行的任務(wù)均由任務(wù)執(zhí)行代理啟動(dòng)運(yùn)行流程調(diào)度平臺(tái)—集群可靠性和可擴(kuò)展性高可用性流程調(diào)度所需的元數(shù)據(jù)信息統(tǒng)一保存在MySQL數(shù)據(jù)庫(kù)中，集群中任何服務(wù)器發(fā)生故障不會(huì)破壞元數(shù)據(jù)完整性。服務(wù)器故障時(shí)，只需要修改ET