數(shù)據(jù)質(zhì)量管理辦法

數(shù)據(jù)質(zhì)量管理辦法1范圍本標(biāo)準(zhǔn)規(guī)定了XX公司數(shù)據(jù)質(zhì)量管理內(nèi)容、管理機制和工作流程。本標(biāo)準(zhǔn)適用于XX所有項目整個生命周期的數(shù)據(jù)質(zhì)量管理，非項目可參照使用。2術(shù)語和定義下列術(shù)語和定義適用于本文件數(shù)據(jù)質(zhì)量dataquality客觀反映業(yè)務(wù)數(shù)據(jù)固有特性的程度。注：“固有的”

(其反義是“賦予的”)就是指在某事或某物中本來就有的，尤其是永久的特性。數(shù)據(jù)質(zhì)量管理

dataqualitymanagement對數(shù)據(jù)從計劃、獲取、存儲、共享、維護、應(yīng)用、消亡生命周期的每個階段里可能引發(fā)的各類數(shù)據(jù)質(zhì)量問題，進行識別、監(jiān)控、預(yù)警、處理等一系列管理活動，并通過改善和提高管理水平使得數(shù)據(jù)質(zhì)量獲得進一步提高。技術(shù)評估

technologyassessment科技主管部門對已審批的業(yè)務(wù)需求，組織相關(guān)部門和人員進行技術(shù)可行性評估，并作出評估結(jié)論的活動。數(shù)據(jù)質(zhì)量監(jiān)控

dataqualitycontrol獲取業(yè)務(wù)各環(huán)節(jié)的數(shù)據(jù)質(zhì)量信息，結(jié)合有關(guān)檢查規(guī)則和采集規(guī)則，對數(shù)據(jù)質(zhì)量情況進行診斷，并及時向數(shù)據(jù)質(zhì)量管理實施部門報告的活動。數(shù)據(jù)質(zhì)量評估

dataqualityassessment由數(shù)據(jù)質(zhì)量管理實施部門根據(jù)需要發(fā)起，得到評估結(jié)果并作為依據(jù)評估指標(biāo)和評估方法進行評價，數(shù)據(jù)質(zhì)量改進的參考和依據(jù)。數(shù)據(jù)質(zhì)量報告

dataqualityreport對數(shù)據(jù)質(zhì)量日常監(jiān)控以及質(zhì)量評估等過程累積的各種信息進行匯總、梳理、統(tǒng)計和分析，形成統(tǒng)計報告的過程。數(shù)據(jù)質(zhì)量知識

dataqualityknowledge在數(shù)據(jù)質(zhì)量管理活動中獲取的有關(guān)數(shù)據(jù)質(zhì)量問題處理的經(jīng)驗和成果。3數(shù)據(jù)質(zhì)量管理內(nèi)容與評價原則3.1管理目標(biāo)與內(nèi)容數(shù)據(jù)質(zhì)量管理目標(biāo)數(shù)據(jù)質(zhì)量分為絕對質(zhì)量和過程質(zhì)量，絕對質(zhì)量是指業(yè)務(wù)數(shù)據(jù)的真實性、完備性和自洽性，過程質(zhì)量指業(yè)務(wù)數(shù)據(jù)的使用質(zhì)量、存儲質(zhì)量和傳輸質(zhì)量。數(shù)據(jù)質(zhì)量管理目標(biāo)包括：a)建立穩(wěn)定運行的數(shù)據(jù)質(zhì)量測控體系，及時發(fā)現(xiàn)并改正數(shù)據(jù)質(zhì)量問題；b)建立可靠的數(shù)據(jù)質(zhì)量評估流程，判斷改進趨勢,衡量數(shù)據(jù)質(zhì)量改進效果；c)建立一套改進、提升數(shù)據(jù)質(zhì)量的管理機制。數(shù)據(jù)質(zhì)量管理內(nèi)容數(shù)據(jù)質(zhì)量管理內(nèi)容包括：a)制定、修訂數(shù)據(jù)質(zhì)量管理遵循的標(biāo)準(zhǔn)；b)確立、修訂數(shù)據(jù)質(zhì)量管理工作流程、優(yōu)化部門協(xié)同機制；c)制定數(shù)據(jù)質(zhì)量管理決策機制；d)監(jiān)督日常數(shù)據(jù)質(zhì)量管理的有序進行；e)數(shù)據(jù)質(zhì)量的核查。數(shù)據(jù)質(zhì)量影響要素數(shù)據(jù)質(zhì)量影響要素包括：a)信息類要素：由于對數(shù)據(jù)本身的描述、理解及其度量標(biāo)準(zhǔn)偏差而造成數(shù)據(jù)質(zhì)量問題的影響要素；b)技術(shù)類要素：由于具體數(shù)據(jù)處理的各技術(shù)環(huán)節(jié)異常而造成數(shù)據(jù)質(zhì)量問題的影響要素，技術(shù)實現(xiàn)上的某種缺陷是其產(chǎn)生的主要原因；c)流程類要素：由于系統(tǒng)作業(yè)流程和人工操作流程設(shè)置不當(dāng)造成數(shù)據(jù)質(zhì)量問題的影響要素；d)管理類要素：指由于人員素質(zhì)及管理機制方面的原因造成數(shù)據(jù)質(zhì)量問題的影響要素。3.2數(shù)據(jù)質(zhì)量評價原則數(shù)據(jù)質(zhì)量評價原則包括：a)完整性：數(shù)據(jù)是充分的，任何有關(guān)操作的數(shù)據(jù)都沒有被遺漏。主要包括實體不缺失、屬性不缺失、記錄不缺失和字段值不缺失；b)唯一性：數(shù)據(jù)值被約束成一組獨特的條目，每個值都是唯一的。主要包括主鍵唯一和候選鍵唯一；c)準(zhǔn)確性：數(shù)據(jù)必須真實準(zhǔn)確的反映實際發(fā)生的業(yè)務(wù)；d)精確性：計量誤差、度量單位等方面的精確度應(yīng)符合業(yè)務(wù)需求；e)一致性：描述數(shù)據(jù)結(jié)構(gòu)、數(shù)據(jù)值和他們的相互關(guān)系符合邏輯規(guī)則的程度。如統(tǒng)一數(shù)據(jù)來源、統(tǒng)一存儲和統(tǒng)一數(shù)據(jù)口徑；f)及時性：數(shù)據(jù)更新、修改和提取等的快速性程度，應(yīng)符合業(yè)務(wù)需求；g)合規(guī)性：數(shù)據(jù)格式、類型、域值和業(yè)務(wù)規(guī)則的有效性。4相關(guān)部門職責(zé)4.1概述相關(guān)部門包括以下部門：業(yè)務(wù)主管部門、技術(shù)主管部門、技術(shù)承辦單位和數(shù)據(jù)質(zhì)量管理實施部門。4.2業(yè)務(wù)主管部門職責(zé)主要職責(zé)包括：a)對于擬開發(fā)的應(yīng)用項目，對相關(guān)業(yè)務(wù)提出數(shù)據(jù)質(zhì)量約束性需求；b)對于在開發(fā)的應(yīng)用項目，從業(yè)務(wù)角度提供數(shù)據(jù)質(zhì)量檢測方法和驗收標(biāo)準(zhǔn)；c)對于已運行的應(yīng)用項目，根據(jù)應(yīng)用狀況提出數(shù)據(jù)質(zhì)量問題和改進建議；d)受理與本部門業(yè)務(wù)相關(guān)的數(shù)據(jù)質(zhì)量管理協(xié)同通告，并作出處理反饋。4.3技術(shù)主管部門職責(zé)技術(shù)主管部門是數(shù)據(jù)質(zhì)量的主管部門，主要職責(zé)包括：a)組織制定、頒布數(shù)據(jù)質(zhì)量管理、保障、控制和維護流程；b)組織制定、頒布數(shù)據(jù)質(zhì)量管理和技術(shù)相關(guān)標(biāo)準(zhǔn)；c)監(jiān)督數(shù)據(jù)質(zhì)量問題處理的整個流程并對數(shù)據(jù)質(zhì)量的監(jiān)控結(jié)果進行評估；d)組織、協(xié)調(diào)相關(guān)部門，解決數(shù)據(jù)質(zhì)量管理活動中的異常問題；e)受理、審批數(shù)據(jù)質(zhì)量需求變更；f)針對已處理的數(shù)據(jù)質(zhì)量問題發(fā)起處理效能評估；g)數(shù)據(jù)質(zhì)量管理其他有關(guān)事項。4.3技術(shù)承辦單位職責(zé)主要職責(zé)包括：a)協(xié)助數(shù)據(jù)質(zhì)量管理實施部門解決業(yè)務(wù)應(yīng)用系統(tǒng)數(shù)據(jù)質(zhì)量問題；b)協(xié)助業(yè)務(wù)主管部門提出數(shù)據(jù)質(zhì)量管理的業(yè)務(wù)需求；c)協(xié)助數(shù)據(jù)質(zhì)量管理實施部門處理數(shù)據(jù)質(zhì)量需求變更評估。4.4數(shù)據(jù)質(zhì)量管理實施部門職責(zé)受技術(shù)主管部門委托，負責(zé)數(shù)據(jù)質(zhì)量管理的具體實施。主要職責(zé)包括：a)監(jiān)控數(shù)據(jù)質(zhì)量問題；b)提出數(shù)據(jù)質(zhì)量問題改進建議；c)依據(jù)數(shù)據(jù)質(zhì)量管理處理流程，負責(zé)數(shù)據(jù)質(zhì)量管理系統(tǒng)運維；d)處理數(shù)據(jù)質(zhì)量監(jiān)控系統(tǒng)告警，并向相關(guān)部門通告數(shù)據(jù)質(zhì)量問題；e)經(jīng)主管部門授權(quán)后，負責(zé)組織解決相關(guān)的數(shù)據(jù)質(zhì)量問題；f)組織處理數(shù)據(jù)質(zhì)量需求變更的評估；g)形成報告并報技術(shù)主管部門；h)協(xié)助業(yè)務(wù)主管部門提出數(shù)據(jù)質(zhì)量管理的業(yè)務(wù)需求。5數(shù)據(jù)質(zhì)量管理工作流程工作流程圖，數(shù)據(jù)質(zhì)量管理流程工作流程見圖1。圖1：數(shù)據(jù)質(zhì)量管理流程工作流程

注：圖中虛線表示為可選流程。

關(guān)鍵環(huán)節(jié)說明業(yè)務(wù)需求提出業(yè)務(wù)主管部門依據(jù)業(yè)務(wù)工作的實際情況，向技術(shù)主管部門提出相關(guān)業(yè)務(wù)系統(tǒng)的業(yè)務(wù)需求。需求提出過程中，技術(shù)承辦部門和數(shù)據(jù)管理實施部門應(yīng)協(xié)助業(yè)務(wù)主管部門，就特定業(yè)務(wù)應(yīng)用系統(tǒng)，歸納并提出業(yè)務(wù)需求。業(yè)務(wù)需求審批技術(shù)主管部門在受理業(yè)務(wù)主管部門提交的業(yè)務(wù)需要后，應(yīng)對業(yè)務(wù)需求在規(guī)定時限內(nèi)進行審批，并將審批意見告知業(yè)務(wù)需求提出部門。技術(shù)評估對于審批通過的業(yè)務(wù)需求，數(shù)據(jù)質(zhì)量管理實施部門應(yīng)在規(guī)定時限內(nèi)，組織相關(guān)部門和人員，對業(yè)務(wù)需求進行技術(shù)評估，并給出評估結(jié)論。技術(shù)承辦單位，應(yīng)協(xié)助科技主管部門開展業(yè)務(wù)需求的技術(shù)評估。系統(tǒng)設(shè)計開發(fā)技術(shù)承辦單位對已完成技術(shù)評估的業(yè)務(wù)需求，應(yīng)依據(jù)業(yè)務(wù)需求組織并實施應(yīng)用系統(tǒng)的設(shè)計與開發(fā)。測試驗收對于技術(shù)承辦單位已完成開發(fā)的應(yīng)用系統(tǒng)，其業(yè)務(wù)主管部門應(yīng)在規(guī)定時限內(nèi)組織測試與驗收。技術(shù)承辦單位和數(shù)據(jù)質(zhì)量管理實施部門應(yīng)協(xié)助業(yè)務(wù)主管部門，完成測試與驗收。系統(tǒng)上線運維對業(yè)務(wù)主管部門已驗收的應(yīng)用系統(tǒng)，數(shù)據(jù)質(zhì)量管理實施部門應(yīng)組織實施應(yīng)用系統(tǒng)的上線和日常運維工作。技術(shù)承辦單位應(yīng)協(xié)助、配合數(shù)據(jù)質(zhì)量管理實施部門開展應(yīng)用系統(tǒng)的上線工作。數(shù)據(jù)質(zhì)量監(jiān)控對已上線的應(yīng)用系統(tǒng)，數(shù)據(jù)質(zhì)量管理實施部門應(yīng)利用數(shù)據(jù)質(zhì)量管理系統(tǒng)，開展數(shù)據(jù)質(zhì)量監(jiān)控，并定期提供數(shù)據(jù)質(zhì)量監(jiān)控報告。告警分析與問題通告在數(shù)據(jù)質(zhì)量監(jiān)控過程中產(chǎn)生的告警信息，數(shù)據(jù)質(zhì)量管理實施部門應(yīng)在規(guī)定的時限內(nèi)開展告警信息分析，并對告警產(chǎn)生的原因作出判定。對于一般性告警信息，數(shù)據(jù)質(zhì)量管理實施部門可直接按照操作規(guī)程給予處理，如：系統(tǒng)斷電等原因產(chǎn)生的告警；對于嚴(yán)重告警信息，應(yīng)將告警產(chǎn)生的問題通告技術(shù)主管部門和相關(guān)業(yè)務(wù)部門。注：一般性告警是指系統(tǒng)運行環(huán)境異常或操作失誤等導(dǎo)致的、具有偶發(fā)性、在短期內(nèi)恢復(fù)且不產(chǎn)生嚴(yán)重后果的數(shù)據(jù)質(zhì)量監(jiān)控告警。問題處理授權(quán)技術(shù)主管部門在受理數(shù)據(jù)質(zhì)量管理實施部門通告的數(shù)據(jù)質(zhì)量問題后，應(yīng)組織協(xié)調(diào)問題所涉及的相關(guān)部門，協(xié)同確認并授權(quán)數(shù)據(jù)質(zhì)量管理實施部門解決問題。問題解決數(shù)據(jù)質(zhì)量管理實施部門在獲得授權(quán)后，應(yīng)組織開展解決問題的工作并予以完成。技術(shù)承辦單位應(yīng)協(xié)助數(shù)據(jù)質(zhì)量管理實施部門解決問題的工作。處理結(jié)果確認對已處理的數(shù)據(jù)質(zhì)量問題，數(shù)據(jù)質(zhì)量管理實施部門應(yīng)將問題處理結(jié)果在規(guī)定時限內(nèi)通告技術(shù)主管部門、業(yè)務(wù)主管部門和技術(shù)承辦單位。處理結(jié)果反饋各相關(guān)部門收到數(shù)據(jù)質(zhì)量問題處理結(jié)果后，應(yīng)在規(guī)定時限內(nèi)對問題處理結(jié)果給予確認，并將確認結(jié)果和建議反饋數(shù)據(jù)質(zhì)量管理實施部門和其他相關(guān)部門。數(shù)據(jù)質(zhì)量管理報告數(shù)據(jù)質(zhì)量管理實施部門應(yīng)定期編寫數(shù)據(jù)質(zhì)量監(jiān)控報告，歸檔備查。數(shù)據(jù)質(zhì)量問題處理解決后應(yīng)編寫數(shù)據(jù)質(zhì)量問題分析報告，報送相關(guān)部門。對數(shù)據(jù)質(zhì)量監(jiān)控報告和問題分析報告進行總結(jié)，編寫數(shù)據(jù)質(zhì)量定期總結(jié)報告，報送相關(guān)部門。6

數(shù)據(jù)管理管理活動

數(shù)據(jù)質(zhì)量管理活動主要如下：數(shù)據(jù)資源變更管理數(shù)據(jù)資源變更會引起系統(tǒng)內(nèi)部和系統(tǒng)外部的數(shù)據(jù)質(zhì)量問題。數(shù)據(jù)資源變更管理主要是利用元數(shù)據(jù)管理的分析功能對系統(tǒng)變更信息進行影響評估，并將變更信息及時告知數(shù)據(jù)質(zhì)量管理相關(guān)部門，協(xié)同各部門完成數(shù)據(jù)資源變更處理工作，避免變更引起的數(shù)據(jù)質(zhì)量問題。數(shù)據(jù)質(zhì)量監(jiān)控數(shù)據(jù)質(zhì)量管理業(yè)務(wù)應(yīng)在HG業(yè)務(wù)系統(tǒng)數(shù)據(jù)處理相關(guān)環(huán)節(jié)采集數(shù)據(jù)，供數(shù)據(jù)質(zhì)量監(jiān)控分析使用并存檔。數(shù)據(jù)質(zhì)量分析根據(jù)監(jiān)控數(shù)據(jù)對象性質(zhì)的不同，采用多種定性或定量預(yù)警分析方法進行數(shù)據(jù)質(zhì)量評價。告警管理根據(jù)告警所反映的數(shù)據(jù)質(zhì)量現(xiàn)象的嚴(yán)重程度、影響范圍，設(shè)定嚴(yán)重性程度不同的告警級別。每一級別告警信息的發(fā)送都應(yīng)具備多種送達手段。從數(shù)據(jù)采集、預(yù)警分析到告警生成，每個階段都需進行程序化管理。數(shù)據(jù)質(zhì)量問題處理指對數(shù)據(jù)質(zhì)量管理中產(chǎn)生的各類問題進行分析，并根據(jù)分析結(jié)果，方法進行處理，選擇適當(dāng)?shù)姆绞?、并根?jù)處理效果歸納總結(jié)的處理過程。關(guān)鍵環(huán)節(jié)包括：問題發(fā)現(xiàn)、問題分析、問題通告、問題解決指派、問題處理方法設(shè)計、審評、實施和問題總結(jié)。數(shù)據(jù)質(zhì)量評估指利用各種評估方法（如：直接評估法和間接評估法），根據(jù)數(shù)據(jù)質(zhì)量問題影響程度的不同，以評估報告等形式，對數(shù)據(jù)質(zhì)量的給以評價和改進建議。數(shù)據(jù)質(zhì)量報告數(shù)據(jù)質(zhì)量報告是對數(shù)據(jù)資源變更管理、數(shù)據(jù)監(jiān)控、數(shù)據(jù)質(zhì)量分析、問題處理以及數(shù)據(jù)質(zhì)量評估等過程積累的各種信息進行匯總、梳理、統(tǒng)計和分析，形成統(tǒng)計報告的過