對數(shù)據(jù)倉庫進行數(shù)據(jù)建模IBM

1、對數(shù)據(jù)倉庫進行數(shù)據(jù)建模IBM2007-11-1615:00OLTP與數(shù)據(jù)倉庫-有何差異？在日常生活中，我們要使用大量的應(yīng)用程序來生成新的數(shù)據(jù)、變更數(shù)據(jù)、刪除數(shù)據(jù)，當(dāng)然在大多數(shù)的情況下我們還要查閱和分析數(shù)據(jù)。就來想象一個收發(fā)email的簡單應(yīng)用程序吧。我們已經(jīng)存儲了地址信息，可能還存儲了一些文檔。我們可以決定是否存儲已經(jīng)發(fā)送過的郵件，但是也可能隔一段時間后將其刪除，或者刪除已經(jīng)發(fā)送過的所有郵件。那么我們該如何處理一段時間以前刪除或者修改過的地址呢？我們再也不會看到它們了。Email程序大部分都屬于不是很復(fù)雜的數(shù)據(jù)庫，但是完全可以將其看作一個在單用戶環(huán)境下的OLTP（在線事務(wù)處理系統(tǒng)）簡單示例。它

2、使用了所有的所謂訪問數(shù)據(jù)的操作CRUD（創(chuàng)建、讀取、更新、刪除）。當(dāng)數(shù)據(jù)存儲達到一定量的時候，規(guī)模就會幾乎保持不變，因為可以從存儲中刪除過期數(shù)據(jù)。數(shù)據(jù)倉庫就完全是一種不同種類的應(yīng)用程序。它并不是用來運行當(dāng)前的操作，例如發(fā)送郵件。它是用來分析數(shù)據(jù)并且從現(xiàn)有數(shù)據(jù)中發(fā)現(xiàn)新的價值，主要是用來預(yù)測未來的情況。數(shù)據(jù)倉庫并不是解決所有問題的通用結(jié)構(gòu)。它必須集中于某一問題領(lǐng)域，例如航空服務(wù)、顧客收益等。數(shù)據(jù)倉庫也有有趣的一面，那就是數(shù)據(jù)庫本身是穩(wěn)定增長的。數(shù)據(jù)沒有被刪除，也不發(fā)生變更。我們不需要將冗余數(shù)據(jù)置于數(shù)據(jù)庫之外（因為加入倉庫中的數(shù)據(jù)經(jīng)過了數(shù)據(jù)凈化的過程，該過程檢查了數(shù)據(jù)的正確性）來減少復(fù)雜性同時增強讀

3、取操作的性能。為了能夠?qū)?shù)據(jù)倉庫中的數(shù)據(jù)進行分析，數(shù)據(jù)存儲于一個多維結(jié)構(gòu)中，叫做星型模式。如果將星型模式擴展，就會得到雪花模式。本白皮書將會闡述如何使用IBMRationalRose進行星型模式建模和雪花模式建模。飛行服務(wù)數(shù)據(jù)集市的例子為了更好地解釋如何對數(shù)據(jù)倉庫建模，本白皮書將使用一個簡單數(shù)據(jù)集市的的例子（即一個數(shù)據(jù)倉庫或者數(shù)據(jù)倉庫的一部分），來分析旅客乘坐航班HappyFlyingandLanding（愉快飛行平安降落）的行為和滿意程度。我們將存儲乘客信息和每個航班的的相關(guān)數(shù)據(jù)、選擇的菜單以及乘客對飛行的滿意程度。數(shù)據(jù)倉庫術(shù)語表數(shù)據(jù)倉庫引入了新的術(shù)語，擴展了數(shù)據(jù)建模的術(shù)語表。為使本文的闡述

4、能夠完備，下面我介紹一下最常用的術(shù)語。數(shù)據(jù)倉庫數(shù)據(jù)倉庫是一個支持管理決策的數(shù)據(jù)集合。數(shù)據(jù)是面向主題的、集成的、不易丟失的并且是時間變量。數(shù)據(jù)倉庫是所有操作環(huán)境和外部數(shù)據(jù)源的快照集合。它并不需要非常精確，因為它必須在特定的時間基礎(chǔ)上從操作環(huán)境中提取出來。數(shù)據(jù)集市數(shù)據(jù)倉庫只限于單個主題的區(qū)域，例如顧客、部門、地點等。數(shù)據(jù)集市在從數(shù)據(jù)倉庫獲取數(shù)據(jù)時可以依賴于數(shù)據(jù)倉庫，或者當(dāng)它們從操作系統(tǒng)中獲取數(shù)據(jù)時就不依賴于數(shù)據(jù)倉庫。事實事實是數(shù)據(jù)倉庫中的信息單元，也是多維空間中的一個單元，受分析單元的限制。事實存儲于一張表中（當(dāng)使用關(guān)系數(shù)據(jù)庫時）或者是多維數(shù)據(jù)庫中的一個單元。每個事實包括關(guān)于事實（收入、價值、滿意

5、記錄等）的基本信息，并且與維度相關(guān)。在某些情況下，當(dāng)所有的必要信息都存儲于維度中時，單純的事實出現(xiàn)就是對于數(shù)據(jù)倉庫足夠的信息。我們稍后討論有關(guān)缺無事實的情況。維度維度是綁定由坐標(biāo)系定義的空間的坐標(biāo)系的軸線。數(shù)據(jù)倉庫中的坐標(biāo)系定義了數(shù)據(jù)單元，其中包含事實。坐標(biāo)系的一個例子就是帶有x維度和y維度的Cartesian（笛卡爾）坐標(biāo)系。在數(shù)據(jù)倉庫中，時間總是維度之一。數(shù)據(jù)挖掘在數(shù)據(jù)倉庫的數(shù)據(jù)中發(fā)現(xiàn)新信息的過程被稱為數(shù)據(jù)挖掘，這些新信息不會從操作系統(tǒng)中獲得。分析空間分析空間是數(shù)據(jù)倉庫中一定量的數(shù)據(jù)，用于進行數(shù)據(jù)挖掘以發(fā)現(xiàn)新信息同時支持管理決策。切片一種用來在數(shù)據(jù)倉庫中將一個維度中的分析空間限制為數(shù)據(jù)子集

6、的技術(shù)。切塊一種用來在數(shù)據(jù)倉庫中將多個維度中的分析空間限制為數(shù)據(jù)子集的技術(shù)。星型模式一種使用關(guān)系數(shù)據(jù)庫實現(xiàn)多維分析空間的模式，稱為星型模式。星型模式將在本白皮書中稍后進行進一步討論。雪花模式不管什么原因，當(dāng)星型模式的維度需要進行規(guī)范化時，星型模式就演進為雪花模式。使用舊MRationalRose進行星型模式建模星型模式的基本形式必須實現(xiàn)多維空間（常常被稱為方塊），以使用關(guān)系數(shù)據(jù)庫的基本功能。首先，我們需要理解多維空間。多維分析空間幾何學(xué)中的方塊是指一個三維空間，其中每個維度的尺寸都相同。想象一個立方體，每個維度都有三個單元，我們即得到相同結(jié)構(gòu)的33=27個單元。圖1一個具有x、y、z維度的方塊

7、X多維分析空間（或者數(shù)據(jù)倉庫方塊）與幾何空間中的方塊僅僅存在細節(jié)上的差異。?維度不僅限于3維。不過，處理很多維度的立方體也不是件輕松的事情，這會導(dǎo)致大多數(shù)的實現(xiàn)被限制于6或者7維。不要期盼使用圖形可以很好地表示超過4的維度-如果您有幸能發(fā)現(xiàn)一種方法，別忘了告訴我一?維度并不具有相同的規(guī)模和單元。規(guī)模從幾個單元到幾百萬個單元，差別巨大。單元可以是一天、一位顧客、部門等。?單元，相當(dāng)于子方塊（1X1X保），包含事實。圖2一個三維數(shù)據(jù)立方體數(shù)據(jù)立方體需要很大的內(nèi)存以存儲所有事實。無論是否包含事實，都必須要預(yù)留單元。這就是為什么使用關(guān)系數(shù)據(jù)庫和星型模式的原因。使用它們能夠優(yōu)化存儲并且保持?jǐn)?shù)據(jù)結(jié)構(gòu)的靈活

8、性。星型模式星型模式的基本思想就是保持立方體的多維功能，同時也增加了小規(guī)模數(shù)據(jù)存儲的靈活性。圖3一個星型模式在圖3中，星型模式使用事實Flight表示了一個4維方塊（Passenger、MenuFlightSchedulet和Time）?；旧?，事實必須指定一個維度，以將其放入立方體的單元中。我們的例子中的維度是：?Passenger,描述了飛行航程中的每位乘客，由經(jīng)常飛行號（frequentflyernumber）指定。不是經(jīng)常乘坐飛機的乘客不是數(shù)據(jù)倉庫的一部分。?FlightSchedule,是指所有常規(guī)飛行的日程。?Menu是用于飛行的菜單。只有對菜單進行基本的分類才會對數(shù)據(jù)挖掘有重要意

9、義。?Time,是指飛行的時間。事實Flight描述了乘客在唯一的Time的單程飛行上選擇Menu。分析空間可以是完整的方塊，或者我們可以根據(jù)維度將分析空間分割成小片每個維度根據(jù)一個對象進行描述，對象可以用類表示，這些類就是有關(guān)業(yè)務(wù)主題的名稱。這一點對于成功建立數(shù)據(jù)倉庫來說是很重要的，因為倉庫的用戶（經(jīng)理、分析員、市場）對于信息技術(shù)的術(shù)語并不是很熟悉。事實本身就是商業(yè)智能的另一個對象，仍然通過類進行表示事實指每個維度。事實與維度的關(guān)聯(lián)常常是一對任意，這也就意味著每個事實都與單個維度的一個單元準(zhǔn)確對應(yīng)，而維度的每個單元（每個Passenger、Time等）可以與任意數(shù)量的事實發(fā)生關(guān)聯(lián)（包括0個事

10、實）。使用RationalRose將對象模型轉(zhuǎn)換為數(shù)據(jù)模型即完成了星型模式的實現(xiàn)。這里我們可以看到轉(zhuǎn)換后的結(jié)果。圖4使用RationalRose實現(xiàn)星型模式在圖4中，沒有顯示自動創(chuàng)建的主鍵和外鍵約束。星型模式的維度是獨立的表。當(dāng)對象模型轉(zhuǎn)換為數(shù)據(jù)模型時，RationalRose可以生成維度的主鍵。事實表指從維度表中使用鍵遷移的維度，當(dāng)生成數(shù)據(jù)模型時RationalRose可以生成外鍵。在星型模式中切片和切塊是對維度的限制（選擇）。這是一個運行時問題，而不是建模問題，但是模型必須分辨其需要。雪花模式基本的星型模式并不能滿足數(shù)據(jù)挖掘的所有需要。我們需要更復(fù)雜的維度，例如時間。分析員希望根據(jù)周、月、

11、季度等識別模式。維度必須進行規(guī)范化。我們不需要冗余的維度表，這只會使數(shù)據(jù)切片變得更加復(fù)雜。這種過程中我們得到的模式被稱為雪花模式。我們來看一個簡單的雪花模式例子。我們將時間維度規(guī)范化為周、月和季度。圖5規(guī)范化的Time維度我們希望能夠使用附加的規(guī)范化維度將立方體切片：周、月和季度。在本例中，我們假定季度是月的平行層次，這也就意味著我們不能將季度假定為若干月的聚合。由于這個原因，我們將使用一張范化表（是對OLAP查詢的一項簡單附加）預(yù)先選擇時間維度。最終雪花模式添加了規(guī)范化維度。圖6帶有范化維度的Time和事實Flight的雪花模式當(dāng)然，所有的維度都可以像時間例子那樣進行規(guī)范化，這就導(dǎo)致了比較復(fù)

12、雜的數(shù)據(jù)集市模式的出現(xiàn)。由RationalRose從雪花模式中開發(fā)的實現(xiàn)模式（數(shù)據(jù)模型）是完善的。圖7帶有范化Time維度的雪花模式的數(shù)據(jù)模型創(chuàng)建的約束在圖中也沒有顯示。雪花模式中可以存在切片，不僅僅在基本的Time維度上，也可以在規(guī)范化的WeekMonth和Quarter維度上。多對多關(guān)系在一次飛行中，我們不僅僅只吃一頓飯。在長途飛行中可能要多次用餐。在這種情況下，我們認為事實Flight和Menu維度不是一對多的關(guān)聯(lián)。我們必須使用多對多關(guān)聯(lián)。不過，這種關(guān)聯(lián)不可能在星型模式中實現(xiàn)。雪花模式的一種特殊形式是使用一種必要的數(shù)據(jù)結(jié)構(gòu)以滿足這項要求。首先，我們將模型變更為事實和維度間的多對多關(guān)聯(lián)。使

13、用RationalRose,這只是關(guān)聯(lián)基數(shù)的變更。圖8 Menu的多對多維度的星型模式我們無法在關(guān)系數(shù)據(jù)庫中實現(xiàn)多對多關(guān)聯(lián) 模式。實現(xiàn)多對多關(guān)聯(lián)需要使用另一種雪花在下圖中，我們關(guān)注一下已經(jīng)開發(fā)的雪花模式的一部分，該部分處理多對多維度圖9雪花模式解決了Menu的多維度FlightSch&dul6PH c箭輯加印。,N7EGER而FlightScheduleJDINTEGER1。一Flight l圖EJD： INTEGER F*bghl&hedUeJD INTEGER 3a3sen9er_ID : INTEGER FK lime ID . INTEGERTimeFK Tinne_ID . INTE

14、GERFk Week_lD : MTEGER FK Vonth_ID ： INTEGER FKQuarter ID INTEGERNon-ldenLIFHghtMenuEKt=|(gm_D ： HTEGER：Vlenu_lD INTEGER0.*MenuMeniiIDINREGERRationalRose生成了附加的維度表FlightMenu,它是指Menu維度和Flight事實。確定關(guān)系用于解決多對多關(guān)聯(lián)。對于雪花模式的架構(gòu)師來說，最重要的一點就是識別多對多關(guān)系。簡單對象視圖可能會使設(shè)計員理解概念，而生成的數(shù)據(jù)視圖有助于進一步深入有關(guān)實現(xiàn)的問題。層次數(shù)據(jù)挖掘可以從隱藏在操作系統(tǒng)表面下的數(shù)據(jù)中

15、發(fā)現(xiàn)信息。我們想了解的一個問題就是選定菜單與乘客統(tǒng)計資料之間的依賴關(guān)系。乘客統(tǒng)計資料數(shù)據(jù)可以在Passenger維度的層次上構(gòu)建。乘客可以根據(jù)郵政編碼分組，然后再按國家進行分組。圖10乘客的層次層次通過使用聚合來指定。聚合定義了所包括的內(nèi)容。Country包含了ZIP編碼，ZIP編碼包含了多名Passenger信息。最終通過使用外鍵實現(xiàn)了聚合。圖11雪花模式實現(xiàn)了Passenger維度的聚合生成的約束仍然沒有在圖中表示出來。使用聚合，維度可以在任何定義的級別上使用。分析空間可以通過Passenger、ZIPCode或者Country進行切片。一致的維度隨著數(shù)據(jù)倉庫架構(gòu)師不斷地添加細節(jié)內(nèi)容，雪花

16、模式變得越來越復(fù)雜。因此設(shè)計過程必須在到達某種程度后停止以保持?jǐn)?shù)據(jù)倉庫運行良好。星型或者雪花模式仍然僅僅關(guān)注于一個事實-在本例中就是Flighto那么復(fù)雜關(guān)系又是什么情況呢？對于每個事實我們都必須設(shè)計其各自的模式。如果我們想要進行復(fù)雜查詢的話，它們就必須具有共同的維度-我們稱其為一致的維度。讓我們使用Pilot作為一個維度，PilotFlight作為一個事實來定義第二個星型模式。我們還要使用附加的FlightSchedule維度和Time維度。圖12Pilot星型模式第二個模式可以單獨使用或者與Passenger模式結(jié)合使用，從而根據(jù)使用一致維度的飛行員維度來查詢Passenger的滿意程度。

17、圖13一致維度Time和FlightSchedule即使在使用一致維度的數(shù)據(jù)倉庫的簡單結(jié)構(gòu)中，Pilot與Passenger之間的關(guān)系也是簡單的。在開發(fā)數(shù)據(jù)模型時，數(shù)據(jù)倉庫將大量小型星型模式與雪花模式相結(jié)合形成了大型的數(shù)據(jù)倉庫模式。事實與維度的數(shù)據(jù)我們想要評估乘客對于飛行的滿意率?？梢允褂貌粷M意到很滿意幾個級別進行評定。評定記錄存放在事實表Flight中作為一個屬性（列）。如果我們想要得出一個平均記錄，那么就必須為記錄定義值以進行計算。我們可以將記錄分為0到10級。這樣就可以得到一個平均記錄。平均值應(yīng)該存儲在維度表中，以用于簡單的切片，其中我們只想進行一維切片。RationalRose根據(jù)目標(biāo)數(shù)據(jù)庫的數(shù)據(jù)類型生成了實現(xiàn)屬性。對象模型是用來定義數(shù)據(jù)庫的數(shù)據(jù)源的。