MSPE-基礎(chǔ)類-2-RAID技術(shù)-v1.3課件

MSPE培訓教材—RAID技術(shù)1目錄RAID基本概念RAID級別和特點RAID比較和選擇RAID硬盤失效處理CRAID簡述2精選課件RAID出現(xiàn)原因計算機發(fā)展初期，大容量硬盤價格非常高，而需要存儲的數(shù)據(jù)量越來越大容量性能CPU運算速度飛速提高，數(shù)據(jù)讀寫速度不應(yīng)該成為計算機系統(tǒng)處理的瓶頸信息時代，數(shù)據(jù)對企業(yè)和個人的重要性越來越大，數(shù)據(jù)存儲安全更需要保障RAID可靠性3精選課件RAID基本概念——定義RAID（RedundantArrayofIndependentDisks）即獨立磁盤冗余陣列，RAID技術(shù)將多個單獨的物理硬盤以不同的方式組合成一個邏輯硬盤，從而提高了硬盤的讀寫性能和數(shù)據(jù)安全性。由加利福尼亞大學伯克利分校（UniversityofCalifornia-Berkeley）在1987年，發(fā)表的文章：“ACaseforRedundantArraysofInexpensiveDisks”。文章中，談到了RAID這個詞匯，而且定義了RAID的5層級。柏克萊大學研究其研究目的為，反應(yīng)當時CPU快速的性能。CPU效能每年大約成長30～50%，而硬磁機只能成長約7%。研究小組希望能找出一種新的技術(shù)，在短期內(nèi)，立即提升效能來平衡計算機的運算能力。在當時，柏克萊研究小組的主要研究目的是效能與成本。另外，研究小組也設(shè)計出容錯（fault-tolerance），邏輯數(shù)據(jù)備份（logicaldataredundancy），而產(chǎn)生了RAID理論。研究初期，便宜（Inexpensive）的磁盤也是主要的重點，但后來發(fā)現(xiàn)，大量便宜磁盤組合并不能適用于現(xiàn)實的生產(chǎn)環(huán)境，后來Inexpensive被改為independence，許多獨立的磁盤組。4精選課件RAID基本概念——級別根據(jù)不同的組合方式可以分為不同的RAID級別RAID0數(shù)據(jù)條帶化，無校驗RAID1數(shù)據(jù)鏡像，無校驗RAID2海明碼錯誤校驗及校正RAID3數(shù)據(jù)條帶化讀寫，校驗信息存放于專用硬盤RAID4單次寫數(shù)據(jù)采用單個硬盤，校驗信息存放于專用硬盤RAID5數(shù)據(jù)條帶化，校驗信息分布式存放RAID6數(shù)據(jù)條帶化，分布式校驗并提供兩級冗余5精選課件RAID組合方式——級別擴展同時采用兩種不同的RAID方式還能組合成新的RAID級別RAID0+1先做RAID0，后做RAID1，同時提供數(shù)據(jù)條帶化和鏡像RAID10類似于RAID0+1，區(qū)別在于先做RAID1，后做RAID0RAID50先做RAID5，后做RAID0，能有效提高RAID5的性能6精選課件RAID基本概念——條帶條塊分條條帶

硬盤0硬盤2硬盤1硬盤37精選課件RAID基本概念——校驗異或運算P=A0XORA1數(shù)據(jù)A0和A1通過異或運算進行奇偶校驗得到校驗位PA0值A(chǔ)1值P值000101011110異或XOR的校驗原理

A1A0P數(shù)據(jù)盤數(shù)據(jù)盤校驗盤8精選課件RAID基本概念——重建（Rebuild）數(shù)據(jù)盤A1A0PA0A1PXOR故障數(shù)據(jù)盤校驗盤A2A2XOR數(shù)據(jù)盤更換9精選課件RAID基本概念——RAID組狀態(tài)RAID組正常工作RAID組降級RAID組重建RAID組創(chuàng)建RAID組失效10精選課件RAID基本概念——物理卷和邏輯卷RAID10RAID5RAID由幾個硬盤組成，從整體上看相當于一個物理卷在物理卷的基礎(chǔ)上可以按照指定容量創(chuàng)建一個或多個邏輯卷，通過LUN（LogicUnitNumber）來標識物理卷物理卷邏輯卷邏輯卷單個物理卷上創(chuàng)建1個邏輯卷單個物理卷上創(chuàng)建2個邏輯卷LUN1LUN2LUN311精選課件RAID、邏輯卷的形成過程物理磁盤物理卷（RAID）12精選課件RAID、邏輯卷的形成過程物理磁盤邏輯卷物理卷（RAID）LUN1LUN2LUN3分割13精選課件RAID寫數(shù)據(jù)三種方式

……一、整條寫整條寫的實現(xiàn)方式是：第一步：直接將新寫入的數(shù)據(jù)在cache里通過校驗運算，計算出校驗數(shù)據(jù)。第二步：再將需要寫入的數(shù)據(jù)和校驗數(shù)據(jù)同時寫進一個條帶。如圖所示：IO有效率75%14精選課件RAID寫數(shù)據(jù)三種方式

二、重構(gòu)寫一個IO寫操作,它所寫入的條帶所在的磁盤數(shù)超過RAID磁盤一半時,可采用重構(gòu)寫方式。重構(gòu)寫的實現(xiàn)方式是：第一步：先將所需寫入的新數(shù)據(jù)保存到cache，同時讀取其它磁盤上的老數(shù)據(jù)到cache，再將新數(shù)據(jù)、老數(shù)據(jù)做校驗運算，得出新校驗數(shù)據(jù)。第二步：再將新數(shù)據(jù)、老數(shù)據(jù)和新校驗數(shù)據(jù)同時寫入所在的磁盤扇區(qū)。如圖所示：IO有效率40%讀一次IO，寫4次IO，有效寫數(shù)據(jù)2次IO，有效率是40%15精選課件RAID寫數(shù)據(jù)三種方式

三、讀改寫（read-modifywrite）一個IO寫操作,它所寫入的條帶所在的磁盤數(shù)不超過RAID磁盤一半時,可采用讀改寫方式。讀改寫的實現(xiàn)方式是：第一步，先將所需寫入的新數(shù)據(jù)保存到cache，同時讀取所需要寫入扇區(qū)上的老數(shù)據(jù)到cache，同時讀取校驗盤上相對應(yīng)扇區(qū)上的老校驗數(shù)據(jù)到cache，再將新數(shù)據(jù)、老數(shù)據(jù)和老校驗數(shù)據(jù)做校驗運算，得出新校驗數(shù)據(jù)。第二步，再將新數(shù)據(jù)、新校驗數(shù)據(jù)同時寫入所在的磁盤扇區(qū)。如圖所示：IO有效率25%讀兩次，寫兩次，有效寫IO只有1次，所以有效率是25%16精選課件RAID級別——RAID0DHLCGKBFJ定義：RAID0即沒有容錯設(shè)計的條帶硬盤陣列（StripedDiskArraywithoutFaultTolerance），以條帶形式將RAID組的數(shù)據(jù)均勻分布在各個硬盤中ABCDEFGH數(shù)據(jù)……AEI17精選課件RAID級別——RAID0優(yōu)點極高的讀寫效率速度快，由于不存在校驗，所以不占用CPU資源部署簡單缺點無冗余，通常和其他RAID級別混合使用不適合用于關(guān)鍵數(shù)據(jù)環(huán)境最小硬盤數(shù)2RAID0小結(jié)：18精選課件RAID級別——RAID1RAID1定義：RAID1又稱鏡像（Mirror），數(shù)據(jù)同時一致寫到主硬盤和鏡像硬盤EDCBAEDCBAABCDE……=數(shù)據(jù)19精選課件RAID級別——RAID1優(yōu)點提供了很高的數(shù)據(jù)安全性和可用性100％的數(shù)據(jù)冗余設(shè)計、使用簡單不作校驗計算，CPU占用資源少缺點空間利用率只有1/2相對于單個硬盤，無法提高寫性能硬盤數(shù)2RAID1小結(jié)：20精選課件A0B0C0D0ECC/AxECC/BxECC/CxECC/DxECC/AyECC/ByECC/CyECC/DyRAID級別——RAID2定義：RAID2采用早期的海明碼校驗組成硬盤陣列，RAID中第1個、第2個、第4個……第2的n次冪個硬盤都是校驗盤。RAID2的硬盤利用率很低，目前基本不再使用A1B1C1D1A2B2C2D2A3B3C3D3ECC/AzECC/BzECC/CzECC/DzA0A1A2A3B0B1B2B3C0C1C2數(shù)據(jù)盤校驗盤21精選課件RAID級別——RAID3定義：RAID3即帶有校驗的并行數(shù)據(jù)傳輸陣列（Paralleledtransferwithparity），數(shù)據(jù)條帶化分布在數(shù)據(jù)盤中，同時使用專用校驗硬盤存放校驗數(shù)據(jù)D0C0B0A0D1C1A1B1D2C2A2B2PDPCPAPB異或運算數(shù)據(jù)盤校驗盤A0A1A2B0B1B2C0……22精選課件RAID級別——RAID3優(yōu)點數(shù)據(jù)分布式存儲在連續(xù)的硬盤上，具有較高的讀速率，適合大文件連續(xù)讀操作的應(yīng)用如果有一個硬盤損壞，數(shù)據(jù)的有效性沒有影響缺點校驗盤是整個硬盤陣列系統(tǒng)的瓶頸有數(shù)據(jù)盤故障時，每次讀操作時都需要進行校驗計算，讀性能大幅度下降最小硬盤數(shù)3RAID3小結(jié)：23精選課件RAID級別——RAID4定義：RAID4是帶有共享校驗硬盤的獨立數(shù)據(jù)盤（Independentdatadiskswithsharedparitydisk），與RAID3類似，不同在于對數(shù)據(jù)訪問是每次一個盤，而RAID3是每次一個條帶，RAID4的讀寫性能較差，目前較少使用（NetApp-WAFL）異或運算A0B0C0D0A1B1C1D1A2B2C2D2A3B3C3D3P0P1P2P3A0A1A2A3B0B1B2B3C0……數(shù)據(jù)盤校驗盤24精選課件RAID級別——RAID5定義：RAID5與RAID3機制類似，但校驗數(shù)據(jù)均勻分布在各數(shù)據(jù)硬盤上，RAID成員硬盤上同時保存數(shù)據(jù)和校驗信息，數(shù)據(jù)塊和對應(yīng)的校驗信息保存在不同硬盤上。RAID5是最常用的RAID方式之一……P4A3A2A1A0B4P3B2B1B0C4C3P2C1C0D4D3D2P1D0E4E3E2E1P0異或運算A0B0C0D0A1B1C1E1A2B2D2校驗信息Px分布式存儲數(shù)據(jù)25精選課件RAID級別——RAID5優(yōu)點高讀取速率，中等寫速率提供一定程度的數(shù)據(jù)安全缺點RAID組里單塊硬盤的故障，會導(dǎo)致其他硬盤讀寫性能大幅度下降最小硬盤數(shù)3RAID5小結(jié)：26精選課件RAID級別——RAID6定義：RAID6是帶有兩個獨立分布式奇偶校驗方案的獨立數(shù)據(jù)硬盤（Independentdatadiskswithtwoindependentdistributedparityschemes）。廣義上講，能夠允許兩個硬盤同時失效的RAID級別統(tǒng)稱為RAID6，狹義上講，特指Intel的RAIDP+Q技術(shù)。硬盤空間利用率為(N-2)/N，N為RAID6陣列硬盤總數(shù)RAID6技術(shù)：目前RAID6還沒有統(tǒng)一的標準，各家公司的實現(xiàn)方式都有所不同：RAIDP+Q：INTEL和HDS公司(XOR+伽羅瓦運算(Galois)）RAIDDP：NetApp公司（橫向XOR+斜向XOR）RAIDADG：HP公司（兩層XOR）27精選課件RAID級別——RAID6原理示例A1A3A2A4A7A10A8A5A9A13A6A15A11A12A16異或運算A1A2A3A4A5A6A7A9……橫向校驗盤中P1—P4為各個數(shù)據(jù)盤中橫向數(shù)據(jù)的校驗信息 例：P1=A1XORA2XORA3XORA4斜向校驗盤中DP1—DP4為各個數(shù)據(jù)盤及橫向校驗盤的斜向數(shù)據(jù)的校驗信息 例：DP1=A1XORA6XORA11XORA16P1P2P3P4橫向校驗盤斜向校驗盤數(shù)據(jù)盤A8DP1DP2DP3DP4A14DP528精選課件RAID級別——RAID6優(yōu)點可以同時允許兩塊硬盤失效缺點磁盤利用率比RAID5更低校驗計算復(fù)雜，對控制器性能消耗很大，增加系統(tǒng)負載出現(xiàn)硬盤失效時，RAID重建時對系統(tǒng)性能影響更大，并且重建時間長最小硬盤數(shù)4RAID6小結(jié)：29精選課件RAID組合級別——RAID10定義：RAID10是將鏡像和條帶進行兩級組合的RAID級別，第一級是RAID1鏡像對，第二級為RAID0。RAID10也是一種應(yīng)用比較廣泛的RAID級別。ABCDEFGHAACBBCDDEEFFGGHH30精選課件RAID級別——RAID10優(yōu)點高讀取速率高寫速率，較校驗RAID而言，寫開銷最小至多可以容許n個硬盤同時損壞（2N個硬盤組成的RAID10陣列）缺點只有1/2的硬盤利用率最小硬盤數(shù)4RAID10小結(jié)：31精選課件RAID組合級別——RAID0+1ABCDEFGH定義：RAID0+1是將條帶和鏡像進行兩級組合的RAID級別，第一級是RAID0，第二級為RAID1。一般來說，RAID0+1的失效概率要比RAID10大，不過無硬盤故障下，RAID0+1的讀取速度要比RAID10快ABCDEFGHABCDEFGH32精選課件RAID組合級別——RAID50P13F1定義：RAID50是將RAID5和RAID0進行兩級組合的RAID級別，最低一級是RAID5，第二級為RAID0A2P02A1A0B2B1P01B0P03C1C0P00異或運算A0B0D0E0A1C0D1F0B1……C1D2P12D1D0E2E1P11E0F0P10硬盤0硬盤1硬盤2硬盤3硬盤4硬盤5異或運算33精選課件RAID級別——RAID50優(yōu)點比單個RAID5容納更多的硬盤比單個RAID5有更好的讀性能至多可以容許N個硬盤同時損壞（N個RAID5組成的RAID50陣列）比相同容量的單個RAID5重建時間更短缺點比較難實現(xiàn)同一個RAID5組內(nèi)的兩個硬盤損壞會導(dǎo)致整個RAID50陣列的失效最小硬盤數(shù)6RAID50小結(jié)：34精選課件常用RAID比較RAID級別RAID0RAID1RAID3RAID5RAID10RAID0+1別名條帶鏡像專用奇偶位條帶分布奇偶位條帶鏡像陣列條帶條帶陣列鏡像容錯性無有有有有有冗余類型無復(fù)制奇偶校驗奇偶校驗復(fù)制復(fù)制熱備盤選項無有有有有有讀性能高低高高一般高隨機寫性能高低最低低一般一般連續(xù)寫性能高低低低一般一般最小硬盤數(shù)2塊2塊3塊3塊4塊4塊可用容量N*單塊硬盤容量，N為RAID組成員數(shù)量，一般不大于16(N/2)*單塊硬盤容量，N為RAID組成員數(shù)量，一般不大于16(N-1)*單塊硬盤容量，N為RAID組成員數(shù)量，一般不大于16(N-1)*單塊硬盤容量，N為RAID組成員數(shù)量，一般不大于16(N/2)*單塊硬盤容量，N為RAID組成員數(shù)量，一般不大于16(N/2)*單塊硬盤容量，N為RAID組成員數(shù)量，一般不大于16典型應(yīng)用環(huán)境迅速讀寫，安全性要求不高，如圖形工作站等隨機數(shù)據(jù)寫入，安全性要求高，如服務(wù)器、數(shù)據(jù)庫存儲領(lǐng)域連續(xù)數(shù)據(jù)傳輸，安全性要求高，如視頻編輯、大型數(shù)據(jù)庫等隨機數(shù)據(jù)傳輸，安全性要求高，如金融、數(shù)據(jù)庫、存儲等數(shù)據(jù)量大，安全性要求高，如銀行、金融等領(lǐng)域高性能和高安全性，如視頻服務(wù)器35精選課件常用RAID選擇性能可靠性成本RAID0RAID6RAID5RAID10RAID136精選課件RAID硬盤失效處理--熱備和熱插拔熱備：HotSpare定義：當冗余的RAID組中某個硬盤失效時，在不干擾當前RAID系統(tǒng)的正常使用的情況下，用RAID系統(tǒng)中另外一個正常的備用硬盤自動頂替失效硬盤，及時保證RAID系統(tǒng)的冗余性全局式：備用硬盤為系統(tǒng)中所有的冗余RAID組共享專用式：備用硬盤為系統(tǒng)中某一組冗余RAID組專用熱插拔：HotSwap定義：在不影響系統(tǒng)正常運轉(zhuǎn)的情況下，用正常的硬盤物理替換RAID系統(tǒng)中失效硬盤關(guān)鍵在于熱插拔時電子器件的保護機制37精選課件全局熱備示例該熱備盤由系統(tǒng)中兩個RAID組共享，可自動頂替任何一個RAID中的一個失效硬盤磁盤1磁盤2磁盤3熱備盤磁盤4磁盤5磁盤6RAID5RAID5磁盤陣列38精選課件專用熱備示例該熱備盤由系統(tǒng)中指定RAID組專用，可自動頂替該指定RAID組中的一個失效硬盤磁盤1磁盤2磁盤3磁盤4磁盤5磁盤6RAID5RAID5磁盤陣列熱備盤熱備盤39精選課件關(guān)于硬盤故障的數(shù)據(jù)統(tǒng)計圖：硬盤故障分析定位廠家年故障率08.09-09.0309.04-09.09日立1.84%0.92%0.92%西數(shù)1.88%0.89%0.99%邁拓4.52%2.79%1.73%三星4.18%2.25%1.93%希捷5.47%2.89%2.58%表：硬盤故障率統(tǒng)計來源：Google硬盤故障分析，2007.02據(jù)統(tǒng)計，存儲系統(tǒng)的硬件故障90%以上是硬盤故障！故障硬盤中，只有12%是完全的物理損壞，88%屬于部分/完全可用

相比中等壓力的硬盤，空閑硬盤的故障率更高圖：不同壓力下的硬盤故障率來源：法國硬盤網(wǎng)站Hardware.fr來源：歷史硬盤故障分析40精選課件4000GB大容量硬盤帶來的問題容量100GB300GB750GB1000GB146GB300GBSAS硬盤250GB400GB500GB750GB1TBSATA硬盤500GB

200773GB450GB

2003

2008

2010600GB

20052TB2009類型業(yè)務(wù)壓力重建時間2TBSATA(7200轉(zhuǎn))無業(yè)務(wù)壓力20小時持續(xù)寫壓力5-6天600GBSAS(15000轉(zhuǎn))無業(yè)務(wù)壓力4小時持續(xù)寫壓力22小時2000GB表：硬盤初始化/重建時間測試環(huán)境：RAID5，5+1塊硬盤：1塊2TB

SATA磁盤在無流量壓力下的重建時間！20小時4TB20123TB

20123TB1TB2TB41精選課件CRAID-基于Cell的RAID技術(shù)優(yōu)化的同步設(shè)置強大的重建功能按LUN同步快速重建快速同步延時同步立即同步局部重建優(yōu)化重建全盤重建CRAIDCRAID能為我們帶來什么？42什么是Cell？LUNLUN5RAIDDiskDiskLUNLUNDiskDiskDiskDisklDiskDiskCellRAIDRAID以Cell為核心以Cell為核心組織數(shù)據(jù)，破除LUN與RAID、Disk之間的捆綁關(guān)系，在存儲陣列內(nèi)部形成完全的虛擬化架構(gòu)RAIDDiSKLUN：數(shù)據(jù)邏輯載體Disk：數(shù)據(jù)物理載體LUNRAID：磁盤組織方式Cell:形象稱之為“細胞”，指帶“活性”的數(shù)據(jù)單元，存儲資源管理的基本單位以1GB或更小的顆粒度管理數(shù)據(jù)LUN、Cell、RAID之間沒有綁定關(guān)系空間資源靈活組合，按需獲取按性能需求實時調(diào)整Cell43精選課件重建方式比較數(shù)據(jù)盤1數(shù)據(jù)盤2數(shù)據(jù)盤3傳統(tǒng)RAID5熱備盤磁盤重建數(shù)據(jù)盤1CRAID5數(shù)據(jù)盤2數(shù)據(jù)盤