華為存儲知識資料

1、Page 1修訂(xidng)記錄課程編碼適用產(chǎn)品產(chǎn)品版本課程版本ISSUEXXXXXSingleCloudV100R001C011.1開發(fā)/優(yōu)化者時間審核人開發(fā)類型（新開發(fā)/優(yōu)化）夏志祥2010-8-3劉偉聰優(yōu)化本頁不打印(d yn)共五十八頁Page 2評審(pn shn)專家LS劉晶磊、鐘美華、楚國祥NRON/ACS王鵬翔NTSN/AMSN/ANI艾源TSD夏志祥、員工培訓(xùn) 鄧星、中國區(qū) 周義林 張磊研發(fā)測試 趙學(xué)武、資料 沙鷗、SE 胡利明、羅正萍本頁不打印(d yn)共五十八頁存儲(cn ch)基礎(chǔ)知識V1.1共五十八頁Page 4參考資料存儲(cn ch)基礎(chǔ)知識白皮書共五十八頁P

2、age 5培訓(xùn)(pixn)目標學(xué)完本課程后，您應(yīng)該能： 掌握存儲(cn ch)的基礎(chǔ)知識和技能 熟悉存儲的各種特性和功能共五十八頁Page 6目 錄存儲組網(wǎng)形態(tài)主要(zhyo)協(xié)議RAID磁盤熱備與重構(gòu)快照與復(fù)制數(shù)據(jù)分級存儲概念共五十八頁Page 7存儲(cn ch)分類封閉系統(tǒng)的存儲(cn ch)開放系統(tǒng)的存儲內(nèi)置存儲外掛存儲Direct-Attached Storage直接式存儲（DAS）Fabric-Attached Storage網(wǎng)絡(luò)存儲（FAS）Network-Attached Storage網(wǎng)絡(luò)接入存儲（NAS） Storage Area Network存儲區(qū)域網(wǎng)絡(luò)（SAN）共五十

3、八頁DAS/SAN/NAS組網(wǎng)示意圖Page 8共五十八頁DAS（Direct Attachment Storage）直接(zhji)連接存儲：存儲設(shè)備是通過電纜（通常是SCSI接口電纜）直接連到服務(wù)器的。 I/O請求直接發(fā)送到存儲設(shè)備應(yīng)用服務(wù)器Block I/OSCSI協(xié)議StorageDAS共五十八頁Page 10典型(dinxng)DAS結(jié)構(gòu)共五十八頁DAS分析(fnx)連接(linji)簡單集成在服務(wù)器內(nèi)部；點到點的連接；距離短；安裝技術(shù)要求不高低成本需求SCSI總線成本低較好的性能通用的解決方案DAS的投資低，絕大多數(shù)應(yīng)用可以接受DAS優(yōu)勢有限的擴展性SCSI總線的距離最大25米；最

4、多15個設(shè)備專屬的連接空間資源無法與其他服務(wù)器共享備份和數(shù)據(jù)保護備份到與服務(wù)器直連的磁帶設(shè)備上硬件失敗將導(dǎo)致更高的恢復(fù)成本TCO（總擁有成本高）存儲容量的加大導(dǎo)致管理成本上升存儲使用效率低DAS劣勢共五十八頁NAS（Network Attachment Storage）應(yīng)用(yngyng)服務(wù)器File I/OIP協(xié)議(xiy)NAS網(wǎng)絡(luò)連接存儲：存儲設(shè)備連接到現(xiàn)有的網(wǎng)絡(luò)上，提供數(shù)據(jù)和文件服務(wù)共五十八頁Page 13典型(dinxng)NAS結(jié)構(gòu)共五十八頁NAS的優(yōu)勢(yush)資源共享構(gòu)架于IP網(wǎng)絡(luò)之上部署簡單(jindn)較好的擴展性異構(gòu)環(huán)境下的文件共享易于管理備份方案簡單低的TCONAS

5、優(yōu)勢擴展性有限一些應(yīng)用會占用帶寬資源不適應(yīng)某些數(shù)據(jù)庫的應(yīng)用NAS劣勢共五十八頁SAN（Storage Area Network）應(yīng)用(yngyng)服務(wù)器Block I/OFCP協(xié)議(xiy)SAN存儲區(qū)域網(wǎng)絡(luò)：它是一個用在服務(wù)器和存儲資源之間的、專用的、高性能的網(wǎng)絡(luò)體系。它為實現(xiàn)大量原始數(shù)據(jù)的傳輸而進行了專門的優(yōu)化。共五十八頁Page 16典型(dinxng)SAN結(jié)構(gòu)共五十八頁SAN的優(yōu)勢(yush)實現(xiàn)存儲介質(zhì)的共享非常好的擴展性易于數(shù)據(jù)備份和恢復(fù)實現(xiàn)備份磁帶共享LAN Free和Server Free高性能支持(zhch)服務(wù)器群集技術(shù)容災(zāi)手段低的TCOSAN優(yōu)勢成本較高需要專用的連接

6、設(shè)備如FC交換機以及HBASAN孤島技術(shù)較為復(fù)雜需要專業(yè)的技術(shù)人員維護SAN劣勢共五十八頁Page 18DAS/NAS/SAN三種(sn zhn)形態(tài)比較DASNASFC-SANIP-SAN傳輸類型SCSI、FCIPFCIP數(shù)據(jù)類型塊級文件級塊級塊級典型應(yīng)用任何文件服務(wù)器數(shù)據(jù)庫應(yīng)用視頻監(jiān)控優(yōu)點易于理解兼容性好易于安裝成本低高擴展性高性能高可用性高擴展性成本低缺點難以管理，擴展性有限存儲空間利用率不高性能較低對某些應(yīng)用不適合比較昂貴，配置復(fù)雜互操作性問題性能較低共五十八頁Page 19目 錄存儲組網(wǎng)形態(tài)主要協(xié)議RAID磁盤熱備與重構(gòu)快照(kui zho)與復(fù)制數(shù)據(jù)分級存儲概念共五十八頁存儲傳輸?shù)?/p>

7、硬件(yn jin)通道有三種： 傳輸(chun sh)通道通過以太網(wǎng)線連接通過SCSI線纜連接通過光纖線纜連接 iSCSI HBA CardiSCSI 磁盤陣列SCSI HBA CardSCSI 磁盤陣列FC HBA CardFC磁盤陣列以太網(wǎng)線SCSI線纜光纖線纜主機GE Card共五十八頁Page 21SCSI協(xié)議(xiy)SCSI是小型計算機系統(tǒng)接口（Small Computer System Interface）的簡稱，主要用于高端系統(tǒng)的連接(linji)，現(xiàn)在已完全普及到了小型機及高端服務(wù)器。SCSI存儲是以主機為中心的；一條SCSI總線上可以串接多臺不同類型的設(shè)備。SCSI協(xié)議可

8、以劃分為SCSI-1、SCSI-2、SCSI-3，最新的為SCSI-3，也是目前應(yīng)用最廣泛的SCSI版本。 屬于SCSI-3 的 Ultra 320 SCSI 的最高數(shù)據(jù)傳輸率已經(jīng)達到了320MB/s。共五十八頁Page 22iSCSI協(xié)議(xiy)iSCSI是互聯(lián)網(wǎng)小型計算機系統(tǒng)接口（Internet Small Computer System Interface）的簡稱，是一種在TCP/IP上進行數(shù)據(jù)塊傳輸?shù)臉藴剩梢岳斫鉃镾CSI over IP。iSCSI實現(xiàn)在IP網(wǎng)絡(luò)上運行SCSI協(xié)議，使其能夠在諸如高速千兆以太網(wǎng)上進行快速的數(shù)據(jù)存取備份 操作?？捎糜跇?gòu)成基于IP的SAN，為用戶(y

9、ngh)提供高速、低價、長距離的存儲解決方案。iSCSI是將SCSI命令封裝到TCP/IP數(shù)據(jù)包中，使I/O數(shù)據(jù)塊可通過IP網(wǎng)絡(luò)傳輸。 iSCSI的數(shù)據(jù)包結(jié)構(gòu)：共五十八頁Page 23FC協(xié)議(xiy)及組件FC是光纖通道（Fiber Channel）的簡稱，用于服務(wù)器共享存儲設(shè)備的連接，存儲控制器和驅(qū)動器之間的內(nèi)部連接。FC是一種高性能的串行連接標準。其接口傳輸速率目前有1G、2G、4Gbit/s幾種標準。傳輸介質(zhì)可以選擇銅纜或光纖，支持(zhch)多種互聯(lián)拓撲結(jié)構(gòu)。Fiber Channel 組件：HBA卡：Host Bus Adapter(主機通道適配器)，F(xiàn)C HBA卡在應(yīng)用中，相當于

10、SCSI卡。我們后面講到的node和port就在HBA卡上，F(xiàn)C switch：光纖交換機，SAN架構(gòu)中核心設(shè)備，連接服務(wù)器和存儲設(shè)備。共五十八頁iSCSI協(xié)議(xiy)的分層結(jié)構(gòu)FC協(xié)議(xiy)的分層結(jié)構(gòu)iSCSI和FC協(xié)議層次比較共五十八頁Page 25目 錄存儲組網(wǎng)形態(tài)主要協(xié)議RAID磁盤熱備與重構(gòu)快照與復(fù)制(fzh)數(shù)據(jù)分級存儲概念共五十八頁RAID簡介(jin ji) RAID是廉價冗余(rn y)磁盤陣列(Redundant Array of Inexpensive Disks) 的簡稱名詞說明分區(qū)又稱為Extent；是一個磁盤上的地址連續(xù)的存儲塊。一個磁盤可以劃分為多個分區(qū)，每

11、個分區(qū)可以大小不等，有時也稱為邏輯磁盤。分塊又稱為Strip；將一個分區(qū)分成多個大小相等的、地址相鄰的塊，這些塊稱為分塊。分塊通常被認為是條帶的元素。虛擬磁盤以它為單位將虛擬磁盤的地址映射到成員磁盤的地址。條帶又稱為Stripe；是陣列的不同分區(qū)上的位置相關(guān)的strip的集合，是組織不同分區(qū)上條塊的單位。軟RAIDRAID 的所有功能都依賴于操作系統(tǒng)（OS）與服務(wù)器CPU來完成，沒有第三方的控制/處理（業(yè)界稱其為RAID 協(xié)處理器RAID Co-Processor）與I/O芯片硬RAID有專門的RAID 控制/處理與I/O處理芯片，用來處理RAID任務(wù)，不需耗用主機CPU資源，效率高，性能好。

12、共五十八頁RAID0 ：Striped Disk Array without Fault Tolerance( 沒有容錯設(shè)計的條帶磁盤陣列，以條帶形式將RAID陣列的數(shù)據(jù)(shj)均勻分布在各個陣列中?？?cè)萘?(磁盤數(shù)量)*(磁盤容量)RAID0（一）共五十八頁優(yōu)點缺點可多I/O操作并行處理，極高的讀寫效率速度快，由于不存在校驗，所以不占用cpu資源設(shè)計，使用與配置簡單無冗余，一個RAID 0的磁盤失敗，那么數(shù)據(jù)將徹底丟失不能用于關(guān)鍵數(shù)據(jù)環(huán)境適用領(lǐng)域：視頻生成和編輯圖像編輯較為“擁擠”的操作其他需要大的傳輸帶寬的操作 至少需要磁盤數(shù) ：2個RAID0（二）共五十八頁RAID 1 ：以鏡像作為冗

13、余手段，虛擬磁盤(c pn)中的數(shù)據(jù)有多個拷貝，放在成員磁盤(c pn)上。總?cè)萘?(磁盤數(shù)量 / 2)*(磁盤容量) RAID1（一）共五十八頁RAID1（二）優(yōu)點缺點理論上讀效率是單個磁盤的兩倍；100的數(shù)據(jù)冗余；設(shè)計、使用簡單ECC效率低下，磁盤ECC的CPU占用率是所有RAID等級中最高的，在所有成本高；軟RAID方式下，很少能支持硬盤的熱插拔；空間利用率只有1/2適用領(lǐng)域：財務(wù)統(tǒng)計與數(shù)據(jù)庫金融系統(tǒng)其他需要高可用的數(shù)據(jù)存儲環(huán)境至少需要磁盤數(shù) 2個共五十八頁 RAID3 (條帶分布+專用盤校驗)：以xor校驗為冗余方式，使用專門(zhunmn)的磁盤存放校驗數(shù)據(jù)， 虛擬磁盤上的數(shù)據(jù)塊被分

14、為更小的數(shù)據(jù)塊并行傳輸?shù)礁鱾€成員物理磁盤上 ，同時計算出xor校驗數(shù)據(jù)存放到校驗磁盤上?？?cè)萘?(磁盤數(shù)量 -1)*(磁盤容量) RAID3（一）共五十八頁RAID3（二）優(yōu)點缺點相對較高的讀取傳輸率高可用性，如果有一個磁盤損壞，對吞吐量影響較小高效率的ECC操作校驗盤成為性能瓶頸每次讀寫牽動整個組，每次只能完成一次I/O 適用領(lǐng)域：視頻生成和在線編輯圖像和視頻編輯其他需要高吞吐量的的場合至少需要磁盤數(shù) 3個共五十八頁RAID5 (條帶技術(shù)+分布式校驗)：以XOR檢驗為冗余方式，校驗數(shù)據(jù)均勻分布在各個數(shù)據(jù)磁盤上，對各個數(shù)據(jù)磁盤的訪問(fngwn)為異步操作?？?cè)萘?rngling)=(磁盤數(shù)

15、-1)*(磁盤容量)RAID5（一）A0A1A2A34PRITYC0C12PRITYC2C3B0B1B23PRITYB3D01PRITYD1D2D30PRITYE1E2E3E4ABCDE共五十八頁RAID5（二）優(yōu)點缺點高讀取速率中等寫速率異或校驗影響存儲性能磁盤損壞后，重建很復(fù)雜適用領(lǐng)域：文件服務(wù)器和應(yīng)用服務(wù)器OLTP環(huán)境的數(shù)據(jù)庫WEB，EMAIL服務(wù)器至少需要磁盤數(shù) 3個共五十八頁RAID6：能夠(nnggu)允許兩顆磁盤同時失效的RAID級別系統(tǒng)?？?cè)萘?(磁盤數(shù) -2)*(磁盤容量)A0A1A23PRITYC01PRITY2PRITYA3B0B12PRITY3PRITY0PRITY1P

16、RITYB2B30PRITYC1C2C3ABCDERAID6（一）1234雙重校驗碼的硬盤存儲結(jié)構(gòu)在raid5的基礎(chǔ)上發(fā)展而成,具有更高的可靠性允許出現(xiàn)故障的磁盤達到兩個最少需要四個磁盤raid6共五十八頁RAID6（二）優(yōu)點缺點快速的讀取性能更高的容錯能力 很慢的寫入速度成本更高 適用領(lǐng)域：高可靠性環(huán)境至少需要磁盤數(shù)： 4個共五十八頁RAID10 (鏡像陣列條帶化)：將鏡像和條帶組合起來(q li)的組合RAID級別，最低一級是RAID1鏡像對，第二級為RAID0。總?cè)萘?(磁盤數(shù) /2)*(磁盤容量)D1D2D4D4D2D7D8D8D10D11D11D1D1D2D3D4D5D6D7D8D9

17、D10D11D12D13D14D15邏輯磁盤物理磁盤0物理磁盤1物理磁盤2物理磁盤3stripe0stripe1stripe2stripe3D13D14D13stripe4D5D7D10D5D14D3D3D9D9D12D12D15D6D6D15物理磁盤4物理磁盤5RAID10 （一）共五十八頁RAID10（二）優(yōu)點缺點高讀取速率高寫速率，較校驗RAID而言，寫開銷最小至多可以容許N個磁盤同時損壞（2N個磁盤組成的RAID10陣列）貴只有1/2的磁盤利用率適用領(lǐng)域：要求高可靠性和高性能的數(shù)據(jù)庫服務(wù)器至少需要磁盤數(shù)： 4個共五十八頁RAID50定義：將鏡像和條帶組合起來的組合RAID級別(jbi)

18、，最低一級是RAID5鏡像對，第二級為RAID0?？?cè)萘?(磁盤數(shù) -1)*(磁盤容量)D1P11D4P12D2P13D11P23D15P14D16D0D1D2D3D4D5D6D7D8D9D10D11D12D13D14D15邏輯磁盤物理磁盤0物理磁盤1物理磁盤2物理磁盤3stripe0stripe1stripe2stripe3D5D10D14D6D3P21D12D13D17P24P22D7物理磁盤4物理磁盤5D16D17D0RAID50（一）共五十八頁RAID50（二）優(yōu)點缺點比單個RAI5容納更多的磁盤比單個RAID5有更好的讀性能至多可以容許n個磁盤同時損壞（N個RAID5組成的RAID5

19、0陣列）比相同容量的單個RAID5重建時間更短比較難實現(xiàn)同一個RAID5組內(nèi)的兩個磁盤損壞會導(dǎo)致整個RAID50陣列的失效適用領(lǐng)域：大型數(shù)據(jù)庫服務(wù)器應(yīng)用服務(wù)器文件服務(wù)器至少需要磁盤數(shù)： 6個共五十八頁Page 41RAID 級別(jbi)比較項目RAID0RAID1RAID10RAID5、RAID3RAID6最小配置12434性能HighestLowestRAID5RAID10RAID0RAID1RAID5 RAID10RAID6RAID5 RAID10特點無容錯最佳的容錯最佳的容錯提供容錯提供容錯磁盤利用率100%50%50%(N-1)/N(N-2)/N描述不帶奇偶效驗的條帶集磁盤鏡像RAI

20、D0與RAID1的結(jié)合帶奇偶效驗的條帶集雙校驗位其中RAID3與RAID5的區(qū)別為：RAID3更適合于順序(shnx)存取，RAID5更適合于隨機存取。需要根據(jù)具體的應(yīng)用情況決定使用那種RAID級別。共五十八頁Page 42目 錄存儲組網(wǎng)形態(tài)主要協(xié)議RAID磁盤熱備與重構(gòu)快照(kui zho)與復(fù)制數(shù)據(jù)分級存儲概念共五十八頁Page 43所謂熱備份是在建立RAID磁盤陣列系統(tǒng)的時候，將其中一磁盤指定為熱備磁盤，此熱備磁盤在平常并不操作，當陣列中某一磁盤發(fā)生故障時，熱備磁盤便取代故障磁盤，并自動將故障磁盤的數(shù)據(jù)重構(gòu)在熱備磁盤上。熱備盤分為：全局熱備盤和局部熱備盤全局熱備盤：針對整個磁盤陣列，對陣

21、列中所有RAID組起作用。局部熱備盤：只針對某一RAID組起作用。因為反應(yīng)快速，加上快取內(nèi)存減少了磁盤的存取，所以數(shù)據(jù)重構(gòu)很快即可完成，對系統(tǒng)的性能影響不大。對于要求不停機的大型數(shù)據(jù)處理中心或控制中心而言，熱備份更是一項重要的功能，因為可避免晚間或無人守護(shuh)時發(fā)生磁盤故障所引起的種種不便。熱備（HotSpare）共五十八頁Page 44熱備與重構(gòu)在線操作特性 系統(tǒng)中需設(shè)置一個熱添加(tin ji)的備份盤或用一個新的替代磁盤替代故障磁盤 當滿足以下條件時開始數(shù)據(jù)自動重構(gòu) 1、有一個熱備份盤存在獨立于故障磁盤的 2、 所有磁盤都配置為冗余陣列(RAID1,3,5,10) 所有的操作都是

22、在不中斷系統(tǒng)操作的情況下進行的RAID5 set of drives:4 active,1 hot-spareCOPY BACK完成某個磁盤損壞，重構(gòu)過程開始重構(gòu)過程結(jié)束，RAID5可靠性恢復(fù)冗余插入新磁盤，COPYBACK開始共五十八頁Page 45目 錄存儲組網(wǎng)形態(tài)主要協(xié)議RAID磁盤熱備與重構(gòu)快照與復(fù)制(fzh)數(shù)據(jù)分級存儲概念共五十八頁Page 46邏輯(lu j)卷快照(snapshot)DEA C基本概念：Base Volume ：快照源卷Repository Volume ：快照倉儲卷，保存快照源卷在快照過程中被修改以前的數(shù)據(jù)Snapshot Volume ：快照卷某一個時間點的

23、邏輯卷映像：邏輯上相當于整個Base Volume的拷貝(kobi)可將Sanpshot Volume分配給任何一臺主機Snapshot Volume可讀取、寫入或拷貝存儲空間需求需要相當于Base Volume 20%的額外空間用途文件、邏輯卷恢復(fù)備份、測試、數(shù)據(jù)分析等共五十八頁Page 47快照(snapshot) 過程(guchng)演示 B A S E V O L UM E X Y Z并且我們(w men)的卷有足夠的空間來創(chuàng)建快照首先保證我們的源卷和陣列的運行是正常的共五十八頁Page 48W R E P O S I T S N A P S H O T V O L UM B A S

24、E V O L UM E X Y Z R I T E S首先，在快照完成之前控制器是禁止(jnzh)對源卷進行寫操作的。倉儲卷默認(mrn)是源卷大小的20%滿足上面條件后，快照過程開始進行快照(snapshot)開始 共五十八頁Page 49倉儲(cngch)卷（20%源卷大?。┈F(xiàn)在可用快照(kui zho)(snapshot)完成 R E P O S I T S N A P S H O T V O L UM B A S E V O L UM E X Y ZW R I T E S快照完成狀態(tài)，實際上是一些指針當快照完成之后，控制器釋放對源卷的寫權(quán)限，我們可以對源卷進行寫操作共五十八頁Page

25、 50當源卷數(shù)據(jù)(shj)改變時我們的源卷數(shù)據(jù)在改變之前會順序的寫到倉儲卷上，然后再把快照指針指導(dǎo)(zhdo)這邊來。 B A S V O E T S N A P S H O T V O L UM B A S E V O L UM E X Y ZW R I T E S然后源卷的數(shù)據(jù)才會開始更新共五十八頁Page 51最后(zuhu)一步我們(w men)源卷的原數(shù)據(jù)已經(jīng)寫到了倉儲卷上 B A S V O E T S N A P S H O T V O L UMW R I E T E L UM S X Y Z快照卷的指針指到了新的數(shù)據(jù)位置源卷數(shù)據(jù)更新完畢共五十八頁Page 52邏輯(lu j)卷

26、拷貝(Volume Copy)生產(chǎn)(shngchn)主機測試主機基本概念將一個邏輯卷（Source）上的內(nèi)容完全物理上 拷貝到另一個邏輯卷（Target）拷貝過程中源卷只讀在同一個存儲系統(tǒng)內(nèi)目標邏輯卷可以做另一個Volume Copy的源卷用途目標邏輯卷可用來做經(jīng)營分析、數(shù)據(jù)挖掘、測 試、備份等 對目標卷的操作不影響源卷的性能 重新分配數(shù)據(jù)，使性能和容量分配達到最優(yōu)化 將數(shù)據(jù)遷移到新的、更大的、更快的磁盤上 將邏輯卷遷移到更合適的邏輯卷組上共五十八頁Page 53邏輯(lu j)卷快照+邏輯卷拷貝 通過快照獲得Base Volume的 SnapshotVolume在Snapshot Volum

27、e被拷貝的過程中Base Volume可被正常訪問當拷貝結(jié)束時，可將Snapshot刪除，留下一個完整的時點拷貝邏輯卷拷貝與邏輯卷快照(kui zho)相結(jié)合，實現(xiàn)此功能！如何在Volume Copy過程中對源卷進行正常訪問？共五十八頁Page 54目 錄存儲組網(wǎng)形態(tài)主要(zhyo)協(xié)議RAID磁盤熱備與重構(gòu)快照與復(fù)制數(shù)據(jù)分級存儲概念共五十八頁數(shù)據(jù)分級(fn j)存儲概念數(shù)據(jù)分級存儲： 把數(shù)據(jù)存放在不同類別的存儲設(shè)備（磁盤、磁盤陣列、光盤庫、磁帶(cdi)）中，通過分級存儲管理軟件實現(xiàn)數(shù)據(jù)實體在存儲設(shè)備之間的自動遷移。根據(jù)數(shù)據(jù)的訪問頻率、保留時間、容量、性能要求等因素確定最佳存儲策略，從而控制數(shù)據(jù)遷移的規(guī)則。分級存