軟件和技術(shù)原理-ONTAP系統(tǒng) v1

NetApp軟件和技術(shù)原理DataONTAP操作系統(tǒng)ServiceOneGretronicsDataONTAP操作系統(tǒng)

DataONTAP操作系統(tǒng)是NetApp公司研發(fā)的，具有多項(xiàng)獨(dú)家知識(shí)產(chǎn)權(quán)的軟件產(chǎn)品。通過(guò)結(jié)合WAFL文件系統(tǒng)和微核設(shè)計(jì)等多項(xiàng)專利技術(shù)，DataONTAP負(fù)責(zé)對(duì)網(wǎng)絡(luò)數(shù)據(jù)提供優(yōu)化的存儲(chǔ)訪問(wèn)服務(wù)。DataONTAP能使網(wǎng)絡(luò)和硬盤(pán)系統(tǒng)的資料交換效率達(dá)到最佳，系統(tǒng)核心極小(microkernel)，同時(shí)具有高穩(wěn)定性、高效率、多重通訊協(xié)議的特性，主要架構(gòu)分成三大部分：

第一是接口部分，包括網(wǎng)絡(luò)接口(GbE-Fiber/Copper,TCP/IPOffloadEngine)和光纖接口(2Gb-FibreChannel)第二是通訊協(xié)議部分，包括FileProtocol(NFS,CIFS,HTTP,DAFS)和BlockProtocol(FCP,iSCSI)第三是文件系統(tǒng)WAFL和整合式RAID磁盤(pán)陣列系統(tǒng)(IntegratedRAIDManager)ServiceOneGretronicsDataONTAP操作系統(tǒng)ServiceOneGretronicsDataONTAP操作系統(tǒng)當(dāng)前DataONTAP操作系統(tǒng)在部署的是7.x.x和8.x.xServiceOneGretronicsDataONTAP操作系統(tǒng)FAS存儲(chǔ)操作系統(tǒng)

FAS系列/V系列/GX

核心技術(shù)

WAFL/Snapshot/Raid-dp/Flexvoletc.

開(kāi)放存儲(chǔ)協(xié)議

FCP/NFS/CIFS/ISCSI–統(tǒng)一存儲(chǔ) http/https/ftp/ndmp/snmp/smtp/telnet/rsh/sshetc.

存儲(chǔ)網(wǎng)絡(luò)接口

FC-SAN Ethernet-NAS,IP-SANServiceOneGretronics存儲(chǔ)單元?jiǎng)澐諷erviceOneGretronicsAggr1vol0vol1vol2vol3物理磁盤(pán)Aggregate(RAID組集合)FlexvolumeLUN物理層面邏輯層面存儲(chǔ)單元名稱與定義Aggregate每個(gè)控制器必須有獨(dú)立的Aggregate可以包含一個(gè)或多個(gè)RAID組，每個(gè)RAID組對(duì)應(yīng)一種RAID級(jí)別（增強(qiáng)型RAID4或RAIDDP）一個(gè)Aggregate只有一種RAID類型，可以在線更改RAID類型物理磁盤(pán)的聚合，可以在線的添加硬盤(pán)但不能減少硬盤(pán)數(shù)量可以包含多個(gè)FlexVolumeVolumeNAS存儲(chǔ)單元FlexVolume，可以動(dòng)態(tài)縮放（20MB－16TB）TraditionalVolume，不支持動(dòng)態(tài)縮放WAFL文件系統(tǒng)結(jié)構(gòu)LUNSAN/IP-SAN存儲(chǔ)單元虛擬化，可以動(dòng)態(tài)縮放數(shù)據(jù)格式由主機(jī)定義ServiceOneGretronicsWAFL?

顯著增強(qiáng)了RAID性能WAFL將許多個(gè)寫(xiě)入IO聚合成少數(shù)大的磁盤(pán)IO并寫(xiě)入同一個(gè)RAID條帶磁頭機(jī)械移動(dòng)的減少獲得了極高的性能提升NVRAM保證數(shù)據(jù)最終寫(xiě)入磁盤(pán)前不會(huì)丟失與訪問(wèn)協(xié)議無(wú)關(guān)－FCP,NFS,CIFS,ISCSINetApp采用了RAID4或RAID-DPServiceOneGretronics校驗(yàn)盤(pán)一個(gè)條帶數(shù)據(jù)盤(pán)FlexVol靈活卷ServiceOneGretronicsAggregateDisksDisksDisksFlexVolume:邏輯空間不需要直接對(duì)應(yīng)到物理磁盤(pán)，實(shí)現(xiàn)了虛擬化FlexibleVolumesAggregate包含物理磁盤(pán)傳統(tǒng)的存儲(chǔ)空間分配方式ServiceOneGretronicsERP系統(tǒng)CRM系統(tǒng)辦公自動(dòng)化系統(tǒng)生產(chǎn)控制系統(tǒng)其它系統(tǒng)3TB1TB1TB2TB2TB總可分配存儲(chǔ)空間哎，都分光了，沒(méi)有剩余存儲(chǔ)空間傳統(tǒng)存儲(chǔ)空間分配方式導(dǎo)致的矛盾ServiceOneGretronics3TBERP系統(tǒng)1TBCRM系統(tǒng)辦公自動(dòng)化系統(tǒng)2TB生產(chǎn)管理系統(tǒng)其它系統(tǒng)2TB分配空間不足需要擴(kuò)容未使用空間Hi，兄弟分我一點(diǎn)存儲(chǔ)空間門(mén)都沒(méi)有，自己找管理員要已使用空間1TB圖例使用一段時(shí)間后的情景傳統(tǒng)存儲(chǔ)空間分配方式導(dǎo)致的低使用率Flexvol技術(shù)采用的先進(jìn)的存儲(chǔ)空間分配方式ServiceOneGretronics嘿嘿，所有的存儲(chǔ)空間還在我手里ERP系統(tǒng)CRM系統(tǒng)辦公自動(dòng)化系統(tǒng)生產(chǎn)控制系統(tǒng)其它系統(tǒng)最多使用3TB最多使用1TB最多使用1TB最多使用2TB最多使用2TB總可分配存儲(chǔ)空間規(guī)定最大能使用的空間配額，不實(shí)際占用空間Flexvol技術(shù)采用的使用多少分配多少技術(shù)ServiceOneGretronics最多使用3TBERP系統(tǒng)最多使用1TBCRM系統(tǒng)辦公自動(dòng)化系統(tǒng)最多使用2TB生產(chǎn)管理系統(tǒng)其它系統(tǒng)最多使用2TB需要擴(kuò)容未使用空間還剩余的空間使用配額已使用空間圖例總可分配存儲(chǔ)空間多給0.5TB配額最多使用1TB在使用當(dāng)中，采用使用多少分配多少的策略還有這么多空間可以分配FlexVolume技術(shù)提高了存儲(chǔ)空間的使用率FlexVol自動(dòng)精簡(jiǎn)配置技術(shù)ServiceOneGretronics6TBDisksDisksDisks3TB1TBCRM系統(tǒng)2TB1TB辦公自動(dòng)化系統(tǒng)生產(chǎn)管理系統(tǒng)2TB其它系統(tǒng)存儲(chǔ)空間池ERP系統(tǒng)規(guī)定最大能使用的空間配額，不實(shí)際占用空間3TB+1TB+1TB+2TB+2TB6TB>管理Aggregateaggr－可以創(chuàng)建/刪除/管理aggregates,查看aggregates狀態(tài)aggr命令的參數(shù)有：addmirrorrestrictundestroycopyofflinescrubverifycreateonlineshow_spacedestroyoptionssplitmedia_scrubrenamestatus創(chuàng)建AggregateSystem>aggrcreate<aggrname>[-r,-t]ndisks[@disk-size]-r指定一個(gè)RAID組中最多包含的硬盤(pán)數(shù)量（包括校驗(yàn)盤(pán)）-t指定RAID類型（增強(qiáng)型的RAID4還是DAIDDP）ndisk指定需要用幾塊硬盤(pán)創(chuàng)建aggrgate@size指定硬盤(pán)的容量例如：aggraddaggr1–r14–traid46@600g創(chuàng)建一個(gè)有6塊600GB硬盤(pán)的aggregate，名字叫aggr1。使用的RAID類型是增強(qiáng)型的RAID4，每個(gè)RAID組最多包含14塊硬盤(pán)，ServiceOneGretronics管理Aggregate查看aggr的空間使用狀況System>aggrshow_space[aggrname]啟用/關(guān)閉aggregateSystem>aggronline<aggrname>啟用aggregateSystem>aggroffline<aggrname>關(guān)閉aggregate刪除aggregateSystem>aggrdestroy<aggrname>（aggregate必須先offline）ServiceOneGretronics管理Aggregate更改aggregate的RAID類型System>aggroptions<aggrname>raidtype<raid4|raiddp>例如：aggroptionsaggr1raidtyperaiddp（將aggr1的RAID類型改為RAIDDP）更改aggregate的RAID組的大小System>aggroptions<aggrname>raidsize<value>例如：aggroptionsaggr1raidsize18（調(diào)整aggr1的RAID組的大小，每個(gè)組最多包

含18塊硬盤(pán)）往現(xiàn)有的aggregate中增加硬盤(pán)，增大aggregate的空間System>aggradd<aggrname>[ndisk[@disk-size]or–d[diskname1,diskname2…]例如：aggraddaggr1–d0a.17,0a.20（增加2塊硬盤(pán)到aggr1）ServiceOneGretronics管理Aggregate查看aggregate狀態(tài)，包括有哪些aggregate，每個(gè)aggregate的RAID類型，硬盤(pán)的數(shù)量，space盤(pán)的數(shù)量，數(shù)據(jù)盤(pán)有幾塊，校驗(yàn)盤(pán)有幾塊System>aggrstatus-rServiceOneGretronics管理Volumevol－可以創(chuàng)建/刪除/管理Volume，查看Volme狀態(tài)vol命令的參數(shù)有：addofflineonlinescrubclonedestroysizeautosizeoptionssplitrenamestatuscopymirrorcreate創(chuàng)建VolumeSystem>volcreate<volname><existing-aggrname><size>[k|m|g|t]例如：volcreatevol1aggr1600g（在現(xiàn)有的aggr1上創(chuàng)建一個(gè)6OOGB的vol1，vol1

是一個(gè)FlexVolume靈活卷）啟用/關(guān)閉volumeSystem>volonline<volname>啟用volumeSystem>voloffline<volname>關(guān)閉volume刪除VolumeSystem>voldestroy<volname>（volume必須先offline）ServiceOneGretronics管理Volume調(diào)整volume的大小System>volsize<volname>[+|-]<size>[k|m|g|t]例如：volsizevol1+300m（vol1增大300MB的空間）查看volume的大小System>volsize<volname>例如：volsizevol2更改volume的名稱System>volrename<volname><newvolname>例如：volrenamevol1vol2（將vol1改為vol2）ServiceOneGretronics管理Volume查看volume狀態(tài)System>volstatusServiceOneGretronicsWAFL文件系統(tǒng)NetApp的文件系統(tǒng)名為WAFL，是專為Filer系統(tǒng)而設(shè)計(jì)的。WAFL是“WriteAnywhereFileLayout”，即“任意位置寫(xiě)入文件布局”的縮寫(xiě)。WAFL文件系統(tǒng)和Filer的整合式RAID管理采用一體化設(shè)計(jì)，以避免大多數(shù)帶有RAID管理機(jī)制的文件系統(tǒng)所固有的性能問(wèn)題。網(wǎng)絡(luò)化存儲(chǔ)實(shí)際應(yīng)用中的三個(gè)基本要求決定了需要為NetAppFiler設(shè)計(jì)全新的文件系統(tǒng)：文件系統(tǒng)應(yīng)該更加有效地操控RAID機(jī)制增加新的硬盤(pán)時(shí)，文件系統(tǒng)應(yīng)該能夠相應(yīng)的動(dòng)態(tài)增長(zhǎng)

文件系統(tǒng)應(yīng)該不需要做消耗大量時(shí)間的一致性檢查ServiceOneGretronicsWAFL文件系統(tǒng)WAFL的主要特點(diǎn)及其所帶來(lái)的優(yōu)勢(shì)包括：ServiceOneGretronics特點(diǎn)優(yōu)勢(shì)永遠(yuǎn)一致性的文件系統(tǒng)任何時(shí)刻文件系統(tǒng)均處于一致性的狀態(tài)，即使遇到非正常斷電或不正常關(guān)機(jī)后，也不需執(zhí)行硬盤(pán)檢查，即可在復(fù)電后2分鐘內(nèi)迅速提供服務(wù)具電池保護(hù)的NVRAM日志利用存取速度較硬盤(pán)快一千倍的內(nèi)存，擔(dān)任文件系統(tǒng)的日志，同時(shí)保護(hù)metadata及data的交易紀(jì)錄，并加速寫(xiě)入的效率和反應(yīng)時(shí)間、保證文件系統(tǒng)的一致性、保證寫(xiě)入的交易不會(huì)因斷電而流失。內(nèi)建智能型最佳化的RAID磁盤(pán)陣列管理系統(tǒng)配合NVRAM日志功能，藉由硬盤(pán)區(qū)塊的配置最佳化，可將大量的隨機(jī)寫(xiě)入轉(zhuǎn)為少量的循序?qū)懭?，真正達(dá)到平行寫(xiě)入(StripeWrite)并減少磁頭移動(dòng)的次數(shù)和磁頭移動(dòng)的距離的目的，加速文件存取和搜尋的速度能增長(zhǎng)的文件系統(tǒng)不需其它軟件的協(xié)助，就可直接實(shí)時(shí)動(dòng)態(tài)線上擴(kuò)增文件系統(tǒng)容量且立刻能使用新增加的容量。每次可只增加一塊硬盤(pán)或多塊硬盤(pán)的方式來(lái)擴(kuò)增，完全不需要停機(jī)，也不需要等待時(shí)間。另外也可在不擴(kuò)增容量的前提下，動(dòng)態(tài)線上提高文件數(shù)量的上限，完全不需要停機(jī)，也不需要等待時(shí)間，也不影響系統(tǒng)運(yùn)作效率硬盤(pán)區(qū)塊驗(yàn)證系統(tǒng)(Block-levelChecksum)保障資料讀取的正確性瞬間快照備份(Snapshot)使用不需要移動(dòng)硬盤(pán)區(qū)塊的WAFL專利技術(shù)，可瞬間備份整個(gè)文件系統(tǒng)，每個(gè)volume可有255份快照，每個(gè)使用者都有自己專屬的一個(gè)快照目錄，可自行恢復(fù)只屬于自己在任一快照時(shí)間點(diǎn)的資料，完全不需系統(tǒng)管理人員的協(xié)助。每個(gè)快照備份皆是完整的文件系統(tǒng)備份(FullFileSystemBackup)，不論已有多少份數(shù)的備份，系統(tǒng)運(yùn)作效率皆不受影響WAFL文件系統(tǒng)

WAFL作為專門(mén)為網(wǎng)絡(luò)文件訪問(wèn)而優(yōu)化的UNIX兼容文件系統(tǒng)。在某些方面，其磁盤(pán)格式類似于其它UNIX文件系統(tǒng)，如伯克利快速文件系統(tǒng)（BerkeleyFastFileSystem，以下簡(jiǎn)稱FFS）和IBMTransArcEpisode文件系統(tǒng)，相似之處包括：WAFL是基于數(shù)據(jù)塊的，使用沒(méi)有片段的4KB大小數(shù)據(jù)塊WAFL使用inodes來(lái)描述其文件WAFL文件系統(tǒng)中，目錄是格式特殊的文件WAFL使用文件來(lái)儲(chǔ)存元數(shù)據(jù)（MetaData），WAFL三個(gè)最重要的元數(shù)據(jù)文件是inode文件，包含文件系統(tǒng)所有的inode塊圖文件，用以識(shí)別空閑塊inode圖文件，用以識(shí)別空閑inode這里采用“圖”而不是“位圖”的稱謂，因?yàn)檫@些文件采用多于1位（bit）對(duì)每一個(gè)路徑加以描述ServiceOneGretronicsWAFL文件系統(tǒng)每一個(gè)WAFLinode包含16個(gè)塊指針，用以表明哪一個(gè)數(shù)據(jù)塊屬于該文件。不同于伯克利快速文件系統(tǒng)，一個(gè)WAFLinode的所有塊指針指向的是相同層次上的數(shù)據(jù)塊。這樣，對(duì)于小于64KB的文件，inode使用16個(gè)塊指針指向文件數(shù)據(jù)塊；大于64MB的文件，inode使用塊指針指向間接數(shù)據(jù)塊，間接數(shù)據(jù)塊再指向?qū)嶋H的文件數(shù)據(jù)塊。較大文件的inode指向更多的間接數(shù)據(jù)塊。對(duì)于十分小的文件，數(shù)據(jù)儲(chǔ)存在inode本身。簡(jiǎn)單的，可以把WAFL理解為數(shù)據(jù)塊樹(shù)型結(jié)構(gòu)，在樹(shù)的根部是rootinode，rootinode是用以描述inode文件的特殊inode。inode文件包含描述系統(tǒng)中其它文件的inode，包括塊圖和inode圖文件。WAFL文件系統(tǒng)數(shù)據(jù)塊樹(shù)型結(jié)構(gòu)的樹(shù)葉是所有文件的數(shù)據(jù)塊。如圖所示ServiceOneGretronicsWAFL文件系統(tǒng)文件由不同的數(shù)據(jù)塊組成。較大的文件在inode和實(shí)際數(shù)據(jù)塊之間存在額外的間接層次。WAFL要啟動(dòng)的話，必須要找到該樹(shù)型結(jié)構(gòu)的根部，所以對(duì)于WAFL（任意位置寫(xiě)入文件布局）來(lái)講，rootinode是個(gè)例外，它必須處于硬盤(pán)上的固定位置以便WAFL定位。使用文件來(lái)保存元數(shù)據(jù)的方式帶來(lái)的好處有：允許在硬盤(pán)上任何地方寫(xiě)入元數(shù)據(jù)塊。這就是WAFL名稱的起源。與FFS類似，WAFL在其寫(xiě)入分配策略上有著完全的靈活性，數(shù)據(jù)塊不是被永久地分配到固定的磁盤(pán)位置上。WAFL利用了這種靈活性來(lái)優(yōu)化Filer的RAID性能。WAFL可以事先規(guī)劃對(duì)同一RAID條帶進(jìn)行多重寫(xiě)入的時(shí)間，這樣當(dāng)僅僅更新RAID某一硬盤(pán)條帶中某一數(shù)據(jù)塊時(shí)，就不會(huì)對(duì)整個(gè)寫(xiě)入性能帶來(lái)?yè)p耗使文件系統(tǒng)的增長(zhǎng)變得十分容易。當(dāng)增加新的硬盤(pán)時(shí)，F(xiàn)iler可以自動(dòng)增加元數(shù)據(jù)文件的大小。如果系統(tǒng)的缺省值稍小，管理員也可以手動(dòng)增加文件系統(tǒng)中的inode。允許元數(shù)據(jù)塊在硬盤(pán)上任何地方寫(xiě)入。這種方式使得SnapShot數(shù)據(jù)快照功能成為可能。要使SnapShot可以工作，WAFL必須可以把新的數(shù)據(jù)，包括元數(shù)據(jù)寫(xiě)入到新的硬盤(pán)空間上，而不是覆蓋原有數(shù)據(jù)。如果WAFL在磁盤(pán)上固定的位置存儲(chǔ)元數(shù)據(jù)，這項(xiàng)功能就不可能實(shí)現(xiàn)

ServiceOneGretronics

批次動(dòng)態(tài)條帶化讀寫(xiě)算法

WAFL文件系統(tǒng)中采用批次動(dòng)態(tài)條帶化讀寫(xiě)算法。在UNIX或者Windows文件服務(wù)器中，寫(xiě)入性能尤其重要，因?yàn)樗仨氈苯用鎸?duì)硬盤(pán)(或非易失性內(nèi)存)，而讀操作尚可以面對(duì)UNIX/Windows客戶端和服務(wù)器的高速緩存。這就使得UNIX或者Windows客戶端和服務(wù)器的硬盤(pán)寫(xiě)操作要比讀操作多5－10倍。當(dāng)服務(wù)器端和客戶端高速緩存增大的情況下，對(duì)寫(xiě)入操作的響應(yīng)主導(dǎo)了I/O子系統(tǒng)的處理過(guò)程。其影響是NFS服務(wù)器上的磁盤(pán)寫(xiě)操作可能比讀操作多5倍這種需求特點(diǎn)，激發(fā)了WAFL在最初的設(shè)計(jì)中，即最大限度的發(fā)揮了寫(xiě)入分配策略的靈活性。WAFL文件系統(tǒng)中，通過(guò)批次動(dòng)態(tài)條帶化讀寫(xiě)算法的三種機(jī)制，保證了這種靈活性的實(shí)現(xiàn)：WAFL能把文件系統(tǒng)的任何數(shù)據(jù)塊(除包含rootinode的數(shù)據(jù)塊外)寫(xiě)到磁盤(pán)中的任何位置上，從而創(chuàng)造性的優(yōu)化了寫(xiě)入性WAFL能把數(shù)據(jù)塊按任何順序?qū)懙酱疟P(pán)WAFL能在單一寫(xiě)入周期內(nèi)為多個(gè)NFS操作同時(shí)分配盤(pán)空間。這種延緩分配寫(xiě)入空間的機(jī)制通過(guò)從應(yīng)答處理的過(guò)程中去除磁盤(pán)分配時(shí)間，大大改進(jìn)了NFS操作的等待時(shí)間。對(duì)于那些在到達(dá)磁盤(pán)前即被刪除的數(shù)據(jù)塊而言，這種方式也避免了時(shí)間的浪費(fèi)ServiceOneGretronics批次動(dòng)態(tài)條帶化讀寫(xiě)算法這些特性賦予了WAFL文件系統(tǒng)特別靈活的寫(xiě)入策略。為眾多寫(xiě)入同時(shí)分配空間的能力使其更加智能化，允許將數(shù)據(jù)快以任何順序?qū)懭氲饺魏蔚胤降哪芰τ执_保了這種策略適用于多種環(huán)境。概要地講:WAFL通過(guò)將多數(shù)據(jù)塊寫(xiě)入到同一條帶中的方式，大大提高了RAID的效率與性能WAFL通過(guò)將相關(guān)的塊寫(xiě)入到相近的位置而大大縮短了尋道時(shí)間WAFL通過(guò)將順序的塊放置在RAID陣列中某個(gè)單一磁盤(pán)上的方式，減少了大文件讀出時(shí)的磁頭沖突ServiceOneGretronics

NVRAM

為在磁盤(pán)上保存完整的文件系統(tǒng)一致性版本，WAFL文件系統(tǒng)至少每10秒會(huì)生成一個(gè)內(nèi)部數(shù)據(jù)快照SnapShot，稱為一個(gè)一致點(diǎn)(consistencypoint)。當(dāng)時(shí)Filer啟動(dòng)時(shí)，WAFL總是使用時(shí)間最近的一致點(diǎn)版本，這意味著即使發(fā)生掉電或者其它嚴(yán)重系統(tǒng)錯(cuò)誤后，系統(tǒng)再次投入正常運(yùn)轉(zhuǎn)也無(wú)需耗時(shí)的文件系統(tǒng)檢查工作。Filer在僅僅1到2分鐘的時(shí)間內(nèi)即可正常啟動(dòng)，而這段時(shí)間也主要是花費(fèi)在磁盤(pán)定位和內(nèi)存檢查上。NVRAM是帶有電池的獨(dú)特內(nèi)存，即使切斷電源，仍然可以存儲(chǔ)數(shù)據(jù)。在不正常停機(jī)之后，WAFL重演所有“日志”以防丟失，當(dāng)使用者的寫(xiě)入要