IBM Spectrum Scale技術(shù)和架構(gòu)詳解

1、 IBM Spectrum Scale技術(shù)和架構(gòu)詳解 2016年為止，IBM高端存儲最新產(chǎn)品為DS8884、DS8886和DS8888。閃存系統(tǒng)最新產(chǎn)品，以FlashSystem 900為硬件基礎(chǔ)，包裝了Flash System V9000、A9000和A9000R，今天我們重點(diǎn)討論下IBM Spectrum Scale軟件定義存儲產(chǎn)品。 IBM Spectrum Scale完全繼承GPFS，也稱作Elastic Storage，兼容AIX, Linux and Windows Server操作系統(tǒng)，支持IBM POWER, Intel或AMD Opteron 服務(wù)器和 z Systems。

2、Spectrum Scale具有良好的可擴(kuò)展性、閃存加速性能，以及基于策略的自動存儲分層功能（從閃存、磁盤到磁帶）。 Spectrum Scale為所有數(shù)據(jù)提供單一文件命名空間，提供Swift/S3對象服務(wù)和Openstack接口、大數(shù)據(jù)等存儲服務(wù)接口。 IBM Spectrum Scale是高性能、高擴(kuò)展性的文件、對象、塊和大數(shù)據(jù)分析的存儲軟件，具備隨地存儲、運(yùn)行和數(shù)據(jù)訪問能力。 Spectrum Scale在GPFS的基礎(chǔ)上增加了Hadoop大數(shù)據(jù)、對象等能力，在存儲功能上有了增強(qiáng)，具備豐富的特性、如Cache加速、生命周期管理、統(tǒng)一命名空間、多站點(diǎn)等；同時(shí)支持加密等特性和軟硬件解耦部署云

3、集成 可以和IBM Spectrum controller SDS控制器、SmartCloud Virtual Storage Center業(yè)務(wù)編排、SmartCloud Storage Access云存儲服務(wù)引擎、Openstack、IBM Cloud云平臺和管理平臺集成。存儲服務(wù)能力 提供豐富的業(yè)務(wù)訪問能力，如文件接口(POSIX, NFS, CIFS),對象接口(S3, SWIFT)、大數(shù)據(jù)接口Hadoop Distributed File System (HDFS)等等，支持集中部署和分部署多Region部署。 數(shù)據(jù)生命周期管理能力，存儲內(nèi)部HDD、SSD之間熱點(diǎn)遷移；存儲間，存儲和帶

4、庫間數(shù)據(jù)熱點(diǎn)遷移；數(shù)據(jù)云上云下數(shù)據(jù)熱點(diǎn)遷移。Spectrum Scale的三種交付模型Cloud-based delivery model，Spectrum Scale部署在云上提供存儲服務(wù)，例如IBM SoftLayer。Software-based delivery model，用戶可以基于現(xiàn)有的硬件部署IBM Spectrum Scale storage，可以選擇不同的服務(wù)器硬件和操作系統(tǒng)，目前支持的服務(wù)器硬件和操作系統(tǒng)有：Linux on Power、Linux on IBM z Systems、Linux on x86 (64-bit)、IBM AIX on Power、Micros

5、oft Windows on x86 (64-bit)。Hardware-based delivery model，用戶可以根據(jù)需求購買軟硬一體化設(shè)備，設(shè)備上已經(jīng)預(yù)安裝了IBM的相關(guān)軟件。IBM Spectrum Scale基于SDS，實(shí)現(xiàn)容量和性能獨(dú)立按需擴(kuò)展，避免容量或性能浪費(fèi)，也可以獨(dú)立擴(kuò)展存儲服務(wù)接口類型。IBM Spectrum Scale支持多種部署選項(xiàng)和現(xiàn)有塊存儲、存儲服務(wù)器（ESS）硬件節(jié)點(diǎn)集成，提供全局命名空間和統(tǒng)一訪問接口。豐富的企業(yè)存儲特性 TCS（Transparent cloud tiering），集Flash、HDD disk, cloud,帶庫成一套存儲系統(tǒng)，滿足

6、高性能、降低成本。IBM公有云（如Softlayer）或Cloud Object Storage可作為其一個(gè)存儲層使用。 統(tǒng)一的文件和對象，文件和對象共享存儲空間，文件數(shù)據(jù)可以通過文件讀取，避免了數(shù)據(jù)孤島和數(shù)據(jù)從文件到對象轉(zhuǎn)化的成本。 快照和同步異步復(fù)制，實(shí)現(xiàn)數(shù)據(jù)快速備份，副本和數(shù)據(jù)按需恢復(fù)；實(shí)現(xiàn)自動的故障Failover和Fialback。 基于策略的數(shù)據(jù)壓縮，節(jié)約存儲容量，按需指定需要壓縮的數(shù)據(jù)。 加密和文件刪除 ，采用獨(dú)立密鑰管理系統(tǒng)實(shí)現(xiàn)數(shù)據(jù)在傳輸過程和存儲介質(zhì)中的加密，采用銷毀密鑰的方式刪除數(shù)據(jù)。 多站點(diǎn)global命名空間，部署在不同區(qū)域的存儲可以通過全局命名空間訪問，通過全局文件共

7、享Global Active File Management和advanced routing and caching加速跨數(shù)據(jù)中心和區(qū)域應(yīng)用的訪問性能. 數(shù)據(jù)生命周期智能感知，基于策略，根據(jù)冷熱度把數(shù)據(jù)遷移至匹配層。Spectrum Scale架構(gòu)分類 軟件定義存儲，軟硬件解耦，可以根據(jù)業(yè)務(wù)需要選擇硬件。IBM提供了Elastic Storage Server (ESS)配合Spectrum Scale版本部署，四種部署架構(gòu)。Network-Based Client架構(gòu)，Direct Attached Storage架構(gòu)，Mixed NSD access架構(gòu)和File Placement O

8、ptimizer (FPO)架構(gòu)。 Spectrum Scale是存儲虛擬化軟件，與硬件解耦；可根據(jù)應(yīng)用需求選擇硬件，考慮靈活性，可以采用通用硬件，考慮性能，可以選擇配置較高的硬件，IBM推薦的服務(wù)器為Elastic Storage Server。 IBM Elastic Storage Server軟件包括；Red Hat Enterprise Linux 7 for Power，GPFS Standard Edition 4.X，GPFS Native RAID 4.X，IBM Support for xCAT 2（Extreme Cluster/Cloud Administration

9、Toolkit）。IBM Elastic Storage Server Elastic Server分為GS和GL兩類， GS系列分四個(gè)型號： GS1支持24塊SSD磁盤，帶寬支持6GB。 GS2支持SSD或SSD SAS配置，對應(yīng)帶寬有所區(qū)別。 GS4模型和GS2類似，最大區(qū)別在于磁盤數(shù)量和帶寬。 GS6支持SSD和SAS混合配置，帶寬可以支持7GB。Elastic Server GL系列分三個(gè)型號： GL2支持SSD和NL-SAS磁盤配置，聚焦分析性業(yè)務(wù)，對應(yīng)帶寬可達(dá)5GB以上，裸容量可達(dá)460TB。 GL4聚焦大數(shù)據(jù)分析和云計(jì)算，類似GL2，最大區(qū)別在于磁盤容量和帶寬。 GS6是由6個(gè)磁

10、盤框構(gòu)成，所以支持容量更大，性能更高，帶寬可以支持12GB以上。IBM Spectrum Scale RAID Spectrum Scale搭配IBM的服務(wù)器和JBOD硬件組合為Elastic Storage Server，這種方案中已經(jīng)實(shí)現(xiàn)了EC方式的軟RAID(本地RAID)，所有數(shù)據(jù)分布由Spectrum Scale控制。軟RAID支持EC（最大3）和副本（最大4副本）；數(shù)據(jù)分布到更多盤，獲取更高的性能和數(shù)據(jù)恢復(fù)效率；能承受硬盤框級別的故障。Active File Management (AFM) AFM主要用來實(shí)現(xiàn)跨地域的數(shù)據(jù)共享和訪問加速，適用于分支辦公場景，AFM為位于不同地域的多

11、個(gè)集群提供統(tǒng)一的命名空間，多個(gè)集群間可通過WAN互聯(lián)，使用NFS協(xié)議進(jìn)行數(shù)據(jù)的并行傳輸。Spectrum Scale Snapshots for Files 支持基于file system, file set, and file level的快照，可指定策略的保留周期、支持多次快照，快照支持備份或鏡像程序并發(fā)訪問（推測是只讀快照）。 支持文件克隆。IBM Spectrum Scale V4版本支持10,000個(gè)Filesets，支持256個(gè)Global快照和256個(gè)獨(dú)立的Fileset快照。 Filesets：提供一個(gè)細(xì)粒度的文件目錄管理方式，如文件系統(tǒng)的一個(gè)分區(qū)或子目錄，F(xiàn)ilesets可以

12、用來執(zhí)行配額管理、快照、掛載、卸載操作、并可作為存儲Pool使用等。Cache加速技術(shù) 通過在Client節(jié)點(diǎn)插入廉價(jià)的SSD和Flash，Spectrum Scale自動的、透明的把熱點(diǎn)數(shù)據(jù)加速在SSD或Flash中，增加存儲性能，并且減小數(shù)據(jù)訪問時(shí)延。 HAWC采用NVRAM（SSD、Flash或FlashSystem）緩存Recovery Log，降低同步寫的時(shí)延，通常有兩種方式使用HAWC。保存Spectrum Scale recovery log和元數(shù)據(jù)到高可用的存儲系統(tǒng)，例如閃存、FlashSystem。保存Spectrum Scale recovery log和元數(shù)據(jù)在Spect

13、rum Scale client節(jié)點(diǎn)的低可靠NVRAM中。Hierarchical Storage Management (HSM) HSM是一個(gè)數(shù)據(jù)性能優(yōu)化方案，通過閃存IBM FlashSystem作為Hot file存儲層提高文件系統(tǒng)性能，并實(shí)現(xiàn)數(shù)據(jù)在HDD、SSD和帶庫之間按照熱點(diǎn)自動回遷。 Spectrum Scale可以定制ILM（Information lifecycle management）策略，ILM策略使用類SQL的語法，將冷數(shù)據(jù)遷移到云存儲中，云存儲支持IBM自己的公有云、Cleversafe和其他兼容Amazon S3或OpenStack Swift的對象存儲。Uni

14、fied file and object access（UFO） 通過文件接口(SMB/NFS/POSIX)訪問對象數(shù)據(jù)，同時(shí)支持通過對象接口訪問文件，無縫地繼承了文件和對象數(shù)據(jù)。 在類似Hadoop MapReduce或Spark的分析系統(tǒng)中，對象數(shù)據(jù)可以作為File或fileset被直接訪問用來進(jìn)行數(shù)據(jù)分析。 數(shù)據(jù)以對象采集、分析結(jié)果以對象發(fā)布，整個(gè)過程無需數(shù)據(jù)移動。支持虛擬化部署 Spectrum Scale支持部署在專用的服務(wù)器，或部署在如基于虛擬化的AIX, Linux,或者Windows操作系統(tǒng)之上。 基于虛擬化部署，考慮到性能，兼容性等因素，在實(shí)際應(yīng)用中很少遇到，在技術(shù)上支持的虛擬化平臺有：PowerVM:兩種Virtual I/O Server (VIOS)方式實(shí)現(xiàn)虛擬化。Virtual SCSI target adapters (V