VPLEX測(cè)試報(bào)告.doc

VPLEX高可用性測(cè)試報(bào)告測(cè)試場(chǎng)景一：VPLEX的架構(gòu)可靠性測(cè)試拓?fù)鋱D如下：測(cè)試方法1:在本地站點(diǎn)的兩臺(tái)存儲(chǔ)上各取一個(gè)LUN做一個(gè)本地鏡像卷2:在ORACLE RAC數(shù)據(jù)庫(kù)持續(xù)插入數(shù)據(jù)3:強(qiáng)制關(guān)閉VPLEX的一個(gè)director4:從AIX主機(jī)上監(jiān)控?cái)?shù)據(jù)IO的情況測(cè)試記錄 如下圖，RAC沒故障，數(shù)據(jù)庫(kù)日志沒出錯(cuò)記錄 如下圖，從多路徑看，有一半的路徑dead如下圖，RAC的IO沒停止如下圖：從VPLEX監(jiān)控界面看，有一半的端口發(fā)生故障測(cè)試結(jié)果分析：每臺(tái)VPLEX群集可以配置1-4個(gè)ENGINE,每個(gè)ENGINE帶有2個(gè)director,每臺(tái)VPLEX最多可達(dá)到8個(gè)director。這些director之間既互相冗余備份，又起到負(fù)載均衡的功能。當(dāng)其中任意一個(gè)發(fā)生故障時(shí)，其他director會(huì)接管其工作每個(gè)ENGINE都可以放獨(dú)立的機(jī)柜，可以接獨(dú)立的電源，是完全對(duì)立的模塊。這樣保證了在VPLEX單個(gè)節(jié)點(diǎn)情況下都不是一個(gè)單點(diǎn)故障。測(cè)試場(chǎng)景二：VPLEX的連接網(wǎng)絡(luò)可靠性測(cè)試拓?fù)鋱D如下:測(cè)試方法1:在本地站點(diǎn)的兩臺(tái)存儲(chǔ)各取一個(gè)LUN做一個(gè)本地鏡像卷2:在ORACLE RAC數(shù)據(jù)庫(kù)持續(xù)插入數(shù)據(jù)3:強(qiáng)制關(guān)閉連接VPLEX LOCAL后端和存儲(chǔ)的一臺(tái)交換機(jī)4:從AIX主機(jī)上監(jiān)控?cái)?shù)據(jù)IO情況測(cè)試記錄： 如下圖：RAC沒故障，數(shù)據(jù)庫(kù)日志沒出錯(cuò)記錄如下圖：多路徑管理路徑?jīng)]故障沒報(bào)錯(cuò)如下圖：后端連接存儲(chǔ)端口報(bào)丟失路徑錯(cuò)誤如下圖：從VPLEX監(jiān)控看到，有一半的連接路徑丟失如下圖：在交換機(jī)實(shí)效后，RAC的IO并沒停止測(cè)試記錄分析：每個(gè)director都有8個(gè)后端端口，可以分別連接多臺(tái)SAN交換機(jī)或存儲(chǔ)。在本次測(cè)試中，單臺(tái)VPLEX的2個(gè)director后端分別連接到兩臺(tái)交換機(jī)上。當(dāng)其中一臺(tái)SAN交換機(jī)發(fā)生故障時(shí)，數(shù)據(jù)IO可以通過其他的后端端口通過沒故障的交換機(jī)繼續(xù)工作而不中斷IO測(cè)試場(chǎng)景三：VPLEX LOCAL(本地)的存儲(chǔ)高可用性測(cè)試拓?fù)鋱D如下：測(cè)試方法：1:在本地站點(diǎn)的兩臺(tái)存儲(chǔ)上各取一個(gè)LUN做一個(gè)本地鏡像卷2:在ORACLE RAC數(shù)據(jù)庫(kù)持續(xù)插入數(shù)據(jù)3:強(qiáng)制拔出連接VPLEX其中一臺(tái)存儲(chǔ)的光纖模擬故障發(fā)生4:從AIX主機(jī)上監(jiān)控?cái)?shù)據(jù)IO的情況測(cè)試記錄：如下圖，RAC沒故障，數(shù)據(jù)庫(kù)日志沒出錯(cuò)記錄如下圖：多路徑管理路徑?jīng)]故障沒報(bào)錯(cuò)如下圖：在存儲(chǔ)發(fā)生故障后，ORACLE RAC的IO停頓了16秒，然后繼續(xù)正常工作，整個(gè)過程中ORACLE RAC沒出錯(cuò)，數(shù)據(jù)插入完成。如下圖：從VPLEX監(jiān)控界面看到VNX5100故障，但CX500還保持正常。觀察VPLEX管理的卷情況，VNX屬下的所有卷都已經(jīng)發(fā)生錯(cuò)誤如下圖：從VPLEX監(jiān)控界面看到由VNX5100和CX500組成的鏡像卷出錯(cuò)如下圖：雖然鏡像卷的一半組成部分出錯(cuò)，但是整個(gè)卷還有一半保持正常重新連接存儲(chǔ)光纖，從VPLEX監(jiān)控界面觀察，后端連接的存儲(chǔ)恢復(fù)正常，虛擬卷開始進(jìn)行全同步，總共1.5TB大小鏡像邏輯卷同步時(shí)間耗時(shí)幾個(gè)小時(shí)?；謴?fù)過程中從操作系統(tǒng)觀察，IO如常無中斷測(cè)試記錄分析測(cè)試中使用了兩臺(tái)存儲(chǔ)做一個(gè)虛擬的鏡像卷，當(dāng)其中一臺(tái)存儲(chǔ)發(fā)生致命故障后，虛擬的鏡像卷只是少了鏡像的一半，另外一臺(tái)存儲(chǔ)承擔(dān)起讀寫IO的工作，因此整個(gè)系統(tǒng)沒出錯(cuò)崩潰，保證了業(yè)務(wù)高可用性。此外VPLEX的系統(tǒng)信息是可以保存在連接其后端的多臺(tái)存儲(chǔ)上，因此其中一臺(tái)出現(xiàn)故障，VPLEX能夠繼續(xù)保持正常工作測(cè)試場(chǎng)景四:VPLEX METRO（站點(diǎn)級(jí)容災(zāi)）下的存儲(chǔ)高可用性、測(cè)試拓?fù)鋱D：測(cè)試方法1.在本地站點(diǎn)后端連接一臺(tái)VNX5300,遠(yuǎn)程站點(diǎn)連接VNX5100和CX500，每臺(tái)存儲(chǔ)各取一個(gè)LUN做跨站點(diǎn)的分布式鏡像卷2:在ORACLE RAC數(shù)據(jù)庫(kù)持續(xù)插入數(shù)據(jù)3:強(qiáng)制關(guān)閉生產(chǎn)站點(diǎn)的存儲(chǔ) 4:從AIX主機(jī)上監(jiān)控?cái)?shù)據(jù)IO的情況測(cè)試記錄：如下圖，RAC沒故障，數(shù)據(jù)庫(kù)日志沒出錯(cuò)記錄如下圖：多路徑管理路徑?jīng)]故障沒報(bào)錯(cuò)如下圖：從VPLEX監(jiān)控界面上看到，在生產(chǎn)站點(diǎn)上的VNX5300出錯(cuò)，組成的分布式鏡像卷的一個(gè)部分出錯(cuò)，但是容災(zāi)站點(diǎn)存儲(chǔ)接管了RAC的IO寫入工作如下圖：RAC的IO在停頓了28秒后恢復(fù)正常，數(shù)據(jù)庫(kù)數(shù)據(jù)插入沒出錯(cuò)，數(shù)據(jù)庫(kù)日志記錄也沒任何錯(cuò)誤出現(xiàn)重新連接存儲(chǔ)光纖，從VPLEX監(jiān)控界面觀察，后端連接的存儲(chǔ)恢復(fù)正常，分布式鏡像卷開始進(jìn)行差異同步，鏡像邏輯卷同步時(shí)間耗時(shí)不到10分鐘測(cè)試記錄分析測(cè)試中使用了兩個(gè)站點(diǎn)上的三臺(tái)存儲(chǔ)做一個(gè)分布式鏡像卷，當(dāng)生產(chǎn)站點(diǎn)的存儲(chǔ)發(fā)生致命故障后，分布式鏡像卷只是少了鏡像的一半，容災(zāi)站點(diǎn)的存儲(chǔ)承擔(dān)起讀寫IO的工作，生產(chǎn)主機(jī)通過VPLEX的通訊鏈路從容災(zāi)站點(diǎn)的容災(zāi)存儲(chǔ)上讀寫數(shù)據(jù)。因此整個(gè)系統(tǒng)沒出錯(cuò)崩潰，保證了業(yè)務(wù)高可用性。也無發(fā)生業(yè)務(wù)切換到容災(zāi)站點(diǎn)的事件。而由于每個(gè)站點(diǎn)都有專門的LOG卷，可以記錄失去同步后的數(shù)據(jù)變化量位圖，所以在恢復(fù)正常后不需要進(jìn)行全同步，而只需要傳輸改變量，因此同步時(shí)間大大縮小測(cè)試場(chǎng)景五：Vplex-Metro站點(diǎn)級(jí)可靠性測(cè)試拓?fù)鋱D：測(cè)試方法1.在本地站點(diǎn)后端連接一臺(tái)VNX5300,遠(yuǎn)程站點(diǎn)連接VNX5100和CX500，每臺(tái)存儲(chǔ)各取一個(gè)LUN做跨站點(diǎn)的分布式鏡像卷2:在ORACLE RAC數(shù)據(jù)庫(kù)持續(xù)插入數(shù)據(jù)3:強(qiáng)制關(guān)閉生產(chǎn)站點(diǎn)的VPLEX 4:從AIX主機(jī)上監(jiān)控?cái)?shù)據(jù)IO的情況測(cè)試記錄如下圖:生產(chǎn)站點(diǎn)的VPLEX（cluster-2）停止工作如下圖：分布式鏡像卷的一半出錯(cuò),另外一半保證了正常的訪問如下圖：連接故障VPLEX的站點(diǎn)1的RAC1出錯(cuò)，而站點(diǎn)2的RAC繼續(xù)保持工作。如下圖：RAC1的AIX操作系統(tǒng)日志報(bào)邏輯卷找不到錯(cuò)誤，而RAC2的AIX操作系統(tǒng)日志保持正常如下圖：ORACLE數(shù)據(jù)庫(kù)日志也顯示RAC1訪問設(shè)備出錯(cuò)而RAC2正常如下圖：RAC1的IO完全停止，而RAC2的IO在停頓16秒后完全恢復(fù)如下圖：RAC1設(shè)備全DEAD而RAC2正常重新啟動(dòng)生產(chǎn)站點(diǎn)的VPLEX，兩臺(tái)VPLEX恢復(fù)通訊，鏡像邏輯卷同步時(shí)間耗時(shí)不到10分鐘?；謴?fù)過程中從操作系統(tǒng)觀察，IO如常無中斷測(cè)試記錄分析當(dāng)一個(gè)站點(diǎn)的VPLEX全臺(tái)故障后，另外一個(gè)站點(diǎn)繼續(xù)工作，數(shù)據(jù)不會(huì)丟失，業(yè)務(wù)可以連接到另外一個(gè)RAC節(jié)點(diǎn)如常進(jìn)行工作。當(dāng)故障VPLEX恢復(fù)后，按保護(hù)機(jī)制的設(shè)定，可自動(dòng)或者手工確認(rèn)原主站點(diǎn)是否可以工作測(cè)試場(chǎng)景六:站點(diǎn)主機(jī)發(fā)生故障時(shí)的影響測(cè)試拓?fù)鋱D：測(cè)試方法1.在本地站點(diǎn)后端連接一臺(tái)VNX5300,遠(yuǎn)程站點(diǎn)連接VNX5100和CX500，每臺(tái)存儲(chǔ)各取一個(gè)LUN做跨站點(diǎn)的分布式鏡像卷2:在ORACLE RAC數(shù)據(jù)庫(kù)持續(xù)插入數(shù)據(jù)3:使用“halt”命令強(qiáng)制關(guān)閉主機(jī) 4:從AIX主機(jī)上監(jiān)控?cái)?shù)據(jù)IO的情況測(cè)試記錄如下圖：RAC2上的IO沒任何影響，RAC1的IO全斷，原來連接在RAC1上的進(jìn)程需要重啟，重新連接到RAC2上運(yùn)行測(cè)試結(jié)果分析：當(dāng)站點(diǎn)主機(jī)發(fā)生故障后，VPLEX和存儲(chǔ)都沒故障發(fā)生。因此只發(fā)生應(yīng)用切換事件。而其他組成沒影響。測(cè)試場(chǎng)景七:站點(diǎn)之間通訊線路發(fā)生故障時(shí)的影響測(cè)試拓?fù)鋱D測(cè)試方法：1.在本地站點(diǎn)后端連接一臺(tái)VNX5300,遠(yuǎn)程站點(diǎn)連接VNX5100和CX500，每臺(tái)存儲(chǔ)各取一個(gè)LUN做跨站點(diǎn)的分布式鏡像卷2:在ORACLE RAC數(shù)據(jù)庫(kù)持續(xù)插入數(shù)據(jù)3:斷開兩臺(tái)VPLEX間的通訊鏈路4:從AIX主機(jī)上監(jiān)控?cái)?shù)據(jù)IO的情況測(cè)試記錄如下圖：故障發(fā)生后分布式鏡像卷出錯(cuò)但還是有一邊保持工作如下圖：按照定義的規(guī)則（CLUSTER-1優(yōu)先），CLUSTER-2站點(diǎn)被剝離停止工作。CLUSTER-1是唯一可以工作的站點(diǎn)如下圖：RAC1連接的是CLUSTER-2站點(diǎn)，所以被禁止IO訪問如下圖:RAC1停止工作而RAC2如常如下圖：RAC1的訪問IO中斷，而RAC2保持正常IO無中斷如下圖，在鏈路重新恢復(fù)后，兩邊站點(diǎn)都恢復(fù)正常如下圖：通訊鏈路回復(fù)后，分布式鏡像卷自動(dòng)開始差異同步測(cè)試結(jié)果分析：VPLEX可以設(shè)置優(yōu)先級(jí)別，當(dāng)兩臺(tái)VPLEX通訊發(fā)生故障時(shí)，根據(jù)定義的優(yōu)先級(jí)別的策略決定其中一臺(tái)VPLEX保持服務(wù)，而另一臺(tái)就要停止工作。這樣保證了數(shù)據(jù)的一致性和安全性。測(cè)試場(chǎng)景八:生產(chǎn)站點(diǎn)發(fā)生致命災(zāi)難時(shí)的影響測(cè)試拓?fù)鋱D：測(cè)試方法：1.在本地站點(diǎn)后端連接一臺(tái)VNX5300,遠(yuǎn)程站點(diǎn)連接VNX5100和CX500，每臺(tái)存儲(chǔ)各取一個(gè)LUN做跨站點(diǎn)的分布式鏡像卷2:在ORACLE RAC數(shù)據(jù)庫(kù)持續(xù)插入數(shù)據(jù)3:斷開兩臺(tái)VPLEX間的通訊鏈路，關(guān)閉SAN交換機(jī)，HALT強(qiáng)制關(guān)閉主機(jī)， 4:從AIX主機(jī)上監(jiān)控?cái)?shù)據(jù)IO的情況測(cè)試記錄： 如下圖：RAC2保持正常工作如下圖：RAC2的IO保持正常無中斷數(shù)據(jù)庫(kù)日志記錄無報(bào)錯(cuò)測(cè)試記錄分析： 連接RAC1的業(yè)務(wù)全斷，而連接RAC2的應(yīng)用還是可以保持正常工作無中斷，RAC1上的業(yè)務(wù)重新連接到RAC2后可以繼續(xù)正常工作二：性能測(cè)試項(xiàng)本次測(cè)試采用ORACLE公司發(fā)布的數(shù)據(jù)庫(kù)仿真工具orion。測(cè)試有VPLEX和無接VPLEX下的性能對(duì)比表現(xiàn)。從而得出在接入VPLEX后對(duì)原來存儲(chǔ)性能的影響。另外考慮貼近實(shí)際，建立一個(gè)70%讀+30%寫的模型。再考慮一種極端的情況100%寫的模型。測(cè)試后數(shù)據(jù)表現(xiàn)如下：1.貼近實(shí)際的模型（70%讀+30%寫）首先是反映處理能力指標(biāo)的IOPS：然后是反映處理速度的指標(biāo)latence(延時(shí)) 從上面