存儲及雙活測試方案計(jì)劃

PAGE26融通基金存儲升級及雙活數(shù)據(jù)中心項(xiàng)目測試方案深圳市桑威科技有限公司2016年5月文檔信息項(xiàng)目名稱：融通基金VPLEXMetro項(xiàng)目測試報告文檔版本號：文檔作者：彭世華生成日期：2016年5月文檔審核者：審核日期：文檔維護(hù)記錄版本號維護(hù)日期作者/維護(hù)人描述2016年5月12日彭世華創(chuàng)建初稿目 錄TOC\o"1-4"\u1. 環(huán)境配置 52. 測試目的 53. VPLEX測試環(huán)境的建立 5. SANSwitch物理連線 5. SANSwitch配置 5. 存儲系統(tǒng)配置 54. 測試場景 65. 測試結(jié)論 76. 測試步驟及結(jié)果 8. 測試1:VPLEX控制器高可用測試 8. 測試2：VPLEX后端鏈路高可用測試 9. 測試3：雙活鏡像測試 9. 測試4：VPLEXMetro級聯(lián)鏈路高可用測試_1 10. 測試5：雙活仲裁測試_1 10. 測試6：雙活仲裁測試_2 11. 測試7：雙活仲裁測試_3 11. 測試8：雙活仲裁測試_4 12. 測試9：雙活仲裁測試_5 12. 測試10：雙活仲裁測試_6 13. 測試11：雙活仲裁測試_7 137. 場景測試及結(jié)果 14. 測試場景1：超算VNX5800故障 14. 測試場景2：漢唐VNX5500故障 14. 測試場景3：所有存儲同時故障 15. 測試場景4：Witness發(fā)生故障 15. 測試場景5：vplex_1、vplex_2同時故障 15. 測試場景6：vplex_1、vplex_2同時故障，后端存儲也同時故障 16. 測試場景7：Witness與vplex_1IP通信中斷，其他正常 16. 測試場景8：Witness與vplex_2IP通信中斷，其他正常 17. 測試場景9：Witness與vplex_1、vplex2IP通信中斷，其他正常 17. 測試場景10：vplex_1、vplex2IP通信中斷，但是vplex_1、vplex2各自與witnessIP通信正常 18. 測試場景11：4臺FC交換機(jī)之間的裸光纖全部故障，其他正常 18. 測試場景12：超算FC交換機(jī)故障 19. 測試場景13：漢唐FC交換機(jī)故障 19. 測試場景14：所有交換機(jī)同時故障 20. 測試場景15：vplex_1與vnx5800光纖鏈路故障，其它正常 20. 測試場景16：vplex_2與vnx5500光纖鏈路故障，其它正常 21. 測試場景17：裸光纖全故障，外網(wǎng)LUN在超算起來，內(nèi)網(wǎng)LUN從漢唐起來 218. 審計(jì)意見 229. 討論反饋后備注 22

環(huán)境配置硬件：設(shè)備數(shù)量微碼/版本備注VPLEXVS22SP2每個機(jī)房配置雙引擎建議安裝版本SP2SANSwitchsEMCDS6510B\5100B4用于連接EMCVPLEX和后端存儲現(xiàn)有5100微碼需要升級VNX5800\54002我們使用全新的VNX5800和5400測試2測試主機(jī)（待定）軟件：項(xiàng)目版本備注虛化化Esxi物理機(jī)OL多路徑軟件Esxi自帶、Powerpath測試目的測試不同場景下，測試主機(jī)對EMC虛擬化存儲的訪問狀況，從而測試EMCVPLEXmetro的高可用性。VPLEX測試環(huán)境的建立SANSwitch物理連線完成測試主機(jī)到SANSwitch，SANSwitch到測試存儲系統(tǒng)之間的光纖連接。SANSwitch配置完成測試主機(jī)與測試存儲系統(tǒng)之間的ZONE配置。存儲系統(tǒng)配置VPLEX將已封裝的LUN分配給ESX主機(jī)及物理機(jī)測試場景vplex_1、Witness、vnx5800在超算機(jī)房，vplex_2、vnx5500在漢唐機(jī)房。測試內(nèi)容說明預(yù)期測試1VPLEX單個director故障將一臺VPLEX的一個director的光纖線全部斷開，觀察測試主機(jī)的IO路徑和IO訪問狀況虛擬機(jī)不受影響，主機(jī)的IO讀寫能持續(xù)進(jìn)行測試2VPLEX后端鏈路高可用測試VPLEX的后端鏈路部分中斷虛擬機(jī)不受影響，主機(jī)的IO讀寫能持續(xù)進(jìn)行測試3雙活鏡像測試后端存儲VNX5800發(fā)生突然停機(jī)虛擬機(jī)不受影響，主機(jī)的IO讀寫能持續(xù)進(jìn)行測試4VPLEXMetro級聯(lián)鏈路（裸纖）高可用測試_1VPLEXWAN-com級聯(lián)鏈路有一條故障虛擬機(jī)不受影響，主機(jī)可以持續(xù)讀寫數(shù)據(jù)。測試5雙活仲裁測試1VPLEXWAN-com級聯(lián)鏈路全部故障（Witness正常工作）虛擬機(jī)不受影響，主機(jī)可以持續(xù)讀寫數(shù)據(jù)。測試6雙活仲裁測試2關(guān)閉VPLEX_2，觀察測試主機(jī)的IO路徑和IO訪問狀況（Witness正常工作）虛擬機(jī)不受影響，主機(jī)可以持續(xù)讀寫數(shù)據(jù)。測試7雙活仲裁測試3關(guān)閉VPLEX_1，觀察測試主機(jī)的IO路徑和IO訪問狀況（Witness正常工作）虛擬機(jī)不受影響，主機(jī)可以持續(xù)讀寫數(shù)據(jù)。測試8雙活仲裁測試4關(guān)閉Witness，觀察測試主機(jī)的IO路徑和IO訪問狀況虛擬機(jī)不受影響，主機(jī)可以持續(xù)讀寫數(shù)據(jù)。測試9雙活仲裁測試5同時關(guān)閉VPLEX_2和Witness虛擬機(jī)不能運(yùn)行，主機(jī)IO掛起，需要在VPLEX_1上手動恢復(fù)IO訪問測試10雙活仲裁測試6同時關(guān)閉VPLEX_1和Witness虛擬機(jī)不能運(yùn)行，主機(jī)IO掛起，需要在VPLEX_2上手動恢復(fù)IO訪問測試11雙活仲裁測試7Witness和所有WAN-com（裸纖）全部同時故障虛擬機(jī)不能運(yùn)行，主機(jī)IO掛起，VPLEX_1和VPLEX_2都掛起，需手動選擇恢復(fù)測試12超算VNX5800故障超算VNX5800故障測試13漢唐VNX5500故障漢唐VNX5800故障測試14所有存儲同時故障超算VNX5800與漢唐VNX5500同時故障測試15Witness發(fā)生故障Witness發(fā)生故障，其它正常測試16vplex_1、vplex_2同時故障vplex_1、vplex_2同時故障，后端存儲存活測試17vplex_1、vplex_2同時故障，后端存儲也同時故障vplex_1、vplex_2同時故障，后端存儲也同時故障測試18Witness與vplex_1IP通信中斷，其他正常Witness與vplex_1IP通信中斷，其他正常測試19Witness與vplex_2IP通信中斷，其他正常Witness與vplex_2IP通信中斷，其他正常測試20Witness與vplex_1、vplex2IP通信中斷，其他正常Witness與vplex_1、vplex2IP通信中斷，其他正常測試21vplex_1、vplex2IP通信中斷，但是vplex_1、vplex2各自與witnessIP通信正常vplex_1、vplex2IP通信中斷，但是vplex_1、vplex2各自與witnessIP通信正常測試224臺FC交換機(jī)之間的裸光纖全部故障，其他正常4臺FC交換機(jī)之間的裸光纖全部故障，其他正常測試23超算FC交換機(jī)故障超算FC交換機(jī)故障全部故障測試24漢唐FC交換機(jī)故障漢唐FC交換機(jī)故障全部故障測試25所有交換機(jī)同時故障所有交換機(jī)同時故障測試26vplex_1與vnx5800光纖鏈路故障，其它正常vplex_1與vnx5800光纖鏈路故障，其它正常測試27vplex_2與vnx5500光纖鏈路故障，其它正常vplex_2與vnx5500光纖鏈路故障，其它正常測試28裸光纖全故障，外網(wǎng)LUN在超算起來，內(nèi)網(wǎng)LUN從漢唐起來裸光纖全故障，外網(wǎng)LUN在超算起來，內(nèi)網(wǎng)LUN從漢唐起來測試28測試29測試30測試31

測試結(jié)論測試內(nèi)容測試結(jié)論測試1VPLEX控制器高可用測試測試2VPLEX后端鏈路高可用測試測試3雙活鏡像測試測試4VPLEXMetro級聯(lián)鏈路高可用測試_1測試5雙活仲裁測試1測試6雙活仲裁測試2測試7雙活仲裁測試3測試8雙活仲裁測試4測試9雙活仲裁測試5測試10雙活仲裁測試6測試11雙活仲裁測試7測試步驟及結(jié)果測試1:VPLEX控制器高可用測試故障模擬：其中一臺VPLEX上的一個director（控制器）突然發(fā)生故障測試方法：直接rebootdirector或者disable該director在SAN交換機(jī)的端口模擬該director故障此處采用disable端口初始相關(guān)參數(shù)：VPLEX:auto-resume-at-loser=trueCG：detach-rule=winnercluster-1after5s步驟：當(dāng)前主機(jī)訪問VPLEXMetro正常確認(rèn)VPLEX狀態(tài)正常，確認(rèn)當(dāng)前無rebuild任務(wù)；斷開VPLEX_1的directorA的所有光纖線登錄VMWARE管理界面觀察，記錄結(jié)果登錄VPLEXGUI和CLI觀察，記錄結(jié)果。故障恢復(fù)：director重啟或者enable交換機(jī)中主機(jī)與該director的zone模擬該director故障恢復(fù)預(yù)期結(jié)果：主機(jī)的IO路徑中斷一半，主機(jī)可以繼續(xù)訪問VPLEX_1測試1記錄：測試1結(jié)論：測試2：VPLEX后端鏈路高可用測試故障模擬：VPLEX與后端存儲直接的鏈路出現(xiàn)不穩(wěn)定或故障測試方法：在交換機(jī)上disableVPLEX的后端端口（兩邊非同時）預(yù)期結(jié)果：主機(jī)可以繼續(xù)訪問VPLEX，被拔掉的一邊后端存儲顯示失效。測試記錄：步驟：當(dāng)前主機(jī)訪問VPLEXMetro正常確認(rèn)VPLEX狀態(tài)正常，確認(rèn)當(dāng)前無rebuild任務(wù)；登錄SAN交換機(jī)找到一臺VPLEX的后端端口portdisable這些后端端口登錄VMWARE管理界面觀察，記錄結(jié)果登錄VPLEXGUI和CLI觀察，記錄結(jié)果。結(jié)束時間：測試2結(jié)果：測試2結(jié)論：測試3：雙活鏡像測試故障模擬：VPLEX的后端VNX5800存儲突然down機(jī)，模擬后端存儲完全故障測試方法：把VNX5800的前端口在交換機(jī)上disable步驟：當(dāng)前主機(jī)訪問VPLEXMetro正常確認(rèn)VPLEX狀態(tài)正常，確認(rèn)當(dāng)前無rebuild任務(wù)；在交換機(jī)上將VNX5800存儲的端口全部關(guān)閉。登錄VMWARE管理界面觀察，記錄結(jié)果登錄VPLEXGUI和CLI觀察，記錄結(jié)果。預(yù)期結(jié)果：主機(jī)正常訪問VPLEX，主機(jī)端不受任何影響，虛擬機(jī)狀態(tài)正常，虛擬化平臺正常，磁盤掃描沒有變化，主機(jī)到VPLEX路徑全部都在結(jié)束時間：測試3結(jié)果：測試3結(jié)論：測試4：VPLEXMetro級聯(lián)鏈路高可用測試_1故障模擬：VPLEXMetro兩個site的WAN-com(裸纖)級聯(lián)鏈路出現(xiàn)不穩(wěn)定開始時間：步驟：當(dāng)前主機(jī)訪問VPLEXMetro正常確認(rèn)VPLEX狀態(tài)正常，確認(rèn)當(dāng)前無rebuild任務(wù)；斷開VPLEX_1的的一個WAN-COM口的光纖線（或disable一條裸纖在交換機(jī)上的所有端口）登錄VMWARE管理界面觀察，記錄結(jié)果登錄VPLEXGUI和CLI觀察，記錄結(jié)果。結(jié)束時間：測試4結(jié)果：測試4結(jié)論：測試5：雙活仲裁測試_1故障模擬：VPLEXMetro兩個site的WAN-com級聯(lián)鏈路全部中斷開始時間：步驟：當(dāng)前主機(jī)訪問VPLEXMetro正常確認(rèn)VPLEX狀態(tài)正常，確認(rèn)當(dāng)前無rebuild任務(wù)；斷開VPLEX_1的的兩個WAN-COM口的光纖線登錄VMWARE管理界面觀察，記錄結(jié)果登錄VPLEXGUI和CLI觀察，記錄結(jié)果。結(jié)束時間：測試5結(jié)果：測試5結(jié)論：測試6：雙活仲裁測試_2故障模擬：當(dāng)Witness工作正常時，模擬一個VPLEX群集故障開始時間：步驟：當(dāng)前主機(jī)訪問VPLEXMetro正常確認(rèn)VPLEX狀態(tài)正常，確認(rèn)當(dāng)前無rebuild任務(wù)；斷開VPLEX_2的的所有接口登錄VMWARE管理界面觀察，記錄結(jié)果登錄VPLEXGUI和CLI觀察，記錄結(jié)果。結(jié)束時間：測試6結(jié)果：測試6結(jié)論：測試7：雙活仲裁測試_3故障模擬：當(dāng)Witness工作正常時，模擬另外一個VPLEX群集（VPLEX_1）故障開始時間：步驟：當(dāng)前主機(jī)訪問VPLEXMetro正常確認(rèn)VPLEX狀態(tài)正常，確認(rèn)當(dāng)前無rebuild任務(wù)；斷開VPLEX_1的的所有接口登錄VMWARE管理界面觀察，記錄結(jié)果登錄VPLEXGUI和CLI觀察，記錄結(jié)果。結(jié)束時間：測試7結(jié)果：測試7結(jié)論：測試8：雙活仲裁測試_4故障模擬：當(dāng)Witness故障時，確認(rèn)VPLEX群集是否工作正常開始時間：步驟：當(dāng)前主機(jī)訪問VPLEXMetro正常確認(rèn)VPLEX狀態(tài)正常，確認(rèn)當(dāng)前無rebuild任務(wù)；關(guān)閉Witness登錄VMWARE管理界面觀察，記錄結(jié)果登錄VPLEXGUI和CLI觀察，記錄結(jié)果。結(jié)束時間：測試8結(jié)果：測試8結(jié)論：測試9：雙活仲裁測試_5故障模擬：一個VPLEX群集（VPLEX_2）和Witness同時故障開始時間：步驟：當(dāng)前主機(jī)訪問VPLEXMetro正常確認(rèn)VPLEX狀態(tài)正常，確認(rèn)當(dāng)前無rebuild任務(wù)；同時關(guān)閉VPLEX_2所有端口和Witness登錄VMWARE管理界面觀察，記錄結(jié)果登錄VPLEXGUI和CLI觀察，記錄結(jié)果。結(jié)束時間：測試9結(jié)果：測試9結(jié)論：測試10：雙活仲裁測試_6故障模擬：另外一個VPLEX群集（VPLEX_1）和Witness同時故障開始時間：步驟：當(dāng)前主機(jī)訪問VPLEXMetro正常確認(rèn)VPLEX狀態(tài)正常，確認(rèn)當(dāng)前無rebuild任務(wù)；同時關(guān)閉VPLEX_1所有端口和Witness登錄VMWARE管理界面觀察，記錄結(jié)果登錄VPLEXGUI和CLI觀察，記錄結(jié)果。結(jié)束時間：測試10結(jié)果：測試10結(jié)論：測試11：雙活仲裁測試_7故障模擬：所有WAN-com（裸纖）和Witness同時故障開始時間：步驟：當(dāng)前主機(jī)訪問VPLEXMetro正常確認(rèn)VPLEX狀態(tài)正常，確認(rèn)當(dāng)前無rebuild任務(wù)；同時關(guān)閉所有裸纖在光纖交換機(jī)上的所有端口和Witness登錄VMWARE管理界面觀察，記錄結(jié)果登錄VPLEXGUI和CLI觀察，記錄結(jié)果。結(jié)束時間：測試11結(jié)果：測試11結(jié)論：場景測試及結(jié)果測試場景1：超算VNX5800故障場景模擬：超算VNX5800故障測試方法：在交換機(jī)上disableVNX5800前端口預(yù)期結(jié)果：主機(jī)可以繼續(xù)訪問VPLEX，超算VPLEX顯示后端存儲故障，所有超算端Volume出錯。測試記錄：測試場景1結(jié)果：測試場景1結(jié)論：測試場景2：漢唐VNX5500故障場景模擬：漢唐VNX5800故障測試方法：在交換機(jī)上disable漢唐VNX5500前端口預(yù)期結(jié)果：主機(jī)可以繼續(xù)訪問VPLEX，漢唐VPLEX顯示后端存儲故障，所有漢唐端Volume出錯。測試記錄：測試場景2結(jié)果：測試場景2結(jié)論：測試場景3：所有存儲同時故障場景模擬：所有存儲同時故障測試方法：在交換機(jī)上disableVNX5800及VNX5500前端口預(yù)期結(jié)果：VPLEX系統(tǒng)顯示后端存儲故障，主機(jī)雖然連接VPLEX，但無法讀寫數(shù)據(jù)測試記錄：測試場景3結(jié)果：測試場景3結(jié)論：測試場景4：Witness發(fā)生故障場景模擬：僅Witness發(fā)生故障測試方法：關(guān)閉Witness虛擬機(jī)預(yù)期結(jié)果：主機(jī)訪問VPLEX正常，超算及汊唐Cluster正常，系統(tǒng)提示W(wǎng)itness連接中斷。測試記錄：測試場景4結(jié)果：測試場景4結(jié)論：測試場景5：vplex_1、vplex_2同時故障場景模擬：vplex_1、vplex_2同時故障測試方法：在交換機(jī)上Disablevplex_1、vplex_2的所有前端及后端預(yù)期結(jié)果：VPLEX系統(tǒng)顯示所有Cluster故障，主機(jī)訪問中斷。測試記錄：測試場景5結(jié)果：測試場景5結(jié)論：測試場景6：vplex_1、vplex_2同時故障，后端存儲也同時故障場景模擬：vplex_1、vplex_2同時故障，后端存儲也同時故障測試方法：在交換機(jī)上Disablevplex_1、vplex_2的所有前端及后端，Disable所有存儲前端預(yù)期結(jié)果：VPLEX系統(tǒng)顯示所有Cluster故障，主機(jī)訪問中斷。測試記錄：測試場景6結(jié)果：測試場景6結(jié)論：測試場景7：Witness與vplex_1IP通信中斷，其他正常場景模擬：Witness與vplex_1IP通信中斷，其他正常測試方法：撥出超算vplex_1的管理網(wǎng)線預(yù)期結(jié)果：主機(jī)訪問VPLEX正常，超算及汊唐Cluster正常，系統(tǒng)提示Cluster1的Witness連接中斷。測試記錄：測試場景7結(jié)果：測試場景7結(jié)論：測試場景8：Witness與vplex_2IP通信中斷，其他正常場景模擬：Witness與vplex_2IP通信中斷，其他正常測試方法：撥出漢唐vplex_2的管理網(wǎng)線預(yù)期結(jié)果：主機(jī)訪問VPLEX正常，超算及汊唐Cluster正常，系統(tǒng)提示Cluster2的Witness連接中斷。測試記錄：測試場景8結(jié)果：測試場景8結(jié)論：測試場景9：Witness與vplex_1、vplex2IP通信中斷，其他正常場景模擬：Witness與vplex_1、vplex2IP通信中斷，其他正常測試方法：在虛擬機(jī)上斷開Witness的網(wǎng)卡連接預(yù)期結(jié)果：主機(jī)訪問VPLEX正常，超算及汊唐Cluster正常，系統(tǒng)提示W(wǎng)itness連接中斷。。測試記錄：測試場景9結(jié)果：測試場景9結(jié)論：測試場景10：vplex_1、vplex2IP通信中斷，但是vplex_1、vplex2各自與witnessIP通信正常場景模擬：vplex_1、vplex2IP通信中斷，但是vplex_1、vplex2各自與witnessIP通信正常測試方法：斷開vplex_1、vplex2之間的網(wǎng)絡(luò)路由預(yù)期結(jié)果：主機(jī)訪問VPLEX正常，超算及汊唐Cluster正常，系統(tǒng)提示W(wǎng)itnessVPN連接異常。。測試記錄：測試場景10結(jié)果：測試場景10結(jié)論：測試場景11：4臺FC交換機(jī)之間的裸光纖全部故障，其他正常場景模擬：4臺FC交換機(jī)之間的裸光纖全部故障，其他正常測試方法：Disable所有DS6510與DS5100之間的所有級聯(lián)端口預(yù)期結(jié)果：超算主機(jī)訪問VPLEX正常，漢唐主機(jī)訪問VPLEX故障，VPLEX系統(tǒng)顯示ClusterPartition。測試記錄：測試場景11結(jié)果：測試場景11結(jié)論：測試場景12：超算FC交換機(jī)故障場景模擬：超算2臺DS6510交換機(jī)故障測試方法：關(guān)閉超算2臺DS6510交換機(jī)所有電源預(yù)期結(jié)果：漢唐主機(jī)訪問VPLEX正常，超算主機(jī)訪問VPLEX故障，VPLEX系統(tǒng)顯示ClusterPartition。測試記錄：測試場景12結(jié)果：測試場景12結(jié)論：測試場景13：漢唐FC交換機(jī)故障場景模擬：漢唐2臺DS5100交換機(jī)故障測試方法：關(guān)閉漢唐2臺DS5100交換機(jī)所有電源預(yù)期結(jié)果：超算主機(jī)訪問VPLEX正常，漢唐主機(jī)訪問VPLEX故障，VPLEX系統(tǒng)顯示ClusterPartition。測試記錄：測試場景13結(jié)果：測試場景13結(jié)論：測試場景14：所有交換機(jī)同時故障場景模擬：4臺SAN交換機(jī)故障測試方法：關(guān)閉超算及漢唐4臺SAN交換機(jī)所有電源預(yù)期結(jié)果：VPLEX系統(tǒng)顯示所有Cluster故障，主機(jī)訪問中斷。測試記錄：測試場景14結(jié)果：測試場景14結(jié)論：測試場景15：vplex_1與vnx5800光纖鏈路故障，其它正