版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)
文檔簡介
1、 深信服企業(yè)級云高可用性最佳實踐 適用版本 aCloud 5.3文檔版本 v1.0發(fā)布日期 2017-08-15 深信服科技 文檔密級:外部HA_Best_Practices_aCloud 5.3 版權(quán)聲明本文中出現(xiàn)的任何文字敘述、文檔格式、插圖、照片、方法、過程等內(nèi)容,除另有特別注明,版權(quán)均屬 深信服所有,受到有關(guān)產(chǎn)權(quán)及版權(quán)法保護。任何個人、機構(gòu)未經(jīng)深信服的書面授權(quán)許可,不得以任何方式復制或引用本文的任何片斷。 i深信服科技版權(quán)所有修訂歷史 編號 修訂內(nèi)容簡述 修訂日期 修訂前版本號 修訂后版本號 修訂人 批準人 1V1.0 定稿 2017/8/15鄧俊峰
2、 注:修訂歷史記錄本文檔提交時的當前有效的基本控制信息,當前版本文檔有效期將在新版本文檔生效時自動結(jié)束。文檔版本號小于 1.0 時,表示該版本文檔為草案,僅供參考。 文檔密級:外部HA_Best_Practices_aCloud 5.3目錄第 1 章高可用基礎(chǔ)概念第 2 章部署架構(gòu)高可用網(wǎng)絡(luò)架構(gòu)2.1服務(wù)器配置2.2存儲多路徑2.3第 3 章云平臺高可用云平臺管理高可用3.1分布式虛擬交換機3.2虛擬路由器高可用3.3虛擬安全設(shè)備高可用3.4動態(tài)資源調(diào)度 DRS3.5分布式存儲多副本3.6分布式存儲熱備盤3.7云平臺在線擴容主機3.8云平臺在線擴容磁盤3.9第 4 章虛擬機高可用虛擬機高可用
3、HA主機故障HA4.1.2虛擬機故障 HA虛擬機主機在線遷移4.2ii深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3虛擬機存儲在線遷移4.3虛擬機跨集群遷移4.4虛擬機資源熱添加4.5動態(tài)資源擴容 DRX4.6第 5 章數(shù)據(jù)高可用虛擬機備份虛擬機備份池創(chuàng)建5.1.2虛擬機手動備份5.1.3虛擬機自動備份策略配置5.1.4虛擬機備份恢復虛擬機快照5.2云平臺配置備份恢復5.3云平臺回收站恢復5.4第 6 章業(yè)務(wù)高可用Oracle RAC 集群6.1SQL Server AlwaysOn
4、集群6.2AD 服務(wù)器負載均衡6.3第 7 章容災(zāi)高可用火星艙7.1美創(chuàng)7.2企業(yè)級云高可用總結(jié)第 8 章 iii深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3第1章 高可用基礎(chǔ)概念高可用通常指的是通過技術(shù)手段,盡量縮短因日常維護操作(計劃)和突發(fā)的系統(tǒng)(非計劃)所導致的停機時間,以提高系統(tǒng)和應(yīng)用的可用性。 計劃性停機的原因包含:升級、打補丁、硬件維修、災(zāi)備演練等; 非計劃性停機的原因包含:人為誤操作、硬件故障、網(wǎng)絡(luò)故障、自然災(zāi)害、軟件故障、病毒等; 深信服科技版權(quán)所有風險類別內(nèi)容
5、自然災(zāi)害 自然災(zāi)害、地質(zhì)災(zāi)害 機房環(huán)境風險 火災(zāi)、機房結(jié)構(gòu)性損壞、供電系統(tǒng)癱瘓、空調(diào)系統(tǒng)故障 社會 傳染性疾病、污染、恐怖、 硬件多點故障 多臺服務(wù)器、網(wǎng)絡(luò)多點故障、存儲多點故障 硬件單點故障 單臺服務(wù)器故障、網(wǎng)絡(luò)單點故障、存儲單點故障 軟件故障 應(yīng)用軟件故障、數(shù)據(jù)庫軟件故障、操作系統(tǒng)故障 數(shù)據(jù)庫邏輯故障 數(shù)據(jù)庫損壞、數(shù)據(jù)表誤刪除或修改 風險類別內(nèi)容系統(tǒng)日常維護/ 升級計劃停電/檢修/操作系統(tǒng)升級/數(shù)據(jù)庫版本升級/應(yīng)用升級/數(shù)據(jù)庫維護/硬件微碼升級系統(tǒng)遷移機房搬遷、系統(tǒng)遷移、整合容災(zāi)演習定期的系統(tǒng)切換或回切文檔密級:外部HA_Best_Practices_aCloud 5.3 深信服企業(yè)級云通
6、過持續(xù)創(chuàng)新,從物理層、虛擬化層、數(shù)據(jù)層、業(yè)務(wù)層、數(shù)據(jù)中心容災(zāi)等方面為用戶提供了全方位的高可用性保護,保證了用戶服務(wù)持續(xù)性和業(yè)務(wù)連續(xù)性。 深信服科技版權(quán)所有人為故障 人為失誤或故意破壞 系統(tǒng)性能問題 主機、存儲、網(wǎng)絡(luò)、數(shù)據(jù)庫、應(yīng)用程序等 文檔密級:外部HA_Best_Practices_aCloud 5.3第2章 部署架構(gòu)高可用網(wǎng)絡(luò)架構(gòu)2.1 名詞解釋: 存儲單交換機鏈路 用戶組建分布式存儲 aSAN 時使用一臺交換機或者堆疊的兩臺交換機作為存儲交換機,同一臺服務(wù)器的兩個存儲網(wǎng)口均接入該交換機,兩條鏈路間實現(xiàn)鏈路負載均衡。 存儲雙交換機鏈路 用戶組建分布式存儲
7、 aSAN 時使用獨立的兩臺交換機作為存儲交換機,同一臺服務(wù)器的兩個存儲網(wǎng)口分別接入不同的交換機,兩條鏈路間實現(xiàn)鏈路負載均衡。 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3組網(wǎng)說明: 核心層 建議采用具備大容量網(wǎng)絡(luò)報文轉(zhuǎn)發(fā)能力的數(shù)據(jù)中心核心交換機,要求交換機型號支持堆疊或者集群技術(shù),下行端口速率 10GE。 接入層 大規(guī)模部署場景下,建議管理、業(yè)務(wù)、vxlan 網(wǎng)絡(luò)平面分別采用支持堆疊技術(shù)的兩臺數(shù)據(jù)中心千兆接入交換機,下行端口速率 GE 接入服務(wù)器,上行端口速率 10GE,多條 10GE 鏈路使用鏈路聚合方式接入核
8、心交換機,構(gòu)建冗余、低收斂比、無阻塞業(yè)務(wù)交換網(wǎng)絡(luò)。存儲網(wǎng)絡(luò)則采用兩立的萬兆交換機,做雙交換機鏈路聚保證 aSAN 性能,同時提高整個網(wǎng)絡(luò)架構(gòu)的健壯性。 小規(guī)模部署場景下,建議管理、業(yè)務(wù)、vxlan 網(wǎng)絡(luò)平面采用兩臺堆疊的數(shù)據(jù)中心千兆接入交換機,各個網(wǎng)絡(luò)平面劃分不同vlan 做邏輯隔離。存儲網(wǎng)絡(luò)同樣采用兩立的萬兆交換機,采用雙交換機鏈路,保障 aSAN 性能,同時提高整個網(wǎng)絡(luò)架構(gòu)的健壯性。 服務(wù)器接入 服務(wù)器 6*GE/2*10GE 場景(高性能場景,推薦配置) 服務(wù)器配置 6*GE、2*10GE 網(wǎng)口時,管理、業(yè)務(wù)、vxlan 網(wǎng)絡(luò)各采用 2*GE 網(wǎng)口,并做網(wǎng)口聚合綁定; 存儲網(wǎng)絡(luò)采用 2*
9、10GE 網(wǎng)口,采用雙交換機鏈路,增加網(wǎng)絡(luò)冗余性和傳輸帶寬。對于管理、業(yè)務(wù)、vxlan 網(wǎng)絡(luò)平面,服務(wù)器網(wǎng)卡聚合支持根據(jù) IP、mac 地址、輪詢?nèi)N方式負載均衡模式,建議采用按照 IP 方式進行負載均衡,接入層交換機端口需要配置相應(yīng)的端口聚合模式,如果接入交換機是思科交換機則配置 mode on 與底層聚合網(wǎng)卡進行對接。對于存儲獨立雙交換機,保持存儲連接的交換機端口配置 access vlan 1 即可。深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3 服務(wù)器 6*GE 場景(小規(guī)模低成本場景,推薦配置) 服務(wù)器配置
10、 6*GE 網(wǎng)口時,可以采用“接入層”章節(jié)描述的大小規(guī)模部署方式(存儲改為千兆交換機),也可以僅使用一套堆疊的千兆交換機,管理、業(yè)務(wù)、vxlan、存儲網(wǎng)絡(luò)均復用該交換機。推薦管理、存儲網(wǎng)絡(luò)各采用 2*GE 網(wǎng)口,vxlan、業(yè)務(wù)網(wǎng)絡(luò)雙網(wǎng)口復用,采用 2*GE網(wǎng)口, vxlan、業(yè)務(wù)兩個網(wǎng)口做 IP 方式負載均衡聚合綁定,存儲網(wǎng)絡(luò)采用雙交換機鏈路(僅有一套堆疊交換機則使用單交換機鏈路),該方式使用戶業(yè)務(wù)無單點故障,提升業(yè)務(wù)的可靠性。另外,由于企業(yè)級云平臺無法感知機柜,建議企業(yè)級云部署時盡量使用雙機雙柜的部署方式,即堆疊的雙交換機放置于兩個機柜中,單一集群中內(nèi)服務(wù)器建議放置于兩個以上機柜中。服務(wù)器
11、配置2.2企業(yè)級云平臺分布式存儲模塊 aSAN 具備防腦裂仲裁機制,為了保證平臺穩(wěn)定性,建議集群內(nèi)服務(wù)器至少 3 臺起步,每臺服務(wù)器采用相同的硬件配置,參考配置如下:表格 1深信服科技版權(quán)所有硬件 推薦配置 備注 網(wǎng)卡支持巨幀,推薦配置 6*GE,2*10GERAID 卡支持 non-raid、jbod 模式,使用 aSAN,緩存盤和數(shù)據(jù)盤必須配置成 non-raid 或者 jbod 模式。磁盤深信服一體機系統(tǒng)盤默認最低使用 128G SSD 盤;如果系統(tǒng)盤是 SAS/SATA 盤,使用兩塊盤做 RAID1分布式存儲使用 SSD 作為緩存盤,SATA(也可以
12、是 SAS) 作為數(shù)據(jù)盤,SSD 和 SATA 的個數(shù)比推薦值為 1:3,一般 8 盤位服務(wù)器使用 2 塊 SSD 和 6 塊HDD。容量比推薦值為 1:10,文檔密級:外部HA_Best_Practices_aCloud 5.3存儲多路徑2.3企業(yè)級云支持 FC 存儲陣列多路徑使用。存儲多路徑提供鏈路冗余,提升存儲的可靠性;實現(xiàn)鏈路的負載均衡,增加存儲鏈路帶寬,提升整個云平臺的性能。n 企業(yè)級云推薦配置:每臺云服務(wù)器配置兩個 HBA 卡,每個 HBA 卡配置一個存儲光模塊,提供 1*8GE 鏈路;接受 HBA 卡存在單點故障風險前提下時可以考慮使用一個 HBA 卡,每個 HBA 卡配置兩個存
13、儲光模塊,提供 2*8G 鏈路;FC 存儲陣列配置 AB 控,每個控制器提供 2*8GE 鏈路;兩臺存儲 FC 交換機;接受 FC 交換機存在單點故障風險前提下時可以使用 1 臺存儲 FC交換機n 企業(yè)推薦存儲組網(wǎng)如下:深信服科技版權(quán)所有一般不要低于 1:20,SSD 容量比越高,整體性能越好。文檔密級:外部HA_Best_Practices_aCloud 5.3n 組網(wǎng)配置說明 兩個 fc 交換機設(shè)置不同的 domain id FC 存儲交換機獨立部署,服務(wù)器的 hba0 和hba1 分別接入兩臺 FC 交換機 按照最小 zone 配置原則進行 zone
14、劃分,即一個服務(wù)hba 卡與一個控制器 hba 卡劃分到同一個 zone 內(nèi)。zone 劃分可按照 wwpn 劃分,也可以按照端口進行劃分,推薦使用 wwpn 配置。n 配置示例 以domain1 交換機進行端 wwpn zone 劃分示例定義別名alias s1_hba0 wwpn_s1s2_hba0 wwpn_s2;zone1(s1_hba0,wwpn_B0),zone2(s1_hba0,wwpn_A0),深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3zone3(s2_hba0,wwpn_B0),zone4(s2
15、_hba0,wwpn_A0), 以 domain1 交換機進行端口 zone 劃分示例zone1(s1_hba0,(1,3),zone2(s1_hba0,(1,4),zone3(s2_hba0,(1,3),zone4(s2_hba0,(1,4),深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3第3章 云平臺高可用云平臺管理高可用3.1企業(yè)級云從集群主機中自動選擇一臺主機成為“主控”,作為平臺管理主機并配置集群 IP,用戶使用集群 IP 管理集群。當該主機故障時,主控可以切換到其他主機上運行。 在主控所在主機出現(xiàn)故障時,
16、系統(tǒng)會提示主控離線,用戶在確認主控所在主機無法恢復的前提下,可以在管理平臺“實體機”中選擇一臺正常運行的物理主機,在“更多”中設(shè)置當前物理主機為主控。 分布式虛擬交換機3.2分布式虛擬交換機實現(xiàn)了虛擬交換機跨主機分布部署,用于不同主機間東西向流量通信。不同主機上運行同一分布式虛擬機交換機不同實例,交換機不同示例網(wǎng)絡(luò)配置相同,從而實現(xiàn)虛擬機跨主機遷移時網(wǎng)絡(luò)保持一致。在集群中分布在多臺主機的單一交換機邏輯上組成一個大的集中式交換機,使虛擬環(huán)境中的網(wǎng)絡(luò)配置不再以主機為單位,簡化虛擬機網(wǎng)絡(luò)連接的部署、管理和監(jiān)控,適合于大規(guī)模的網(wǎng)絡(luò)部署。 分布式虛擬交換機對外提供“廣播風暴抑制”的高級配置功能,可以限制
17、廣播報文轉(zhuǎn)發(fā)數(shù)深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3量,超過報文轉(zhuǎn)發(fā)限制數(shù)量后系統(tǒng)斷開網(wǎng)口以阻斷風暴,但是廣播抑制在正常情況下開啟容易導致正常報文被丟棄,建議正常使用時不開啟該功能“”,該選項系統(tǒng)默認不開啟,日常使用無須關(guān)注;當云平臺內(nèi)部出現(xiàn)廣播風暴時,通過觀察各交換機鏈路流量,開啟流量過大的交換機廣播抑制功能,限制報文轉(zhuǎn)發(fā)數(shù)量。 虛擬路由器高可用3.3虛擬路由器創(chuàng)建完成后默認不啟用 HA,當虛擬路由器運行的主機故障時也會在其他主機重新創(chuàng)建一個新的路由器,這種方式故障恢復時間較長。 建議在虛擬路由器高級配置中
18、啟用“高可用 HA”。啟用高可用特性后,系統(tǒng)會在兩個主機上創(chuàng)建路由器,并實時同步會話信息,運行于主備模式。當路由器運行的主機出現(xiàn)故障時,可以實現(xiàn)秒級故障切換,但啟用高可用特性后由于同步會話信息會占用少量帶寬。 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3 虛擬安全設(shè)備高可用3.4虛擬機安全設(shè)備如 vAC、vAD、vAF、vSSL VPN 等創(chuàng)建完成后系統(tǒng)默認勾選“運行異常時重啟” ,當設(shè)備出現(xiàn)無響應(yīng)、卡死時自動重啟設(shè)備;同時開啟“高可用HA” ,當設(shè)備所在主機出現(xiàn)故障時,自動切換到其它物理主機上運行。 建議不要停用
19、虛擬網(wǎng)絡(luò)設(shè)備“運行異常時重啟”和“故障遷移 HA”選項。 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3動態(tài)資源調(diào)度 DRS3.5集群內(nèi)發(fā)生用戶通過自選主機創(chuàng)建虛擬資源、在線遷移、故障 HA 等情況時可能造成集群內(nèi)各主機 CPU、內(nèi)存資源利用率不平衡。負載過輕的主機資源利用率低,造成浪費;負載過重的主機容易出現(xiàn)資源超配,會降低虛擬機的性能和穩(wěn)定性,從而影響業(yè)務(wù)的正常運行 DRS(Dynamic Resource Scheduler,動態(tài)資源調(diào)度)能夠持續(xù)監(jiān)控當前集群中各主機節(jié)點的 CPU、內(nèi)存的使用情況和虛擬機的主機
20、分布情況,并自動生成虛擬機在線主機遷移調(diào)整計劃,動態(tài)調(diào)整虛擬機的運行位置,使集群的計算資源達到均衡使用的效果。 DRS 技術(shù)采用的是“虛擬機主機在線遷移”的方式,只調(diào)整虛擬機的主機運行位置,不會改變存儲運行位置,遷移過程不會對虛擬機上的業(yè)務(wù)造成影響。 DRS 只對同時滿足以下條件的虛擬機有效: 創(chuàng)建虛擬機主機運行位置配置為“自動選擇” 虛擬機已安裝性能優(yōu)化工具; 虛擬機運行存儲位置在共享存儲或者分布式存儲 aSAN 上。 DRS 支持手動和自動兩種調(diào)度方式: 手動。系統(tǒng)根據(jù)資源負載的規(guī)則,給出調(diào)度建議,管理員可以手動執(zhí)行調(diào)度建議。用戶可以在業(yè)務(wù)空閑時間手動 DRS,減少對運行業(yè)務(wù)的影響,因此手
21、動調(diào)度為目前云平臺 DRS 推薦方式。 自動。系統(tǒng)根據(jù)資源負載的規(guī)則,自動進行調(diào)度,節(jié)省管理員運維工作量。 DRS 策略使用最佳實踐 DRS 全局調(diào)度策略配置 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3 DRS 特定虛擬機額外調(diào)度策略配置 通過“新增”添加虛擬機,自定義特定虛擬機調(diào)度方式為“自動”或者“禁用”。數(shù)據(jù)庫等集群方式部署的業(yè)務(wù)虛擬機建議禁用 DRS。 手動執(zhí)行 DRS 調(diào)度計劃 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3當
22、首頁出現(xiàn)集群負載失衡圖標“”時,點擊該圖標進入集群調(diào)度頁面,根據(jù)生成調(diào)度建議,按照同時在線遷移單個虛擬機的方式調(diào)度虛擬機。調(diào)度完成后首頁顯示為集群負載恢復平衡狀態(tài)圖標“”。 分布式存儲多副本3.6存儲副本,是將數(shù)據(jù)保存多份的一種冗余技術(shù),對用戶呈現(xiàn)一個訪問入口,用戶不需要關(guān)心副本間數(shù)據(jù)同步的問題,由副本復制模塊來負責副本的同步。 配置副本是可以有效降低磁盤故障而導致數(shù)據(jù)丟失的風險,冗余副本數(shù)越多,當磁盤故障后越容易從其他磁盤中的副本中快速恢復數(shù)據(jù),但副本數(shù)越多,磁盤空間利用率越低。 當前深信服分布式存儲 aSAN 支持雙副本和三副本技術(shù),基于容量、成本考慮,推薦創(chuàng)建分布式存儲 aSAN 時采用
23、存儲雙副本,實際存儲可用容量為所有服務(wù)器數(shù)據(jù)盤可用存儲容量的一半,在損壞一臺主機情況下不影響用戶業(yè)務(wù)。 分布式存儲熱備盤3.7熱備盤是被指定用于替代分布式存儲 aSAN 中損壞數(shù)據(jù)盤的硬盤,用于承載損壞硬盤中的數(shù)據(jù),當硬盤損壞時,熱備盤會自動替換原有的損壞的硬盤。在分布式存儲 aSAN 自動使用熱備盤替換故障磁盤后,頁面上依然會提示原來的故障磁盤損壞,此時用戶可以通過更換磁盤,將新替換的硬盤會作為熱備盤使用。 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3為保證存儲系統(tǒng)的可靠性,建議在創(chuàng)建分布式存儲時創(chuàng)建熱備盤。熱備
24、盤的類型、容量建議與分布式存儲數(shù)據(jù)盤的類型、容量保持一致。 推薦 aSAN 在初始化階段配置不小于集群副本數(shù)個磁盤作為集群全局熱備盤。例如客戶采用三臺主機組成企業(yè)級云集群,分布式存儲 aSAN 采用雙副本技術(shù),則平臺至少需要配置兩塊熱備盤,并分布在不同的主機上。 云平臺在線擴容主機3.8企業(yè)級云平臺支持在線擴容集群主機,有效解決用戶集群資源使用量激增而導致集群總體資源不足的問題。擴容后的主機不僅可以增加整個集群的計算資源,分擔其它主機上的業(yè)務(wù)負載,同時主機上的磁盤也可以在線擴容到 aSAN 分布式存儲中,擴展存儲資源池的容量,同時不影響客戶業(yè)務(wù)虛擬機運行,解決用戶資源需求的同時保證了客戶業(yè)務(wù)的
25、連續(xù)性。 云平臺在線擴容注意事項: 待擴容主機需加入集群物理網(wǎng)絡(luò)中 推薦在線擴容的主機與集群內(nèi)其他主機的硬件配置保持一致; 推薦一次性擴容不小于副本數(shù)的主機。 主機擴容后建議參考動態(tài)資源調(diào)度 DRS 章節(jié)對集群進行負載平衡 在線擴容主機 在實體機頁面,選擇“添加主機”,進入“添加物理主機”向?qū)А?深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3 云平臺在線擴容磁盤3.9企業(yè)級云平臺支持以主機添加磁盤的方式,縱向地擴展分布式存儲容量,解決用戶集群存儲容量不足的問題。深信服分布式存儲 aSAN 支持磁盤熱插拔,可以在線狀態(tài)
26、增加磁盤資源而不影響用戶業(yè)務(wù)虛擬機運行,保證了用戶業(yè)務(wù)連續(xù)性。 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3在線擴容磁盤前提條件: 集群服務(wù)器需有額外的磁盤槽位 集群服務(wù)器 Raid 卡支持并預(yù)先配置成 jbod 或者 non-raid 模式 推薦用戶在aSAN 增加磁盤擴容時,擴容磁盤數(shù)整數(shù)倍副本數(shù)并均勻分布在不同的主機上。 在線擴容磁盤 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3 深信服科技版權(quán)所有.
27、cn文檔密級:外部HA_Best_Practices_aCloud 5.3第4章 虛擬機高可用虛擬機高可用 HA 主機故障 HAHA(High Available,高可用性集群)通常需要兩個或者兩個以上的主機組成集群,當虛擬機所在主機發(fā)生意外(主機故障、網(wǎng)口掉線等)時,將選擇集群中另外正常運行的主機重啟該虛擬機,極大的降低了業(yè)務(wù)中斷時間。 主機故障 HA 目標主機選擇規(guī)則: 1、 首先選擇集群內(nèi)有相同的網(wǎng)絡(luò)的其他正常主機 2、 如果有分布式存儲,優(yōu)先選擇有副本的正常運行的主機 3、 主機計算資源 主機故障 HA 生效前提條件: 創(chuàng)建虛擬機時啟用“主機故障 HA” 深信服科技版權(quán)
28、所有文檔密級:外部HA_Best_Practices_aCloud 5.3 為了最大限度保障用戶業(yè)務(wù)連續(xù)性,在云平臺管理中建議勾選“虛擬機直連的物理出口”對應(yīng)的 HA(對應(yīng)到截圖 5 和 6 場景),啟用業(yè)務(wù)口斷鏈 HA 機制;敏感度支持“高”、“中高”、“中”“中低”、“低”,分別對應(yīng)故障持續(xù)時間 30 秒、1 分鐘、2 分鐘、5 分鐘、10 分鐘,用戶可以根據(jù)業(yè)務(wù)時間需求選擇,需注意此選項是集群全局設(shè)置,無法針對特定主機或虛擬機進行設(shè)置。 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud
29、 5.3 對應(yīng)的 HA 關(guān)系如下: 深信服科技版權(quán)所有類別對應(yīng)上圖HA場景編號虛擬機 HA 具體情況描述虛擬機運行在共享存儲上1、2、3、4 某臺主機存儲網(wǎng)絡(luò)中斷運行在該主機上的虛擬機觸發(fā)故障 HA,在另外一臺正常主機上重啟5 某臺主機僅業(yè)務(wù)出口網(wǎng)絡(luò)中斷運行在該主機上、連接到該業(yè)務(wù)出口的虛擬機觸發(fā)故障 HA,在另外一臺正常主機上重啟。6 某臺主機管理網(wǎng)絡(luò)和業(yè)務(wù)出口同時中斷運行在該主機上的虛擬機觸發(fā)故障 HA,在另外一臺正常主機上重啟7 僅管理網(wǎng)絡(luò)中斷平臺不處理虛擬機運行在aSAN 上1、2 某臺主機aSAN 存儲私網(wǎng)中斷、管理網(wǎng)絡(luò)不中斷運行在該主機上的虛擬機
30、在本地有副本,虛擬機仍可正常訪問aSAN 存儲,不觸發(fā)故障 HA。運行在該主機上的虛擬機在本地無副本,虛擬機無法訪問aSAN 存儲,該虛擬機觸發(fā)故障 HA,在另外一臺正常主機上重啟。(優(yōu)先選擇有該虛擬機副本的主機)3、4 管理網(wǎng)絡(luò)、aSAN 存儲私網(wǎng)同時中斷運行在該主機上的虛擬機在本地有副本,虛擬機仍可正常訪問aSAN 存儲,但該主機管理網(wǎng)離線,集群其他主機仍可通過HA 機制拉起虛擬機,此時該虛擬機有兩個實例存在,由于仲裁機制保證數(shù)據(jù)一致性,存儲私網(wǎng)恢復后aSAN 會殺掉舊的虛擬機,并修復合法虛擬機副本。運行在該主機上的虛擬機在本地無副本,無法正常訪問aSAN 存儲,該虛擬機觸發(fā)故障 HA,在
31、集群其他正常主機上重啟。5、6、7與虛擬機運行在共享存儲上處理方式相同文檔密級:外部HA_Best_Practices_aCloud 5.3 4.1.2 虛擬機故障 HA虛擬機操作系統(tǒng)出現(xiàn)藍屏、黑屏、卡死是常見的業(yè)務(wù)中斷問題,若是集群沒有偵測應(yīng)用層心跳并實現(xiàn)主動 HA 的機制,則需要管理員主動重啟業(yè)務(wù)虛擬機,不僅業(yè)務(wù)中斷的時間不可控,還增加了管理員的運維工作量。 通過在虛擬機中安裝深信服的性能優(yōu)化工具,該工具持續(xù)向虛擬機運行所在主機發(fā)送心跳,主機根據(jù)虛擬機反饋的心跳、磁盤 IO、網(wǎng)絡(luò)流量狀態(tài),判斷虛擬機的 Guest 操作系統(tǒng)是否藍屏、黑屏、卡死等。如果虛擬機操作系統(tǒng)持續(xù) 90 秒不反饋心跳,
32、磁盤 IO 為 0,網(wǎng)絡(luò)流量為 0,系統(tǒng)判斷該虛擬機發(fā)生了藍屏、黑屏等故障,將虛擬機關(guān)機并在原物理主機重啟。 虛擬機故障 HA 生效前提條件: 虛擬機已安裝性能優(yōu)化工具 創(chuàng)建虛擬機時啟用“虛擬機異常重啟” 推薦在創(chuàng)建虛擬機時啟用“虛擬機異常重啟” ,保證系統(tǒng)運行穩(wěn)定性。另外需要說明的是,虛擬機故障 HA 僅會重啟操作系統(tǒng),并不會開機啟動應(yīng)用,用戶需要手動將應(yīng)用系統(tǒng)加入到 Linux、Windows 的自啟動服務(wù)中達到無需人工干預(yù),應(yīng)用自動故障恢復的目的。此功能只能判斷操作系統(tǒng)級別故障,無法偵測到應(yīng)用級別故障。應(yīng)用級別故障 HA 需要使用應(yīng)用監(jiān)控或應(yīng)用集群或使用深信服應(yīng)用交付 AD 來解決應(yīng)用高
33、可用。 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3 虛擬機主機在線遷移4.2虛擬機主機在線遷移使用戶業(yè)務(wù)無感知情況下,達到虛擬機開機更換主機運行位置的目的。該技術(shù)適用于主機硬件維護、更換主機、平衡主機負載等運維場景,用戶可以提前進行虛擬機主機在線遷移,虛擬機無須關(guān)機,增強了用戶業(yè)務(wù)連續(xù)性。建議在業(yè)務(wù)非高峰期間進行虛擬機主機在線遷移操作。 虛擬機主機在線遷移注意事項: 虛擬機待遷移目標主機需配置相同的網(wǎng)絡(luò); 業(yè)務(wù)物理出口連接所有的主機。 深信服科技版權(quán)所有文檔密級:外部HA_Be
34、st_Practices_aCloud 5.3 虛擬機存儲在線遷移4.3虛擬機存儲在線遷移技術(shù)使用戶業(yè)務(wù)無感知情況下,達到虛擬機開機更換主機存儲運行位置的目的。該技術(shù)適用于當前存儲池資源不足并增加新的存儲池進行存儲容量擴容的場景,用戶可以使用該技術(shù)將虛擬機從高負載的存儲池遷移到低負載的存儲池,虛擬機無須關(guān)機,增強了用戶業(yè)務(wù)連續(xù)性。由于存儲在線遷移會產(chǎn)生大量的 IO 操作,為了避免影響業(yè)務(wù),建議在業(yè)務(wù)非高峰期間進行虛擬機存儲在線遷移操作,存儲在線遷移操作的時間取決于網(wǎng)絡(luò)環(huán)境和虛擬機配置存儲空間的大小。 虛擬機存儲在線遷移前提條件: 虛擬機運行在共享存儲或者分布式存儲上。 深信服科技版權(quán)所有www
35、.文檔密級:外部HA_Best_Practices_aCloud 5.3 虛擬機跨集群遷移4.4虛擬機跨集群遷移技術(shù)可以支持用戶將虛擬機在線遷移至另外一個企業(yè)級云集群。該技術(shù)適用于客戶由單一集群擴展到多個集群、業(yè)務(wù)由單一安全分區(qū)擴展多個安全分區(qū)的場景,遷移過程務(wù)不中斷,最大限度保證了客戶的業(yè)務(wù)連續(xù)性。跨集群遷移會遷移虛擬機運行位置和虛擬機存儲文件,由于存儲在線遷移會產(chǎn)生大量的 IO 操作,為了避免影響業(yè)務(wù),建議在業(yè)務(wù)非高峰期間進行虛擬機存儲在線遷移操作,存儲在線遷移操作的時間取決于網(wǎng)絡(luò)環(huán)境和虛擬機配置存儲空間的大小。 虛擬機跨集群遷移注意事項: 當前企業(yè)級云版本僅支
36、持同版本集群之間的虛擬機遷移; 遷移時目的集群需要配置相同網(wǎng)絡(luò),保證遷移后虛擬機業(yè)務(wù)網(wǎng)絡(luò)可用性。 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3 虛擬機資源熱添加4.5用戶在業(yè)務(wù)虛擬機的負載爆發(fā)增長而超出現(xiàn)有配置時,企業(yè)級云平臺支持虛擬機在線添加CPU、內(nèi)存、磁盤、網(wǎng)卡資源,快速提升虛擬機計算、IO 性能,相比需要關(guān)機修改虛擬機配置的傳統(tǒng)方案更加靈活,保證用戶業(yè)務(wù)可用性和業(yè)務(wù)連續(xù)性。 磁盤、網(wǎng)卡熱添加支持所有的操作系統(tǒng);CPU、內(nèi)存熱添加只支持特定操作系統(tǒng)的資源熱添加,該限制是由于部分操作系統(tǒng)運行時不能識別在線添加的
37、 CPU、內(nèi)存資源所致。 磁盤、網(wǎng)卡熱添加特性在虛擬機安裝性能優(yōu)化工具后即可生效;CPU、內(nèi)存熱添加除了安裝性能優(yōu)化工具,還需要在虛擬機高級配置中勾選“啟用 CPU 熱添加”、“啟用內(nèi)存熱添加”之后才能生效,如果操作系統(tǒng)在兼容性列表內(nèi),并且預(yù)計虛擬機在不久會有計算資源擴容的需求,建議虛擬機安裝操作系統(tǒng)后關(guān)機勾選 CPU/內(nèi)存熱添加選項。 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3 動態(tài)資源擴容 DRX4.6DRX(Dynamic Resource eXtension,動態(tài)資源擴展)是在虛擬機 CPU、內(nèi)存熱添加技
38、術(shù)的基礎(chǔ)上,增加了自動化策略,適用于業(yè)務(wù)虛擬機資源使用可能出現(xiàn)無法提前預(yù)測的爆炸性增長而用戶又無法及時監(jiān)控虛擬機資源使用率,無法快速調(diào)整虛擬機資源的場景。DRX 功能提供的自動化策略,大幅度減少了用戶運維的工作量,快速響應(yīng)業(yè)務(wù)狀態(tài)增長變化對虛擬機 CPU、內(nèi)存資源進行動態(tài)擴展,既保證了業(yè)務(wù)的連續(xù)性和性能,又解決用戶業(yè)務(wù)增長帶來的敏捷運維問題。 動態(tài)資源擴容 DRX 生效前提條件: 虛擬機已安裝性能優(yōu)化工具 虛擬機高級選項已配置“啟用 CPU 熱添加”、“啟用內(nèi)存熱添加” 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3
39、DRX 衡量因素包括“CPU”和“內(nèi)存”兩種,并可以設(shè)置閾值,用戶可根據(jù)實際業(yè)務(wù)需求配置閾值大小。 CPU:當虛擬機的“CPU 利用率”大于閾值時,為虛擬機添加 CPU,每次增加原配置一個插槽的核數(shù),上限是虛擬機原配置的兩倍。限制是不超過當前運行主機的 CPU 核心數(shù)。 內(nèi)存:當虛擬機的“內(nèi)存利用率”大于閾值時,為虛擬機添加內(nèi)存,每次增加原配置大小的八分之一(自動取整),上限是虛擬機原配置的兩倍。限制是不超過當前運行主機的內(nèi)存。 敏感度:有“保守”、“激進”兩種,動態(tài)資源添加響應(yīng)分別對應(yīng) 10 分鐘、3 分鐘,用戶可根據(jù)實際需求配置兩種策略。 保守:在該模式下,系統(tǒng)檢測到衡量因素達到閾值并持續(xù)
40、 10 分鐘,將對虛擬機進行動態(tài)資源添加。 激進:在該模式下,系統(tǒng)檢測到衡量因素達到閾值并持續(xù) 3 分鐘,將對虛擬機進行動態(tài)資源添加。 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3第5章 數(shù)據(jù)高可用虛擬機備份5.1企業(yè)級云平臺自帶虛擬機備份功能,降低用戶操作失誤、系統(tǒng)故障等 IT 事故以及發(fā)生時造成的用戶數(shù)據(jù)損失,提升用戶數(shù)據(jù)高可用性,保證了用戶業(yè)務(wù)連續(xù)性。 虛擬機備份方式支持虛擬機全量備份和增量備份(平臺內(nèi)部備份機制,頁面不可設(shè)置),兩種備份方式都僅備份虛擬機實際使用的磁盤數(shù)據(jù)量。用戶首次虛擬機備份為虛擬機全量備
41、份,備份保留周期內(nèi)其他備份為增量備份,保留時間超過備份保留周期(即備份保留時間)的增量備份會與虛擬機全量備份合并為新的全量備份。如果用戶備份更換備份位置,系統(tǒng)會重新為虛擬機做一次全量備份。 虛擬機備份策略支持用戶手動備份和系統(tǒng)自動備份。手動備份適用于重要業(yè)務(wù)虛擬機較少、業(yè)務(wù)虛擬機需要立即備份的場景,系統(tǒng)自動備份適用于用戶規(guī)模運維的場景。 虛擬機備份支持自定義備份位置(備份池),目前企業(yè)級云平臺支持的備份池包含 NAS(僅支持 NFS 協(xié)議)、共享陣列存儲、分布式存儲、windows 服務(wù)器共享目錄,一個企業(yè)級云集群可以支持多個備份池。備份建議備份在第三方平臺上,基于成本考慮 windows 服
42、務(wù)器共享目錄優(yōu)先,基于管理考慮NAS 存儲優(yōu)先;次選分布式存儲作為備份池,用戶需要單獨劃分一部分空間作為備份。 虛擬機備份池的容量建議未來計劃備份的虛擬機實際使用的存儲(共享存儲和分布式存儲)總?cè)萘康?150%。 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 虛擬機備份池創(chuàng)建 創(chuàng)建 Windows 共享服務(wù)目錄備份池。 創(chuàng)建目錄并共享 創(chuàng)建 windows 共享目錄備份池 指定備份空間大小 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud
43、 5.3 創(chuàng)建分布式存儲備份池 創(chuàng)建分布式存儲備份池 5.1.2 虛擬機手動備份用戶手動備份可以從虛擬機列表快捷方式或者進入虛擬機詳情進行備份 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3 自定義備份名稱和存儲位置 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3 5.1.3 虛擬機自動備份策略配置 默認備份策略 當用戶所有業(yè)務(wù)虛擬機都需要備份的時候,建議使用默認備份策略。默認備份策略會將所有虛擬機自動備份,不需要人工干預(yù),對用戶而言,該策
44、略優(yōu)點在于操作簡單,維護方便。 默認策略備份位置建議選擇第三方存儲位置。如果只有一個備份位置,手動指定和自動指定位置無區(qū)別;如果有多個備份池,建議選擇“自動指定位置”。 備份頻率支持按周、按天、按小時備份,備份時間建議配置為業(yè)務(wù)空閑時間。系統(tǒng)默認設(shè)置為按天備份,一般業(yè)務(wù)空閑時間區(qū)間為晚上 23 點到第二天早上 8 點。備份保留時間建議 2 周以上,也可以根據(jù)用戶實際要求調(diào)整,超過備份保留周期的虛擬機增量備份會與虛擬機全量備份進行合并。建議勾選“自動清理備份點,節(jié)省備份空間”,可以節(jié)省備深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCl
45、oud 5.3份空間。 自定義備份策略 當用戶僅需要針對重要虛擬機備份時,建議使用自定義備份策略,并禁用默認備份策略。自定義備份策略與默認備份策略不同的地方在于用戶需要選擇部分虛擬機備份,新建虛擬機不會自動加入備份,如果后期再備份其他虛擬機需要手動將其加入該策略當中。建議用戶根據(jù)虛擬機 SLA 等級選擇制定不同的備份策略。 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3 5.1.4 虛擬機備份恢復 本地集群恢復 當虛擬機需要恢復時,如果用戶本地企業(yè)級云平臺可用,只需要到選擇相應(yīng)的備份文件進行恢復即可 深信服科技版權(quán)所
46、有文檔密級:外部HA_Best_Practices_aCloud 5.3 異地集群恢復 將備份 NAS 或者 windows 共享目錄掛載到新的集群上,平臺自動識別出共享目錄內(nèi)已有備份文件進行恢復。 虛擬機快照5.2虛擬機快照類似于系統(tǒng)還原點,一個虛擬機可以存在多個快照。虛擬機快照通常應(yīng)用于系統(tǒng)補丁、軟件更新后導致系統(tǒng)或者服務(wù)異常等場景,用戶可以通過快照來快速恢復系統(tǒng),是一種方便使用的應(yīng)急和系統(tǒng)回退操作手段,減少由于系統(tǒng)錯誤或人為錯誤引起的停機時間。虛擬機快照注意事項: 虛擬機開機創(chuàng)建快照會導致業(yè)務(wù)中斷 1s 左右 快照恢復時虛擬機需要重啟;另外,系統(tǒng)會自動
47、創(chuàng)建一個當前系統(tǒng)點的快照,防止系統(tǒng)還原后無法恢復到當前狀態(tài) 建議僅針對需要還原的系統(tǒng)做快照,勿將快照作為備份使用。 快照創(chuàng)建 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3 快照恢復 云平臺配置備份恢復5.3企業(yè)級云平臺支持對系統(tǒng)配置包括企業(yè)級云集群配置 、虛擬機備份策略、 高可用(HA)配置、動態(tài)熱添加配置 、用戶體驗計劃 、時間同步設(shè)置 、告警條件、集群資源調(diào)度配置、恢復 NUMA 配置等進行備份恢復。該特性解決了用戶配置恢復的問題,增強了云平臺的數(shù)據(jù)恢復能力。 深信服科技版權(quán)所有.
48、cn文檔密級:外部HA_Best_Practices_aCloud 5.3當前系統(tǒng)配置備份支持系統(tǒng)自動備份、用戶手動備份至本地兩種備份方式,恢復則支持從系統(tǒng)自動備份以及本地備份兩種方式恢復。 系統(tǒng)每天凌晨 12 點會自動備份,系統(tǒng)默認會保留一個月的配置備份。建議用戶每個月進行手動備份一次,防止無法恢復幾個月前的系統(tǒng)配置。 云平臺回收站恢復5.4企業(yè)級云平臺提供了類似 Windows 回收站功能,系統(tǒng)會將用戶刪除的網(wǎng)絡(luò)設(shè)備、虛擬機、虛擬共享盤、備份文件自動放入回收站內(nèi)保存 30 天,用戶可以在回收站內(nèi)恢復刪除的文件,也可以徹底刪除釋放回收站空間。該特性有效解決了用戶誤刪除導致業(yè)務(wù)中斷或者數(shù)據(jù)丟失
49、的問題,提升了用戶業(yè)務(wù)可用性。 回收站恢復注意事項: 回收站恢復后的網(wǎng)絡(luò)設(shè)備和虛擬機不會恢復網(wǎng)絡(luò)連接關(guān)系,需要手動添加。 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3 深信服科技版權(quán)所有文檔密級:外部HA_Best_Practices_aCloud 5.3第6章 業(yè)務(wù)高可用Oracle RAC 集群6.1Oracle RAC 數(shù)據(jù)庫作為數(shù)據(jù)中心的核心業(yè)務(wù)系統(tǒng),在企業(yè)、政府、教育、醫(yī)療等行業(yè)被廣泛應(yīng)用。深信服企業(yè)級云平臺在 I/O、網(wǎng)絡(luò)、共享盤等領(lǐng)域做出重大創(chuàng)新,解決了虛擬化環(huán)境中
50、運行 Oracle 數(shù)據(jù)庫系統(tǒng)原本存在的性能問題。 企業(yè)級云平臺上的 Oracle RAC 支持向?qū)讲渴穑瑪?shù)據(jù)庫除了自帶的多節(jié)點負載均衡和故障容錯切換的能力外,還具備 rac 節(jié)點主機互斥、節(jié)點故障 HA 等高可用特性,進一步增強了Oracle 數(shù)據(jù)庫的高可用性。 SQL Server AlwaysOn 集群6.2SQL Server AlwaysOn 集群作為微軟新一代數(shù)據(jù)庫全面的高可用性和恢復解決方案,在商業(yè)數(shù)據(jù)庫領(lǐng)域大量應(yīng)用。深信服企業(yè)級云平臺優(yōu)化了 SQL Server AlwaysOn 集群部署和性能,支持向?qū)讲渴?SQL Server AlwaysOn 集群,提供集群自帶數(shù)據(jù)庫級和實例級高可用性,支持多節(jié)點負載均衡和故障轉(zhuǎn)移特性,同時具有故障 HA 等虛擬化平臺特性,提高了 SQL Server AlwaysOn 集群的高可用性。 AD 服務(wù)器負載均衡6.3企業(yè)級云平臺提供深信服國內(nèi)領(lǐng)先的虛擬應(yīng)用交付組件 vAD,vAD 提供了服務(wù)器負載、鏈路負載等功能,支持輪詢、加權(quán)等多種負載均衡模式以及基于 cookie 等會話保持技術(shù),支持多業(yè)務(wù)節(jié)點故障容錯能力,并為分布式業(yè)務(wù)系統(tǒng)提供流量負載均衡功能,
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
- 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 2024石材加工行業(yè)標準化及質(zhì)量管理體系合作協(xié)議3篇
- 個人向公司借款詳細條款合同版B版
- 專業(yè)租車協(xié)議范本:2024年版
- 2025年度地質(zhì)勘查測繪合作協(xié)議書8篇
- 2024版銷售代表獎勵提成協(xié)議樣本一
- 集合2024年度醫(yī)療設(shè)備采購及安裝服務(wù)合同
- 2025年度文化旅游項目合作協(xié)議補充協(xié)議3篇
- 2024精密波紋管訂貨及銷售協(xié)議條款版B版
- 2025年度廠房租賃及品牌授權(quán)使用合同4篇
- 二零二五年度汽車后市場銷售提成及品牌代理協(xié)議
- 礦山隱蔽致災(zāi)普查治理報告
- 2024年事業(yè)單位財務(wù)工作計劃例文(6篇)
- 副總經(jīng)理招聘面試題與參考回答(某大型國企)2024年
- PDCA循環(huán)提高護士培訓率
- 2024年工程咨詢服務(wù)承諾書
- 青桔單車保險合同條例
- 車輛使用不過戶免責協(xié)議書范文范本
- 《獅子王》電影賞析
- 2023-2024學年天津市部分區(qū)九年級(上)期末物理試卷
- DB13-T 5673-2023 公路自愈合瀝青混合料薄層超薄層罩面施工技術(shù)規(guī)范
- 河北省保定市定州市2025屆高二數(shù)學第一學期期末監(jiān)測試題含解析
評論
0/150
提交評論