版權(quán)說(shuō)明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)
文檔簡(jiǎn)介
中國(guó)移動(dòng)IP承載網(wǎng)架構(gòu)及路由部署HUAWEITECHNOLOGIESCO.,LTD.中國(guó)移動(dòng)IP承載網(wǎng)三期擴(kuò)容及地市延伸項(xiàng)目組當(dāng)前第1頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)
網(wǎng)絡(luò)總體架構(gòu)規(guī)劃IGP協(xié)議規(guī)劃BGP(VPN)規(guī)劃網(wǎng)絡(luò)服務(wù)質(zhì)量保證(QoS)高可靠性方案軟交換站點(diǎn)接入方案網(wǎng)管安全網(wǎng)絡(luò)規(guī)劃篇當(dāng)前第2頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)中國(guó)移動(dòng)IP承載網(wǎng)發(fā)展歷程一期:按平面組織業(yè)務(wù),采用APDP+接口備份保障可靠性,除軟交換網(wǎng)管業(yè)務(wù)外其余業(yè)務(wù)均通過(guò)IP承載。承載網(wǎng)設(shè)備以8011(NE80NE40)設(shè)備為主二期:網(wǎng)絡(luò)結(jié)構(gòu)仍然按平面組織嚴(yán)格保證高冗余度,而業(yè)務(wù)流量按照距離遠(yuǎn)近進(jìn)行組織;采用IGP快速收斂+TEFRR保證高可靠性;所以業(yè)務(wù)均通過(guò)MPLSVPN引導(dǎo)。承載網(wǎng)設(shè)備以8090(NE80ENE5000E)為主三期:對(duì)承載網(wǎng)骨干網(wǎng)進(jìn)行帶寬擴(kuò)容結(jié)構(gòu)調(diào)整;沿用二期的高可靠性技術(shù)和路由組織方式;對(duì)二期的路由反射做了調(diào)整。一期、二期、三期均為匯接網(wǎng)承載中國(guó)移動(dòng)省際長(zhǎng)途話音(信令,媒體)業(yè)務(wù),一期、二期均為華為設(shè)備三期新增無(wú)錫兩臺(tái)思科設(shè)備作為BR/ARIP承載網(wǎng)省內(nèi)延伸:目前正在建設(shè)中,建設(shè)目標(biāo):將省內(nèi)分散的小網(wǎng)(如G9)全部整合到骨干匯接網(wǎng)上,形成一張全國(guó)統(tǒng)一的具有唯一自治域的IP承載網(wǎng);省內(nèi)延伸為多廠家聯(lián)合組網(wǎng)當(dāng)前第3頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)中國(guó)移動(dòng)IP承載網(wǎng)一期AR接入CR采用V-Homing的方式軟交換系統(tǒng)(UMG,SS)采用單歸的方式接入到ARCR之間采用對(duì)稱的完全網(wǎng)狀連接方式SoftX3000UMG8900SoftX3000NE40-8NE80網(wǎng)管中心N2000/NSC/NDAVPNManage/QoSManagerrNE40-8UMG8900UMG8900UMG8900NE40-8NE80UMG8900SoftX3000NE80NE40-8NE80NE40-8NE40-8NE40-8NE40-8當(dāng)前第4頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)中國(guó)移動(dòng)IP承載網(wǎng)一期-業(yè)務(wù)組織模式非對(duì)稱的業(yè)務(wù)組織模式:核心層網(wǎng)絡(luò)兩個(gè)平面分別面向不同的業(yè)務(wù)承載需求設(shè)計(jì),其中:平面A主要承擔(dān)“軟交換匯接網(wǎng)”業(yè)務(wù);平面B承載軟交換網(wǎng)管業(yè)務(wù),平面B同時(shí)具備對(duì)平面A進(jìn)行備份的容量和能力。
軟交換網(wǎng)管業(yè)務(wù)通過(guò)MPLSVPN方式實(shí)現(xiàn)轉(zhuǎn)發(fā),“軟交換匯接網(wǎng)”業(yè)務(wù)通過(guò)傳統(tǒng)IP方式實(shí)現(xiàn)轉(zhuǎn)發(fā)通過(guò)IGPMetric的設(shè)計(jì),MPLSVPNTunnelLSP全部架構(gòu)在平面B上;通過(guò)在接入路由器上實(shí)施“弱策略路由”技術(shù),“軟交換匯接網(wǎng)”業(yè)務(wù)首選平面A作為其承載平面,當(dāng)平面A出現(xiàn)故障時(shí),通過(guò)“快速重路由”和IGP的收斂,“軟交換匯接網(wǎng)”業(yè)務(wù)可以完成向平面B的倒換。當(dāng)前第5頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)骨干網(wǎng)之間的IGP選用ISIS協(xié)議,整網(wǎng)ISIS跑在Level2上,通過(guò)設(shè)置ISIS的COST值實(shí)現(xiàn)普通流量從B平面走,這樣MPLSVPN的流量會(huì)相應(yīng)從B平面走。(這是IGP的選路,但是通過(guò)使用弱策略路由使軟交換業(yè)務(wù)正常情況下跑在A平面)同時(shí)通過(guò)和接口備份的配合,實(shí)現(xiàn)當(dāng)A平面兩CR之間鏈路中斷后,流量會(huì)導(dǎo)入B平面,當(dāng)B平面中斷時(shí)流量在B平面內(nèi)部迂回Metric類型參考值CR1之間130CR2之間100CR1-CR2250AR-CR11000AR-CR2800一期網(wǎng)絡(luò)路由方案當(dāng)前第6頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)弱策略路由區(qū)別與普通策略路由在于策略路由指定的下一跳不可達(dá)時(shí),能夠按照正常的路由表轉(zhuǎn)發(fā)本次工程中的弱策略主要用在將各地接入的軟交換流量導(dǎo)入到A平面,同時(shí)在A平面鏈路中斷時(shí)按照正常的路由轉(zhuǎn)發(fā)走B平面;同時(shí)為了提高流量切換時(shí)的速度,采用接口備份的方式將流量迅速導(dǎo)入B平面弱策略路由在AR設(shè)備上啟用APDP&接口備份在A平面的CR設(shè)備上啟用一期平面倒換:弱策略路由+APDP&接口備份當(dāng)前第7頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)中國(guó)移動(dòng)IP承載網(wǎng)二期整網(wǎng)拓?fù)浣Y(jié)構(gòu)核心(CR)節(jié)點(diǎn):對(duì)稱的不完全網(wǎng)狀連接接入(AR)節(jié)點(diǎn):按平面通過(guò)口字型連接到核心層當(dāng)前第8頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)中國(guó)移動(dòng)IP承載網(wǎng)二期核心節(jié)點(diǎn)設(shè)計(jì)在北京、上海、廣州、沈陽(yáng)、南京、武漢、成都和西安8個(gè)城市分別配置2臺(tái)核心路由器(CR),構(gòu)成8對(duì)核心節(jié)點(diǎn)核心節(jié)點(diǎn)CR之間采用對(duì)稱的不完全網(wǎng)狀連接方式;根據(jù)傳輸光纜的實(shí)際走向及彼此業(yè)務(wù)的相關(guān)性,任何1對(duì)同城市的核心節(jié)點(diǎn)CR路由器至少與2對(duì)其它城市核心節(jié)點(diǎn)的CR路由器相聯(lián);在每對(duì)核心節(jié)點(diǎn)CR1、CR2之間建立互聯(lián)鏈路北京沈陽(yáng)西安南京上海武漢成都廣州當(dāng)前第9頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)中國(guó)移動(dòng)IP承載網(wǎng)二期AR到CR連接設(shè)計(jì)存在核心節(jié)點(diǎn)的省份(廣東除外)以及吉林黑龍江和海南采用方式一其它絕大多數(shù)省份采用方式二(云南貴州重慶天津安徽浙江江西湖南廣西河南山東河北山西內(nèi)蒙寧夏西藏甘肅)福建采用方式三(福州和廈門各設(shè)置一個(gè)AR)新疆和青海由于傳輸原因采用方式四廣東地區(qū)由于業(yè)務(wù)量大的原因采用方式五CR1AR1CR2AR2CR1AR1CR2AR2AR1CR2AR2CR1CR1CR2AR1AR2AR1AR2方式一方式二方式三方式四CR1AR1CR2AR2方式五AR1AR2AR1AR2AR1AR2西寧烏魯木齊當(dāng)前第10頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)中國(guó)移動(dòng)IP承載網(wǎng)三期整網(wǎng)拓?fù)浣Y(jié)構(gòu)廣東省在廣州、深圳分別設(shè)立獨(dú)立BR設(shè)備,由二期的兩層結(jié)構(gòu)改為三層結(jié)構(gòu),江蘇無(wú)錫、山東青島、遼寧大連分別增加一對(duì)BR/AR設(shè)備當(dāng)前第11頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)A類大區(qū)省份(廣東)CR/BRBRAR
B類大區(qū)省份(除廣東外的其它大區(qū)省份)CR/BRBR/AR(遼寧大連,江蘇無(wú)錫)AR非大區(qū)省份BR/ARAR移動(dòng)IP承載網(wǎng)三期設(shè)備角色當(dāng)前第12頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)網(wǎng)絡(luò)組織原則在現(xiàn)階段網(wǎng)絡(luò)仍采用單一自治域(AS)方式進(jìn)行網(wǎng)絡(luò)組織;網(wǎng)絡(luò)層次結(jié)構(gòu)網(wǎng)絡(luò)長(zhǎng)期發(fā)展定位于核心、匯聚和接入三層結(jié)構(gòu);在現(xiàn)階段,為保證網(wǎng)絡(luò)結(jié)構(gòu)的簡(jiǎn)潔和效率,原則上各省內(nèi)網(wǎng)絡(luò)延伸部分應(yīng)暫定位于二、三層混合網(wǎng)絡(luò),即:核心節(jié)點(diǎn)所在省盡量采用“核心/匯聚+接入”的混合結(jié)構(gòu),其它省盡量采用“匯聚/接入+接入”的混合結(jié)構(gòu);網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)基于“中國(guó)移動(dòng)IP專用承載網(wǎng)二期擴(kuò)容改造第二階段工程”所形成的基礎(chǔ)結(jié)構(gòu),采用非對(duì)稱的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu);網(wǎng)絡(luò)協(xié)議網(wǎng)絡(luò)域內(nèi)路由協(xié)議采用IS-IS;業(yè)務(wù)疏通組織原則全網(wǎng)統(tǒng)一采用BGPMPLSVPN方式進(jìn)行業(yè)務(wù)疏通組織;
服務(wù)質(zhì)量保證(QoS)全網(wǎng)建立基于容量規(guī)劃、Diffserv/E-LSP和業(yè)務(wù)接入控制的服務(wù)質(zhì)量保證(QoS)體系;可靠服務(wù)機(jī)制在全網(wǎng)部署IGP/LDP快速收斂功能,并在核心層網(wǎng)絡(luò)部署LDPOverRSVP及MPLSTEFRR鏈路保護(hù)功能,實(shí)現(xiàn)在故障情況下話音等實(shí)時(shí)業(yè)務(wù)的快速恢復(fù);IP地址規(guī)劃全網(wǎng)按照統(tǒng)一IP地址規(guī)劃方案進(jìn)行部署;移動(dòng)IP承載網(wǎng)三期及省內(nèi)延伸當(dāng)前第13頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)中國(guó)移動(dòng)IP承載網(wǎng)三期整體結(jié)構(gòu)圖UMGsoftswitchUMGFull-MeshMP-IBGPISISDomainRSVP-TEMP-IBGPMP-IBGPVPNRRLDPOverRSVP-TELDPLDP主TunnelBypassBypassTEFRRShortcutOSPFLevel-2VRRPVRRPOSPFUMGOSPFsoftswitchVRRPMCEOSPFVRRP信令媒體T局接入方式一:媒體:主備信令:主備BFDBFDIPFRR端局接入方式媒體:負(fù)載分擔(dān)信令:SCTP多歸屬T局接入方式二:媒體:主備信令:主備當(dāng)前第14頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)
網(wǎng)絡(luò)總體架構(gòu)規(guī)劃
IGP協(xié)議規(guī)劃BGP(VPN)規(guī)劃網(wǎng)絡(luò)服務(wù)質(zhì)量保證(QoS)高可靠性方案軟交換站點(diǎn)接入方案網(wǎng)管安全網(wǎng)絡(luò)規(guī)劃篇當(dāng)前第15頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)IP地址規(guī)劃總體原則1、省級(jí)軟交換業(yè)務(wù)采用10.0.0.0/16網(wǎng)段;但限定在10.0.127.255以內(nèi),10.0.128.0~10.0.255.255作為預(yù)留3、IP承載網(wǎng)路由器(CR、BR、AR)設(shè)備互連地址采用10.1/16~10.7/16地址段10.1.1/24~10.1.16/24為CR地址段,10.1.24/24~10.1.127/24為BR地址段,10.1.128/24~10.7.255/24為AR地址段4、地市延伸以后總體上采用CR、BR、AR三級(jí)結(jié)構(gòu),但是除廣東的CR、BR、AR完全采用不同設(shè)備以外其他許多局點(diǎn)都是CR兼作BR或者BR兼作AR,在分配地址的時(shí)候CR兼作BR的路由器按照CR來(lái)分配,BR兼作AR的路由器按照BR來(lái)分配。當(dāng)前第16頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)IP地址規(guī)劃核心思想-節(jié)點(diǎn)號(hào)1、節(jié)點(diǎn)號(hào)是移動(dòng)IP承載網(wǎng)項(xiàng)目IP地址規(guī)劃的最核心元素2、全網(wǎng)的CR、BR、AR設(shè)備都有自己的節(jié)點(diǎn)號(hào)3、對(duì)于互連地址,節(jié)點(diǎn)號(hào)體現(xiàn)在第二和第三個(gè)字節(jié);對(duì)于loopback地址,節(jié)點(diǎn)號(hào)體現(xiàn)在第三和第四個(gè)字節(jié)亮點(diǎn):角色決定地址,方便網(wǎng)絡(luò)維護(hù)與故障排除當(dāng)前第17頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)節(jié)點(diǎn)號(hào)10.1.1.X221.130.208.11:208;2:209;3:2104:212;5:213Thesame數(shù)字相同MustBe不改變互連地址Loopback地址節(jié)點(diǎn)號(hào)在地址中的體現(xiàn)當(dāng)前第18頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)10.N1.N2.X固定值互連設(shè)備中的小節(jié)點(diǎn)號(hào)同級(jí)設(shè)備互連:從小到大分配CR-BR(BR/AR)CR/BR-AR:從大到小分配BR(BR/AR)-AR:從小到大分配(從.8/30開(kāi)始分配)節(jié)點(diǎn)號(hào)小的設(shè)備側(cè)分配奇數(shù)互連地址分配原則當(dāng)前第19頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)中國(guó)移動(dòng)IP專用承載網(wǎng)域內(nèi)路由協(xié)議繼續(xù)采用IS-IS,CR、CR/BRBR、BR/AR、RR、AR等路由器均屬于ISISLevel2;IP承載網(wǎng)CR/BR、CR、BR、BR/AR、RR、AR的Loopback地址和內(nèi)部互連地址由IS-IS統(tǒng)一承載,IS-IS不承載其它路由。ISIS采用快速收斂技術(shù),端到端收斂時(shí)間在2s以內(nèi)
NET規(guī)劃NET格式為:區(qū)域號(hào).SystemID.00區(qū)域號(hào):為統(tǒng)一的編號(hào),采用國(guó)家編碼+各地電話號(hào)碼區(qū)號(hào)的的方式,如北京地區(qū)為:86.0010SystemID:根據(jù)Loopback地址設(shè)置SystemID,某設(shè)備Loopback地址如下:
0100.2303.4005最終,該設(shè)備NET值為:86.0010.0100.2303.4005.00ISIS總體規(guī)劃當(dāng)前第20頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)CR之間流量疏導(dǎo)盡量保證只通過(guò)核心節(jié)點(diǎn)間鏈路進(jìn)行疏通BR之間流量疏導(dǎo)優(yōu)選通過(guò)匯聚節(jié)點(diǎn)間鏈路疏通次選通過(guò)核心節(jié)點(diǎn)間鏈路疏通
AR之間流量疏導(dǎo)
優(yōu)選通過(guò)接入節(jié)點(diǎn)間鏈路疏通(目前不同局點(diǎn)AR之間沒(méi)有直連鏈路)
次選通過(guò)匯聚節(jié)點(diǎn)間鏈路疏通再選通過(guò)核心節(jié)點(diǎn)間鏈路疏通流量路徑規(guī)劃-流量疏導(dǎo)原則當(dāng)前第21頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)1遵循流量疏導(dǎo)原則傳輸距離較短的路徑跳數(shù)最少的路徑4盡可能不出現(xiàn)等值路徑5流量?jī)?yōu)先從底層穿越Metric規(guī)劃原則當(dāng)前第22頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)
中國(guó)移動(dòng)IP承載網(wǎng)Metric設(shè)計(jì)原則遵照路由器角色(CR.BR.AR)和實(shí)際兩點(diǎn)間的傳輸距離來(lái)規(guī)劃,兩城市間的傳輸距離選擇最短的傳輸路線,比如,上海到廣州存在兩條路線的情況下,根據(jù)較短的路線計(jì)算,兩城市間實(shí)際的傳輸距離(單位:公里)除以20的數(shù)值(取整數(shù))作為Metric值
CR路由器之間在距離的基礎(chǔ)上加權(quán)值5BR路由器之間在距離的基礎(chǔ)上加權(quán)值3AR路由器之間在距離的基礎(chǔ)上加權(quán)值1同城同類設(shè)備之間的距離值為2CR與BR路由器之間在距離的基礎(chǔ)上加權(quán)值500
Metric規(guī)劃(二期)當(dāng)前第23頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)Metric規(guī)劃(三期優(yōu)化)二期網(wǎng)絡(luò)仍然存在等價(jià)路徑的情況地市延伸后將會(huì)增加AR-BR和AR-AR的互連鏈路,二期中的CR-CR之間BR-BR之間的Metric。權(quán)重值太小難以保證地市延伸后AR端到端不出現(xiàn)等值路徑。
類型代表符號(hào)參考值不同大區(qū)CR間鏈路A300+傳輸距離BR到CR鏈路B5000+傳輸距離AR到BR鏈路C300+傳輸距離同省BR間鏈路D300-[1,n]同城AR間鏈路E不同省在不同范圍內(nèi)依次遞增不同省不同城BR間鏈路接F5000+傳輸距離同省不同城AR間鏈路E’250+傳輸距離同大區(qū)CR間鏈路A’300+[1,n]當(dāng)前第24頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)省市節(jié)點(diǎn)數(shù)AR間Metric范圍北京31-5上海26-10廣東2411-40遼寧1341-60陜西1061-80湖北1181-100江蘇13101-120四川20121-150黑龍江12151-170吉林8171-180海南1181-185其它省市-1-30ARARARARBR/ARBR/ARCRCRCRCRA’1A’1B1B1B2B2C1C1E1A1A2DE2(A1,A2)>D>(E1,E2)如果E1=E2,不同地市的不同平面AR之間互訪會(huì)出現(xiàn)等值路徑三期Metric規(guī)劃(AR之間Metric規(guī)劃)當(dāng)前第25頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)
網(wǎng)絡(luò)總體架構(gòu)規(guī)劃IGP協(xié)議規(guī)劃
BGP(VPN)規(guī)劃
網(wǎng)絡(luò)服務(wù)質(zhì)量保證(QoS)高可靠性方案軟交換站點(diǎn)接入方案網(wǎng)管安全網(wǎng)絡(luò)規(guī)劃篇當(dāng)前第26頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)說(shuō)明:北京上海廣東三地各有兩臺(tái)NE40作為VRR,同省兩臺(tái)AR設(shè)備與就近大區(qū)的兩個(gè)VRR建立鄰居關(guān)系,經(jīng)過(guò)整改后每個(gè)AR與另外大區(qū)的一個(gè)VRR新建鄰居關(guān)系進(jìn)行VRR的異地容災(zāi)BJCR2BJCR1SHCR2SHCR1GZCR2GZCR1SHAR2SHAR1BJRR2BJRR1GZRR2GZRR1SHRR1SHRR2物理鏈路BGP對(duì)等體關(guān)系RR部署-二期VPNRR部署當(dāng)前第27頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)隨著省內(nèi)延伸工程的建設(shè),中國(guó)移動(dòng)IP專用承載網(wǎng)中的PE路由器將擴(kuò)展至600多臺(tái),北京、上海、廣州設(shè)置的3對(duì)VRR路由器在性能上存在一定的可擴(kuò)展性風(fēng)險(xiǎn)
根據(jù)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu),重新規(guī)劃路由反射簇(RouteReflectorCluster),每個(gè)VRR路由器單獨(dú)為一個(gè)路由反射器,采用分區(qū)覆蓋方式構(gòu)成16個(gè)MP-iBGP路由反射簇,每個(gè)省分別歸屬于直接上聯(lián)的CR設(shè)備所屬的2個(gè)Cluster中,16臺(tái)VRR之間構(gòu)成FullMeshMP-iBGP連接。為保證省內(nèi)業(yè)務(wù)穩(wěn)定,不受省際鏈路故障的影響,對(duì)于非大區(qū)省,其本省的BR或BR/AR設(shè)備同時(shí)作為本省的VRR,僅與省內(nèi)的AR建立MP-iBGP鄰接關(guān)系,構(gòu)成1個(gè)省Cluster;即各非大區(qū)省的AR節(jié)點(diǎn)既作為骨干VRR的Client又作為本省VRR的Client。RR部署–三期整改當(dāng)前第28頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)廣東省廣州BR、深圳BR,遼寧大連BR、江蘇無(wú)錫BR、山東青島BR、江蘇南京CR/BR、遼寧沈陽(yáng)CR/BR所匯接的本省地市區(qū)域,看作獨(dú)立的省。北京、上海、陜西、四川、湖北省以及遼寧沈陽(yáng)、江蘇南京、山東濟(jì)南區(qū)域,上述省市或區(qū)域AR只與本大區(qū)RR1、RR2建立Peer關(guān)系。除青海、新疆外,其它省(包括廣東廣州、廣州深圳、遼寧大連、江蘇無(wú)錫、山東青島區(qū)域)AR與BR所連接CR上的RR建立Peer關(guān)系,反射全網(wǎng)VPN路由,本省BR作為省內(nèi)地市AR的RR,防止省內(nèi)BR上行連接CR鏈路同時(shí)中斷時(shí)影響省內(nèi)業(yè)務(wù),省內(nèi)兩臺(tái)BR間建立Peer關(guān)系。青海和新疆兩個(gè)省的AR與西安RR1、上海RR1建立Peer關(guān)系,本省BR作為省內(nèi)地市AR的RR,防止省內(nèi)BR上行連接西安CR和蘭州BR鏈路同時(shí)中斷時(shí)影響省內(nèi)業(yè)務(wù),省內(nèi)兩臺(tái)BR間建立Peer關(guān)系。
RR部署–三期整改當(dāng)前第29頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)BJAR1BJAR2NMAR2非大區(qū)省份(內(nèi)蒙)NMAR大區(qū)省份(北京)BJCR1BJCR2XACR2BJRR1BJRR2XARR2物理鏈路BGP對(duì)等體關(guān)系說(shuō)明:全網(wǎng)八大區(qū)每個(gè)大區(qū)兩臺(tái)RR,每臺(tái)RR均為獨(dú)立的Cluster.全網(wǎng)一共16個(gè)Cluster骨干RR之間建立full-mesh鄰居關(guān)系RR部署-三期核心VRR部署當(dāng)前第30頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)物理鏈路BGP對(duì)等體關(guān)系骨干RR之間建立full-mesh鄰居關(guān)系非大區(qū)省份(內(nèi)蒙)XACR2NMBR1NMBR2NMAR1NMAR2BJCR1BJRR1XARR2說(shuō)明:為了保證所有BR-CR上行鏈路同時(shí)發(fā)生故障時(shí)不影響省內(nèi)業(yè)務(wù),將BR設(shè)備兼做AR的VRR反射省內(nèi)業(yè)務(wù)RR部署-BR兼做省內(nèi)VRR部署當(dāng)前第31頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)MPLSVPN-RD、RT規(guī)劃RD規(guī)劃:對(duì)于業(yè)務(wù)系統(tǒng)單歸接入的方式同一個(gè)VPN內(nèi)不同PE采用一個(gè)RD業(yè)務(wù)系統(tǒng)雙歸接入到兩個(gè)PE時(shí)同一個(gè)VPN中在兩個(gè)PE上設(shè)置不同的RD值RT規(guī)劃:對(duì)每個(gè)VPN分配2個(gè)RT值,第一個(gè)等同RD,第二個(gè)為RD值加1,以滿足各種不同類型VPN的需求當(dāng)前第32頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)RD規(guī)劃-雙歸組網(wǎng)中RD相同如果VPNv4路由通過(guò)RR進(jìn)行反射,RR會(huì)將路由進(jìn)行優(yōu)選后再反射給遠(yuǎn)端PE,遠(yuǎn)端PE在VRF中只有一條路由1回程流量會(huì)壓到一個(gè)PE設(shè)備上,不能形成負(fù)載分擔(dān)2下一跳設(shè)備出現(xiàn)故障時(shí),路由不能快速切換VPN-v4update:
RD:24059:200:10.200.0.10/28,
Next-hop=PEB-1VPN-v4update:
RD:24059:200:10.200.0.10/28,
Next-hop=PEA-1PPPPPEA-1PEB-2PEB-1PEA-2CE1CE2VPN-v4update:
RD:24059:200:10.200.0.10/28,
Next-hop=PEB-1VPN-v4update:
RD:24059:200:10.200.0.10/28,
Next-hop=PEA-1(Best)RR當(dāng)前第33頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)
網(wǎng)絡(luò)總體架構(gòu)規(guī)劃IGP協(xié)議規(guī)劃BGP(VPN)規(guī)劃
網(wǎng)絡(luò)服務(wù)質(zhì)量保證(QoS)高可靠性方案軟交換站點(diǎn)接入方案網(wǎng)管安全網(wǎng)絡(luò)規(guī)劃篇當(dāng)前第34頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)QoS體系結(jié)構(gòu)Classification&MarkingTrafficPolicing&TrafficShappingCongestionManagementCongestionAvoidance當(dāng)前第35頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)QoS總體設(shè)計(jì)方案網(wǎng)絡(luò)設(shè)計(jì)
根據(jù)話務(wù)流量模型規(guī)劃中繼鏈路容量,盡量避免網(wǎng)絡(luò)擁塞(輕載)
為核心鏈路設(shè)計(jì)可預(yù)知的備份路徑Diff-serv/E-LSP技術(shù)
網(wǎng)絡(luò)邊緣流量控制技術(shù)(CAR/Shaping),降低骨干鏈路擁塞的概率基于網(wǎng)絡(luò)邊緣業(yè)務(wù)接入的標(biāo)識(shí)(DSCP),進(jìn)行隊(duì)列調(diào)度在MPLS域,將DSCP映射到EXP,基于EXP進(jìn)行隊(duì)列調(diào)度,采用E-LSP方案在CR設(shè)備上,將LDPEXP映射到RSVP-TE的EXP.當(dāng)前第36頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)IP承載網(wǎng)帶寬使用策略端口帶寬語(yǔ)音NC信令網(wǎng)管其它網(wǎng)絡(luò)按照NC業(yè)務(wù)和語(yǔ)音信令業(yè)務(wù)總和規(guī)劃帶寬NC和信令業(yè)務(wù)嚴(yán)格優(yōu)先保證,不限制帶寬使用上限語(yǔ)音業(yè)務(wù)可以搶占帶寬,但是不超過(guò)其上限,其帶寬可供其它業(yè)務(wù)使用網(wǎng)管和七號(hào)信令檢測(cè)等其它業(yè)務(wù)在剩余帶寬中按照權(quán)重比進(jìn)行分配其它業(yè)務(wù)盡力轉(zhuǎn)發(fā)當(dāng)前第37頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)IP承載網(wǎng)QoS設(shè)計(jì)方案ClassNamePHBDSCPEXPCIR(%)PIR(%)QueuePolicing&Shaping媒體流EF1011101011090PQ路由協(xié)議CS61100001105100PQ信令流CS61100001105100PQ軟交換網(wǎng)管AF2101000101010100WFQ七號(hào)信令監(jiān)測(cè)AF2101000101010100WFQCAR數(shù)據(jù)業(yè)務(wù)監(jiān)測(cè)AF2101000101010100WFQCAR當(dāng)前第38頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)Classification&Markingaclnumber3000rule5permitipsource10.0.109.00.0.0.127aclnumber3001rule5permitipsource10.0.38.00.0.0.255aclnumber3002rule5permitipsource10.0.37.00.0.0.255#trafficclassifier3001operatororif-matchacl3001trafficclassifier3002operatororif-matchacl3002trafficclassifier3000operatororif-matchacl3000trafficbehavior3001remarkdscpcs6trafficbehavior3002remarkdscpeftrafficbehavior3000remarkdscpaf21trafficpolicyCtrl
#trafficpolicyCtrlclassifier3001behavior3001trafficpolicyCarryclassifier3002behavior3002trafficpolicyManagerclassifier3000behavior3000#interfaceEthernet2/1/0traffic-policyCtrlinboundACLTrafficClassifierTrafficBehaviorTrafficPolicyInterface當(dāng)前第39頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)TrafficPolicing&TrafficShapping&Congestion.ManagementTrafficPolicing:trafficbehavior3003remarkdscpaf21carcir54000pir54000cbs54000pbs54000greenpassyellowpassreddiscardTrafficShaping(8011):qosqueueaf2cir100000length256qosqueueefcir1500000length256weight1qosqueuecs6cir200000length256CongestionManagement&TrafficShaping(NE80E&NE40E):qosqueuebecircir-percentage0outboundqosqueueefpirpir-percentage90outboundqosqueueaf2circir-percentage10outboundCongestionManagement&TrafficShaping(NE5000E):
qosqueueaf2circir-percentage10outbound qosqueuecs6circir-percentage5outboundqosqueueefcircir-percentage80outbound當(dāng)前第40頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)
網(wǎng)絡(luò)總體架構(gòu)規(guī)劃IGP協(xié)議規(guī)劃BGP(VPN)規(guī)劃網(wǎng)絡(luò)服務(wù)質(zhì)量保證(QoS)
高可靠性方案軟交換站點(diǎn)接入方案網(wǎng)管安全網(wǎng)絡(luò)規(guī)劃篇當(dāng)前第41頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)高可靠性技術(shù)體系主路徑快速檢測(cè)流量快速切換到臨時(shí)路徑網(wǎng)絡(luò)快速收斂并將流量切換到次優(yōu)路徑PEPEPPPPPP當(dāng)前第42頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)中國(guó)移動(dòng)IP承載網(wǎng)高可靠性技術(shù)快速檢測(cè):PoS告警BFD快速切換:MPLSTEFRRIPFRR快速收斂:ISISFCVPNFC
當(dāng)前第43頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)PoS告警敏感-快速檢測(cè)PoS鏈路故障沒(méi)有配置PoS告警敏感的情況下無(wú)法快速感知需要等待PPPKeepalive超時(shí)告警信號(hào):LaisLrdiPais等告警信號(hào):LaisLrdiPais等配置PoS告警敏感的情況下一旦收到告警信號(hào)快速將端口置為Down告警信號(hào):LaisLrdiPais等告警信號(hào):LaisLrdiPais等當(dāng)前第44頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)PoS告警敏感配置和鏈路故障顯示配置:interfacePos6/0/0alarmlrdisensitivealarmprdisensitivealarmpaissensitive
顯示:<NE80E>disintPos6/0/0Pos1/0/2currentstate:UPLineprotocolcurrentstate:DOWN……
SDHalarm:
sectionlayer:nonelinelayer:nonepathlayer:PAISPRDI
SDHerror:sectionlayer:B164linelayer:B24290REI1269119pathlayer:B3395467221079
當(dāng)前第45頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)BFD-快速HelloBFD(BiDirectionForwardingDetect:draft-ietf-bfd-v4v6-1hop-02.txt)每個(gè)報(bào)文不超過(guò)100Byte,對(duì)帶寬的占用低于100Byte×100/s×8bit/Byte=80000bit/s=80Kbps報(bào)文發(fā)送靠接口板上的NP進(jìn)行處理,無(wú)需主控板CPU參與,對(duì)系統(tǒng)性能無(wú)影響單跳B(niǎo)FD通常與IGP以及IPFRR聯(lián)動(dòng),多跳B(niǎo)FD通常與BGP以及VPNFRR聯(lián)動(dòng)BFDHello報(bào)文單跳B(niǎo)FD多跳B(niǎo)FD以ms級(jí)時(shí)間間隔發(fā)送BFDHello報(bào)文傳輸/交換網(wǎng)以ms級(jí)時(shí)間間隔發(fā)送移動(dòng)IP承載網(wǎng)端局接入采用了BFD技術(shù)當(dāng)前第46頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)IPFRR目標(biāo)網(wǎng)絡(luò)最優(yōu)路徑次優(yōu)路徑FRR路徑正常情況下,數(shù)據(jù)包走最優(yōu)路徑當(dāng)最優(yōu)路徑故障,入口路由器一旦感知到故障(可以通過(guò)PoS告警以及BFD等技術(shù)進(jìn)行快速檢測(cè)),立即把數(shù)據(jù)包通過(guò)預(yù)先設(shè)置好的FRR路徑轉(zhuǎn)發(fā)與此同時(shí),路由會(huì)進(jìn)行重新收斂,轉(zhuǎn)發(fā)表項(xiàng)更新,F(xiàn)RR使命結(jié)束,數(shù)據(jù)包通過(guò)收斂后的路徑進(jìn)行轉(zhuǎn)發(fā)移動(dòng)IP承載網(wǎng)端局接入采用了IPFRR技術(shù)當(dāng)前第47頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)MPLSTE的四大組件MPLS流量工程主要包括四大組件:信息發(fā)布組件路徑計(jì)算組件信令組件(或稱路徑建立組件)報(bào)文轉(zhuǎn)發(fā)組件四大組件可以保證流量基本轉(zhuǎn)發(fā)。MPLS流量工程還支持一些高級(jí)的特性,來(lái)豐富基本功能。FRR(FastReroute)隧道的備份(Backup)帶寬的自動(dòng)調(diào)整(AutoBandwidthAllocation)路徑的重優(yōu)化(Reoptimum)當(dāng)前第48頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)TE路徑建立-嚴(yán)格顯式路徑所謂的嚴(yán)格顯式路徑,就是下一跳與前一跳直接相連。通過(guò)嚴(yán)格顯式路徑,可以最精確地控制LSP所經(jīng)過(guò)的路徑。主路徑:explicit-pathto_gzcr1_mainnexthop10.1.5.21Bypass路徑:explicit-pathto_gzcr1_bypassnexthop10.1.9.6nexthop10.1.7.5nexthop10.1.5.17當(dāng)前第49頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)MPLSTE報(bào)文轉(zhuǎn)發(fā)組件MPLSTE報(bào)文轉(zhuǎn)發(fā)組件是基于標(biāo)簽的,通過(guò)標(biāo)簽沿著預(yù)先建立的LSP進(jìn)行報(bào)文轉(zhuǎn)發(fā)。如何把流量引入到MPLETE隧道中:靜態(tài)路由(StaticRoute)自動(dòng)路由(AutoRoute)轉(zhuǎn)發(fā)捷徑(Shortcut)轉(zhuǎn)發(fā)鄰接(ForwardingAdjacency)策略路由(PolicyRoute)中國(guó)移動(dòng)IP承載網(wǎng)采用了自動(dòng)路由(shortcut)的方式。當(dāng)前第50頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)MPLSTEFRR(ShortCut)IP/MPLSCOREPPEPEPEPEPPPMPLSTEDOMAINLinkProtection主用路徑次優(yōu)路徑主用TE備用TE臨時(shí)路徑TE隧道發(fā)起端采用IGPShortcut方式,只有TE發(fā)起端能夠感知和使用TE隧道,TE的Metric小于物理鏈路Metric
如果主用路徑故障,首先通過(guò)TEFRR切換到備用TE(50ms級(jí)別,p路由器不需收斂),保證IGP收斂過(guò)程中流量不中斷,等待AR路由器端到端收斂到次優(yōu)路徑當(dāng)前第51頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)MPLSTEFRR(ForwardingAdjacency)IP/MPLSCOREPPEPEPEPEPPPMPLSTEDOMAINMGWMGWLinkProtection主用路徑次優(yōu)路徑主用TE備用TETE隧道發(fā)起端采用ForwardingAdjacency方式,將TE作為邏輯鏈路引入了IGP,網(wǎng)絡(luò)所有節(jié)點(diǎn)感知,TE的Metric小于物理鏈路主用TE故障情況下,流量切換到備用TE(50ms),PE路由器IGP不再收斂。當(dāng)前第52頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)iSPFPRC智能定時(shí)器BGP(VPN)FCAR-AR端到端故障保護(hù)(ISISFCBGPFC)當(dāng)前第53頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)IGP快速收斂iSPF:增量SPF計(jì)算。除第一次計(jì)算時(shí)需要計(jì)算全部節(jié)點(diǎn)外,每次鏈路的變化只計(jì)算受到影響的部分并能保證最短路徑樹(shù)(SPT)的完整。
PRC:部分路由計(jì)算,常常與iSPF結(jié)合在一起工作,如經(jīng)過(guò)iSPF計(jì)算后SPT發(fā)生了改變,此時(shí)由PRC來(lái)更新變化的節(jié)點(diǎn)上的所有葉子即可。路由器代表節(jié)點(diǎn)路由器宣告的路由代表葉子當(dāng)前第54頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)IGP快速收斂LSP快速擴(kuò)散:收到LSP后,快速將LSP擴(kuò)散出去LSP生成智能定時(shí)器:發(fā)生鏈路變化后,快速生成新的LSP并發(fā)送出去SPF智能定時(shí)器:timerspfmax-interval[initial-interval[incre-interval]]當(dāng)前第55頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)BGP快速收斂:(Next-HopAddressTracking)PEPEP路由收斂軟交換VPNRD:100:1軟交換VPNRD:100:1RIB:1.1.1.1/24NH:E0BGPVPNv4E0NHTRIB:2.2.2.2/24NH:E1BGPVPNv4E1NHT技術(shù)通過(guò)IGP與BGP的聯(lián)動(dòng)(IGP的變化信息及時(shí)的通告給BGP)加快了BGP路由的收斂速度當(dāng)前第56頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)中國(guó)移動(dòng)IP承載網(wǎng)的ISIS-FC配置如下:isis1timerlsp-generation1level-2flash-floodlevel-2timerspf1100100
缺省值SPFLSP-GenerationMaximum-interval10s5sInitial-wait100ms50msIncremental-interval5s5s當(dāng)前第57頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)VLANDamping特性是專門針對(duì)本次工程中軟交換UMG設(shè)備的主備GE口問(wèn)題。UMG的主備GE口一個(gè)主用一個(gè)備用,兩個(gè)GE接口對(duì)應(yīng)1個(gè)IP地址,對(duì)AR來(lái)說(shuō)需要將這兩個(gè)接口劃到一個(gè)VLAN中,但是UMG主備GE口倒換的時(shí)候會(huì)存在一個(gè)兩個(gè)端口同時(shí)Down掉的瞬間,而NE40側(cè)的VLAN會(huì)隨之Down掉再恢復(fù),這個(gè)時(shí)間較長(zhǎng)(秒級(jí))。VLANDamping特性可以設(shè)置VLAN在多長(zhǎng)時(shí)間內(nèi),即使VLAN內(nèi)所有端口都Down掉VLAN仍能保持UP,本次工程Damping時(shí)間統(tǒng)一設(shè)置為3VLANDamping(華為私有)當(dāng)前第58頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)鏈路捆綁負(fù)載分擔(dān)(IP-Trunk/Eth-Trunk)優(yōu)點(diǎn):通過(guò)設(shè)置門限,可以保證在捆綁的鏈路總帶寬小于門限時(shí)將IP-Trunk(Eth-Trunk)接口Down掉,流量收斂到其他鏈路。避免了帶寬不足時(shí)流量依然擁擠到這條鏈路上。節(jié)省IP地址??梢院莒`活的進(jìn)行帶寬的按需擴(kuò)展。業(yè)務(wù)流業(yè)務(wù)流業(yè)務(wù)流業(yè)務(wù)流鏈路捆綁PoSIP-Trunk缺點(diǎn):目前存在Hash不均勻的問(wèn)題如果協(xié)議報(bào)文Hash到質(zhì)量不好的成員鏈路上,協(xié)議將發(fā)生中斷成員鏈路鏈路層down的信息不會(huì)打印LogEthEth-Trunk當(dāng)前第59頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)
網(wǎng)絡(luò)總體架構(gòu)規(guī)劃IGP協(xié)議規(guī)劃BGP(VPN)規(guī)劃網(wǎng)絡(luò)服務(wù)質(zhì)量保證(QoS)高可靠性方案
軟交換站點(diǎn)接入方案網(wǎng)管安全及其它網(wǎng)絡(luò)規(guī)劃篇當(dāng)前第60頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)UMG1CR1CR2S3526-1S3526-2SS1AR1UMG2S3526-1S3526-22631ESS2AR22631E3526C3526CMediaSGNMSVRRP主VRRP備VRRP主VRRP備T局接入方式一拓?fù)?除???、銀川、西寧、拉薩外的所有局點(diǎn))當(dāng)前第61頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)UMGCR1CR2S3526-1S3526-22631E3526CAR1AR2MediaSGNMSVRRP主VRRP備VRRP主VRRP備T局接入方式二拓?fù)???凇y川、西寧、拉薩四局點(diǎn))當(dāng)前第62頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)
UMG和AR路由器直連連接,在AR路由器上通過(guò)null0的靜態(tài)路由將媒體網(wǎng)段匯聚,在媒體VPN中發(fā)布該網(wǎng)段,大部分局點(diǎn)都是按照25位的地址段進(jìn)行匯聚,廣東由于業(yè)務(wù)量較大在擴(kuò)容后除了原來(lái)的25位地址段之外還發(fā)布了新的地址段UMG1CR1AR1iproute-staticvpn-instanceChinaMobile_NGN_Media10.0.1.0255.255.255.128null0preference200bgp24059ipv4-familyvpn-instanceChinaMobile_NGN_Medianetwork10.0.1.0255.255.255.128T局路由組織方式——媒體當(dāng)前第63頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)T局路由組織方式——信令軟交換設(shè)備分別連接到兩臺(tái)交換機(jī)3526E上,3526E和AR路由器之間啟用OSPF協(xié)議,兩臺(tái)3526E啟用VRRP協(xié)議,3526-1為主,3526-2為備,正常情況下信令流量上行至3526-1,AR上在信令VPN中下發(fā)強(qiáng)制缺省路由使信令流量能夠上行至AR;在3526E上的OSPF中引入直連路由,AR通過(guò)OSPF學(xué)到25位的信令網(wǎng)段,然后在信令VPN中發(fā)布該網(wǎng)段,另外AR上還配置了優(yōu)先級(jí)為200的25位null0靜態(tài)路由UMG1CR1S3526-1S3526-2SS1AR1VRRP主VRRP備OSPFospf1vpn-instanceChinaMobile_NGN_SGdefault-route-advertisealwaysbgp24059ipv4-familyvpn-instanceChinaMobile_NGN_SGnetwork10.0.2.0255.255.255.128iproute-staticvpn-instanceChinaMobile_NGN_SG10.0.2.0255.255.255.128null0preference200當(dāng)前第64頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)端局路由組織方式——網(wǎng)管軟交換設(shè)備連接到交換機(jī)3526C上,在3526C上通過(guò)靜態(tài)默認(rèn)路由使網(wǎng)管流量能夠上行到R2631,R2631上通過(guò)靜態(tài)默認(rèn)路由使網(wǎng)管流量能夠上行到AR;在AR路由器上通過(guò)靜態(tài)路由學(xué)到網(wǎng)管業(yè)務(wù)網(wǎng)段(目的網(wǎng)段為26位,下一跳為R2631路由器),然后在AR上網(wǎng)管VPN中發(fā)布該網(wǎng)段;R2631上通過(guò)靜態(tài)路由學(xué)到網(wǎng)管業(yè)務(wù)網(wǎng)段下一跳為3526CCR1UMG1AR13526Cbgp24059ipv4-familyvpn-instanceChinaMobile_NGN_NMSnetwork10.0.103.0255.255.255.192iproute-staticvpn-instanceChinaMobile_NGN_NMS10.0.103.0255.255.255.19210.0.103.33iproute-static10.0.103.0255.255.255.22410.0.103.50preference60iproute-static10.0.103.40255.255.255.24810.0.103.50preference602631Eiproute-static0.0.0.00.0.0.010.0.103.34preference60當(dāng)前第65頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)多實(shí)例OSPF與MP-BGP路由交互PE-1PE-2CE1CE2MPLSCOREOSPFSuperbackboneOSPFArea10OSPFArea100Type1/2/3LSAVPN-v4update:
RD:24059:201:10.200.0.10/28,
Next-hop=PE-1
ExtendedComm.RT,OSPFRouteType,OSPFdomainIDtype3LSAType5/7LSAtype5/7LSA本端PE將多實(shí)例OSPF路由發(fā)布(Import/Network)到MP-BGP中時(shí)會(huì)通過(guò)擴(kuò)展團(tuán)體攜帶OSPFRoute-Type,Domain-ID等參數(shù)遠(yuǎn)端PE收到BGP路由后,會(huì)將本地的Domain-ID和接收到的值進(jìn)行比較,若相同,在將BGP路由引入多實(shí)例OSPF時(shí),會(huì)將原始OSPF路由進(jìn)行還原(還原時(shí)自己變成LSA的始發(fā)者),Type1/2/3LSA還原成Type3LSA;Type5/7LSA還遠(yuǎn)程Type5/7LSA在進(jìn)行LSA還原時(shí),Type3LSA通過(guò)DN位進(jìn)行環(huán)路避免,Type5/7LSA通過(guò)Route-Tag進(jìn)行環(huán)路避免在MCE上,通過(guò)命令vpn-capability-simpleenable取消環(huán)路檢測(cè)功能當(dāng)前第66頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)媒體模塊端局接入拓?fù)銶GW/SSARPE1ARPE2IGP/MPLSCE-1CE2多實(shí)例OSPF多實(shí)例OSPFGEGEPOSGEBackbone多實(shí)例OSPF信令模塊信令工作在SCTP模式下媒體流工作在負(fù)載分擔(dān)模式CE與PE之間運(yùn)行OSPF多實(shí)例一條物理連接,通過(guò)兩個(gè)子接口區(qū)分媒體和信令業(yè)務(wù),分別綁定到媒體和信令VPN實(shí)例中媒體信令當(dāng)前第67頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)端局接入?yún)?shù)規(guī)范(部分)參數(shù)項(xiàng)最終取定值備注Cost值參考帶寬10GCost=10G/鏈路帶寬Hello間隔1sPE-CE必須一致Holddown4sPE-CE必須一致VPN路由策略只把軟交換端局的匯聚路由發(fā)布到VPN匯聚路由網(wǎng)段由軟交換廠家提供給IP承載網(wǎng)AR到CE路由策略T局節(jié)點(diǎn):下發(fā)缺省路由及10.0.0.0/8給CE
其它節(jié)點(diǎn):下發(fā)細(xì)化路由和缺省路由給CE1:通過(guò)OSPFsummary功能產(chǎn)生并下發(fā)10.0.0.0/8匯聚路由給CE
CE到AR路由策略CE向AR發(fā)布細(xì)化路由+匯聚路由互聯(lián)端口模式802.1Q不同廠家互通時(shí)關(guān)閉自協(xié)商功能Frame-Relay(PoS)華為設(shè)備不支持以太網(wǎng)多鏈路捆綁靜態(tài)捆綁華為公司采用ETH-TRUNK方式當(dāng)前第68頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)信令模塊端局路由組織方式-信令MGW或者M(jìn)SCSERVER/HLR備主信令接口工作為SCTP雙歸屬方式,信令接口故障檢測(cè)機(jī)制是基于SCTP檢測(cè),信令接口通過(guò)SCTP檢測(cè)主用路徑的可用性,出現(xiàn)故障則切換到備用路徑。在CE上將直連信令端口引入到OSPF。在CE上配置本平面信令網(wǎng)段的聚合黑洞靜態(tài)路由,并引入到OSPF中(E1)在CE側(cè)啟用忽略環(huán)路檢測(cè)功能在PE的BGP多實(shí)例中發(fā)布兩條信令聚合路由在PE的OSPF多實(shí)例中引入BGP路由,并進(jìn)行ASBR聚合主用SCTPARPE1ARPE2IGP/MPLSCE-1CE2多實(shí)例OSPF多實(shí)例OSPFGEGEPOSGEBackbone備用SCTP當(dāng)前第69頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)端局路由組織方式-媒體媒體接口工作為負(fù)載分擔(dān)模式下CE與UMG之間采用BFD(主接口啟用BFD,子接口綁定到媒體VPN實(shí)例)進(jìn)行快速故障檢測(cè),并在CE之間啟用IPFRR進(jìn)行媒體流快速倒換在CE上將直連媒體端口引入到OSPF。在CE上配置本平面媒體網(wǎng)段的聚合黑洞靜態(tài)路由,并引入到OSPF中(E1)在CE1上配置靜態(tài)路由,目標(biāo)地址位IP4所在網(wǎng)段,下一跳為IP2,采用默認(rèn)優(yōu)先級(jí),并引入OSPF;在CE2上配置靜態(tài)路由,目標(biāo)地址位IP2所在網(wǎng)段,下一跳為IP4,采用默認(rèn)優(yōu)先級(jí),并引入OSPF.在CE上啟用OSPF忽略環(huán)路檢測(cè)功能在PE的BGP多實(shí)例中發(fā)布兩條媒體聚合路由在PE的OSPF多實(shí)例中引入BGP路由,并進(jìn)行ASBR聚合ARPE1ARPE2IGP/MPLSCE-1CE2多實(shí)例OSPF多實(shí)例OSPFGEGEPOSGEBackbone多實(shí)例OSPFIPFRRBFDBFDIP1IP2IP4IP3當(dāng)前第70頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)
網(wǎng)絡(luò)總體架構(gòu)規(guī)劃IGP協(xié)議規(guī)劃BGP(VPN)規(guī)劃網(wǎng)絡(luò)服務(wù)質(zhì)量保證(QoS)高可靠性方案軟交換站點(diǎn)接入方案
網(wǎng)管安全網(wǎng)絡(luò)規(guī)劃篇當(dāng)前第71頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)網(wǎng)管中心拓?fù)銪JNMS-AR1BJ-CR1BJ-CR2BJNMS-AR2IP承載網(wǎng)ISISS8505-1S8505-2R3680-1R3680-2軟交換網(wǎng)管系統(tǒng)軟交換維護(hù)終端ISISISIS靜態(tài)靜態(tài)靜態(tài)DMSD2610維護(hù)中端靜態(tài)靜態(tài)ISIS&LDPISIS&LDPISIS&LDP公網(wǎng)數(shù)通網(wǎng)管VPNNGN網(wǎng)管VPN當(dāng)前第72頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)網(wǎng)絡(luò)安全設(shè)備內(nèi)部安全:CPCAR,對(duì)所有上送CPU處理的報(bào)文進(jìn)行限速,防止對(duì)設(shè)備本身的DoS攻擊所有協(xié)議均啟用MD5認(rèn)證,防止路由協(xié)議的DoS攻擊PE針對(duì)于每個(gè)VRF路由表進(jìn)行路由條目數(shù)量限制,以避免可能來(lái)自用戶網(wǎng)絡(luò)的海量路由攻擊對(duì)該P(yáng)E的不良影響與其它網(wǎng)絡(luò)(如CMNET)對(duì)接時(shí),在邊界部署防火墻,防止受到來(lái)自其它網(wǎng)絡(luò)的攻擊當(dāng)前第73頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)廣州AR3/AR4結(jié)構(gòu)調(diào)整割接
海南BR1替換割接
成都CR結(jié)構(gòu)調(diào)整割接
割接案例篇當(dāng)前第74頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)廣州AR3惠州AR2440深圳AR4深圳AR3佛山AR25190740250015001廣州AR4廣州BR1廣州BR2廣州CR1廣州CR2深圳BR1深圳BR2佛山AR1惠州AR12802794403000300010G2.5G155M上海CR2割接前拓?fù)洚?dāng)前第75頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)廣州AR3440深圳AR3佛山AR25190740250015001廣州BR1廣州BR2廣州CR1廣州CR2深圳BR1惠州AR1惠州AR228027944010G2.5G155M上海CR2301301佛山AR1深圳AR4廣州AR4深圳BR2割接目標(biāo)拓?fù)鋱D當(dāng)前第76頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)廣州AR3割接思路及步驟(部分)為了保證割接的平滑,把廣州AR3到廣州BR1之間的鏈路連通,配置ISIS,MPLS等數(shù)據(jù)。觀察各個(gè)表項(xiàng),狀態(tài)正常后將廣州AR3-廣州CR1之間的鏈路斷開(kāi)1按照腳本配置廣州AR3-廣州BR1之間鏈路的相關(guān)數(shù)據(jù)。檢查相關(guān)表項(xiàng)(ISISPeer,MPLSLDPPeer,IPRouting-Table等)確認(rèn)2中的狀態(tài)正常后將廣州AR3-廣州CR1之間的鏈路斷開(kāi)割接思路(步驟)有問(wèn)題嗎?注:廣州AR3/AR4割接前,佛山AR1/AR2,惠州AR1/AR2已經(jīng)按照上面的思路進(jìn)行了類似的結(jié)構(gòu)調(diào)整割接。割接順利。當(dāng)前第77頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)廣州AR3440深圳AR4深圳AR3佛山AR25190740250015001廣州AR4廣州BR1廣州BR2廣州CR1廣州CR2深圳BR1深圳BR2佛山AR1惠州AR1惠州AR228027944010G2.5G155M上海CR230130003000割接過(guò)程中拓?fù)鋱D當(dāng)前第78頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)割接過(guò)程中發(fā)生的問(wèn)題從集團(tuán)網(wǎng)管中心無(wú)法登錄廣東所有BR(廣州BR1/廣州BR2/深圳BR1/深圳BR2),從深圳AR1也不能登錄廣州BR….…..….廣州AR34405190740250015001廣州AR4廣州BR1廣州BR2廣州CR1廣州CR2深圳BR1深圳BR2280279440上海CR230130003000北京CR1北京CR2北京AR1北京AR1集團(tuán)網(wǎng)管中心TelnetFail可能原因:1路由控制層面出現(xiàn)了問(wèn)題2廣州AR3某條鏈路出現(xiàn)了轉(zhuǎn)發(fā)問(wèn)題3某條鏈路出現(xiàn)了擁塞4其它當(dāng)前第79頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)廣州AR3440深圳AR4深圳AR3佛山AR25190740250015001廣州AR4廣州BR1廣州BR2廣州CR1廣州CR2深圳BR1深圳BR2佛山AR1惠州AR1惠州AR228027944010G2.5G155M上海CR230130003000媒體流量模型當(dāng)前第80頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)原因分析1在割接過(guò)程中當(dāng)廣州AR3-廣州BR1的鏈路連通并啟用相關(guān)協(xié)議后廣州AR3-廣州CR1之間的鏈路還沒(méi)有拆除(cost為3000)2由于網(wǎng)絡(luò)中增加了一條新的鏈路(廣州AR3-廣州BR1),路由發(fā)生重新收斂。從網(wǎng)管中心登錄廣東BR的流量會(huì)經(jīng)過(guò)廣州CR1-廣州AR3的鏈路,而由于BR下面同時(shí)還下掛了佛山(AR1AR2)惠州(AR2)深圳(AR3AR4),這些AR均連接了業(yè)務(wù)系統(tǒng),這些業(yè)務(wù)系統(tǒng)的出省業(yè)務(wù)(媒體流)也都會(huì)經(jīng)過(guò)廣州AR3-廣州CR1的鏈路(155M),通過(guò)在網(wǎng)管服務(wù)器上采集的流量信息可以看出當(dāng)時(shí)需要經(jīng)過(guò)這條鏈路的流量總量超過(guò)了155M也就是說(shuō)這條鏈路發(fā)生了擁塞,當(dāng)前第81頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)UMG實(shí)時(shí)流量圖(部分)佛山UMG2實(shí)時(shí)流量圖深圳UMG4實(shí)時(shí)流量圖佛山UMG1實(shí)時(shí)流量圖當(dāng)前第82頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)廣州AR3-廣州BR1流量圖當(dāng)前第83頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)后續(xù)割接優(yōu)化方案(包含廣州AR4)1
調(diào)整AR3-AR4互連端口的COST值(確保AR4割接前上行流量不會(huì)橫穿至AR3)注:該鏈路在本次割接中將被替換掉2調(diào)整廣州AR3-廣州CR1互連鏈路的COST(第3步完成并確保該鏈路沒(méi)有流量以后將端口關(guān)閉)3將廣州AR3-廣州BR1的互連鏈路打開(kāi),并配置相關(guān)數(shù)據(jù)4調(diào)整廣州AR4-廣州CR2互連鏈路的COST(第5步完成并確保該鏈路沒(méi)有流量以后將端口關(guān)閉)5將廣州AR4-廣州BR2的互連鏈路打開(kāi),并配置相關(guān)數(shù)據(jù)(IP-Trunk,ISIS等)6將廣州AR4-廣州AR3之間原155MPoS鏈路拆除,將新鏈路開(kāi)啟并配置相關(guān)數(shù)據(jù)(加入IP-Trunk,配置ISIS等)。7在承載網(wǎng)和軟交換側(cè)同時(shí)進(jìn)行業(yè)務(wù)驗(yàn)證當(dāng)前第84頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)后續(xù)割接優(yōu)化方案(包含廣州AR4)1調(diào)整AR3-AR4互連端口的COST值(確保AR4割接前上行流量不會(huì)橫穿至AR3)
注:該鏈路在本次割接中將被替換掉2調(diào)整廣州AR3-廣州CR1互連鏈路的COST,(第3步完成并確保該鏈路沒(méi)有流量以后將端口關(guān)閉)3將廣州AR3-廣州BR1的互連鏈路打開(kāi),并配置相關(guān)數(shù)據(jù)4調(diào)整廣州AR4-廣州CR2互連鏈路的COST,(第5步完成并確保該鏈路沒(méi)有流量以后將端口關(guān)閉)5將廣州AR4-廣州BR2的互連鏈路打開(kāi),并配置相關(guān)數(shù)據(jù)(IP-Trunk,ISIS等)6將廣州AR4-廣州AR3之間原155MPoS鏈路拆除,將新鏈路開(kāi)啟并配置相關(guān)數(shù)據(jù)(加入IP-Trunk,配置ISIS等)。7在承載網(wǎng)和軟交換側(cè)同時(shí)進(jìn)行業(yè)務(wù)驗(yàn)證第5步結(jié)束后,出現(xiàn)了如下故障:深圳UMG1/UMG2,惠州UMG2脫網(wǎng)當(dāng)前第85頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)廣州AR3440深圳AR2深圳AR15190740250015001廣州AR4廣州BR1廣州BR2廣州CR1廣州CR2深圳BR1深圳BR2惠州AR1惠州AR2280279440上海CR23013011000003000100000廣州SS3廣州SS4廣州SS4為主用SS:廣州SS3為備用SSUMG注冊(cè)流量模型當(dāng)前第86頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)定位過(guò)程(以惠州UMG2為例)1在廣州AR4,惠州AR2上查看信令VPN路由表,正常2在廣州AR4上帶信令VPN實(shí)例Ping惠州UMG2,能Ping通3在惠州AR2上帶信令VPN實(shí)例ping廣州SS4,不能Ping通4在廣州AR4下掛的信令交換機(jī)上帶源地址Ping惠州UMG2,不能Ping通5在廣州AR4上將連接廣州BR2的上行端口(IP-Trunk1)復(fù)位復(fù)位后問(wèn)題解決廣州AR4當(dāng)時(shí)使用的版本存在這樣的Bug:當(dāng)下行為16FE的Rainer板,上行為IP-Trunk時(shí),會(huì)存在部分報(bào)文轉(zhuǎn)發(fā)不通的問(wèn)題。通過(guò)復(fù)位IP-Trunk或者加載補(bǔ)丁可以解決此Bug(割接當(dāng)晚廣州AR4尚未加載補(bǔ)丁)按照UMG注冊(cè)流程:如果UMG不能到主SS注冊(cè),會(huì)自動(dòng)切換到備SS,經(jīng)定位從UMG到備SS的整個(gè)路徑不存在任何轉(zhuǎn)發(fā)問(wèn)題,為什么注冊(cè)不能成功?當(dāng)前第87頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)廣州AR3/AR4結(jié)構(gòu)調(diào)整割接
海南BR1替換割接
成都CR結(jié)構(gòu)調(diào)整割接
割接案例篇當(dāng)前第88頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)割接拓?fù)銾MGOSPFVRRPSS2VRRP信令媒體海南BR1(NE40)海南BR2廣州CR1廣州CR2廣州AR2ISIS2775897500150015897海南UMG到廣州SS2注冊(cè)11GE2/1/0為二層端口,Trunk了兩個(gè)VLAN,其中VLAN20運(yùn)行私網(wǎng)媒體VRRP,VLAN30承載公網(wǎng)ISIS及LDP等割接內(nèi)容:把海南BR1的原NE40設(shè)備替換為NE80E,配置保持不變MasterBackup廣州AR1GE2/0/0Eth2/1/0GE2/1/0GE2/1/0當(dāng)前第89頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)相關(guān)數(shù)據(jù)配置UMGOSPFVRRPSS2VRRP海南BR1海南BR2廣州CR1廣州CR2廣州AR2ISIS277589750015001589711MasterBackup廣州AR1GE2/0/0Eth2/1/0GE2/1/0GE2/1/0媒體:IProute10.0.62.025null0preference200bgp24059ipv4-familyvpn-instanceChinaMobile_NGN_SGInterfacevlanif20Vrrpvrid1priority105(BR1)Vrrpvrid1priority100(BR2)信令:bgp24059ipv4-familyvpn-instanceChinaMobile_NGN_SGOspf1vpn-instanceChinaMobile_NGN_SGDefault-route-advertisealwaysSW1SW2當(dāng)前第90頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)割接方案一(不修改任何設(shè)備的配置數(shù)據(jù))UMGOSPFVRRPSS2VRRP海南BR1海南BR2廣州CR1廣州CR2廣州AR2ISIS277IP-Trunk1:589750015001589711MasterBackup廣州AR1GE2/0/0Eth2/1/0GE2/1/0GE2/1/0一NE40脫網(wǎng)斷開(kāi)信令鏈路Eth2/1/0斷開(kāi)媒體鏈路GE2/0/0斷開(kāi)互連鏈路GE2/1/0斷開(kāi)上行鏈路IP-TRUNK1二NE80E入網(wǎng)按照設(shè)計(jì)目標(biāo)制作并灌入腳本連接互連鏈路GE2/1/0連接上行鏈路IP-TRUNk1連接媒體接入鏈路GE2/0/0(并在UMG上將此鏈路切換為主用)5連接信令接入鏈路Ethernet2/1/0SW1SW2當(dāng)前第91頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)割接方案一平滑度分析(原設(shè)備脫網(wǎng))UMGOSPFVRRPSS2VRRP海南BR1海南BR2廣州CR1廣州CR2廣州AR2ISIS277IP-Trunk1:589750015001589711MasterBackup廣州AR1GE2/0/0Eth2/1/0GE2/1/0GE2/1/0一NE40脫網(wǎng)斷開(kāi)信令鏈路Eth2/1/0:信令路由在信令交換機(jī)上重新收斂,收斂時(shí)間1s以內(nèi),信令回程流量不受影響斷開(kāi)媒體鏈路GE2/0/0:UMG會(huì)進(jìn)行主備倒換,時(shí)間1S左右斷開(kāi)互連鏈路GE2/1/0:媒體去程流量會(huì)有3S左右的中斷(BR2需要等到VRRPHello超時(shí)才會(huì)變?yōu)閂RRPMaster),媒體部分回程報(bào)文會(huì)丟包直到上行鏈路斷開(kāi)(部分以BR1為下一跳的遠(yuǎn)端PE會(huì)繼續(xù)把流量送到BR1)信令流不受影響,斷開(kāi)上行鏈路IP-TRUNK1:遠(yuǎn)端PE會(huì)發(fā)生IGP及BGP的收斂;媒體回程報(bào)文丟包現(xiàn)象消失。優(yōu)化空間:將步驟3和4的順序互換,會(huì)減少回程媒體報(bào)文的丟包時(shí)間(先斷上行,遠(yuǎn)端PE會(huì)進(jìn)行IGP及BGP的收斂,BGP下一跳切換到BR2,中斷時(shí)間在1S左右)SW1SW2當(dāng)前第92頁(yè)\共有131頁(yè)\編于星期三\20點(diǎn)割接方案
溫馨提示
- 1. 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫(kù)網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 中國(guó)自由貿(mào)易園區(qū)行業(yè)市場(chǎng)全景調(diào)研及未來(lái)趨勢(shì)研判報(bào)告
- 蔡甸經(jīng)濟(jì)開(kāi)發(fā)區(qū)“武漢天潤(rùn)(常福)工業(yè)園”項(xiàng)目可行性研究報(bào)告 定稿
- 財(cái)務(wù)廉潔從業(yè)工作心得總結(jié)
- 黨員教師學(xué)年自我總結(jié)
- 個(gè)人貨車包月合同模板
- 工程貨車出租合同模板
- 《感受大自然之美》課件
- 變賣委托合同范例
- 與業(yè)主物業(yè)交割合同模板
- 小區(qū)普通房源出租合同模板
- 《體育保健學(xué)》課件-第三章 運(yùn)動(dòng)性病癥
- 認(rèn)知語(yǔ)言學(xué)導(dǎo)論第四章(主體和背景)
- 模型壓縮與輕量化
- 變壓器鐵芯(夾件)接地電流試驗(yàn)
- 新教師如何備課課件
- 農(nóng)村小學(xué)基于國(guó)家中小學(xué)智慧教育平臺(tái)下的雙師課堂研究
- 推進(jìn)農(nóng)業(yè)綠色發(fā)展
- 《超硬磨料 人造金剛石技術(shù)規(guī)范》
- GB/T 19651.1-2023雜類燈座第1部分:一般要求和試驗(yàn)
- 中醫(yī)科老年診療規(guī)范
- 教科版五年級(jí)科學(xué)上冊(cè) (風(fēng)的作用)課件
評(píng)論
0/150
提交評(píng)論