![ODCC:2023數(shù)據(jù)中心綠色設計白皮書_第1頁](http://file4.renrendoc.com/view/0dc4ccc3a670a75d5a07bc8b50c5c82b/0dc4ccc3a670a75d5a07bc8b50c5c82b1.gif)
![ODCC:2023數(shù)據(jù)中心綠色設計白皮書_第2頁](http://file4.renrendoc.com/view/0dc4ccc3a670a75d5a07bc8b50c5c82b/0dc4ccc3a670a75d5a07bc8b50c5c82b2.gif)
![ODCC:2023數(shù)據(jù)中心綠色設計白皮書_第3頁](http://file4.renrendoc.com/view/0dc4ccc3a670a75d5a07bc8b50c5c82b/0dc4ccc3a670a75d5a07bc8b50c5c82b3.gif)
![ODCC:2023數(shù)據(jù)中心綠色設計白皮書_第4頁](http://file4.renrendoc.com/view/0dc4ccc3a670a75d5a07bc8b50c5c82b/0dc4ccc3a670a75d5a07bc8b50c5c82b4.gif)
![ODCC:2023數(shù)據(jù)中心綠色設計白皮書_第5頁](http://file4.renrendoc.com/view/0dc4ccc3a670a75d5a07bc8b50c5c82b/0dc4ccc3a670a75d5a07bc8b50c5c82b5.gif)
版權說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權,請進行舉報或認領
文檔簡介
11數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001[編號數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001綠色設計白皮書開放數(shù)據(jù)中心標準推進委員會2023-06發(fā)布數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001版權聲明ODCC(開放數(shù)據(jù)中心委員會)發(fā)布的各項成果,受《著作權法》保護,編制單位共同享有著作權。轉(zhuǎn)載、摘編或利用其它方式使用ODCC成果中的文字或者觀點的,應注明來源:“開放數(shù)據(jù)中心委員會ODCC”。對于未經(jīng)著作權人書面同意而實施的剽竊、復制、修改、銷售、改編、匯編和翻譯出版等侵權行為,ODCC及有關單位將追究其法律責任,感謝各單位的配合與支持。I數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001編制說明本報告由開放數(shù)據(jù)中心委員會ODCC牽頭撰寫,并在撰寫過程中得到了多家單位的大力支持,在此特別感謝以下參編單位:參編單位(排名不分先后):中國信息通信研究院、深圳市騰訊計算機系統(tǒng)有限公司、維諦技術有限公司、深圳綠色云圖科技有限公司、華為技術有限公司、阿里云計算有限公司、浪潮集團有限公司、曙光信息產(chǎn)業(yè)股份有限公司項目經(jīng)理:張一星zhangyixing@楊碩yangshuo@數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001前言隨著新一代信息技術的蓬勃發(fā)展與廣泛應用,數(shù)字產(chǎn)業(yè)的賦能作用進一步凸顯,數(shù)據(jù)中心作為數(shù)字經(jīng)濟“底座”,在經(jīng)濟社會發(fā)展中扮演著至關重要的角色。截至2022年底,我國在用數(shù)據(jù)中心機架總規(guī)模超過650萬架,能耗總量達1300億千瓦時。在“碳達峰碳中和”大背景下,我國正積極推動引導數(shù)據(jù)中心均衡布局、高效節(jié)能發(fā)展,工信部、發(fā)改委等部門發(fā)布《新型數(shù)據(jù)中心發(fā)展三年行動計劃》、《貫徹落實碳達峰碳中和目標要求推動數(shù)據(jù)中心和5G等新型基礎設施綠色高質(zhì)量發(fā)展實施方案》等多項政策,提出到2025年,全國新建大型、超大型數(shù)據(jù)中心平均電能利用效率降到1.3以下,國家樞紐節(jié)點進一步降綠色設計對于從源頭上構建數(shù)據(jù)中心綠色產(chǎn)業(yè)生態(tài),引導數(shù)據(jù)中心產(chǎn)業(yè)綠色發(fā)展方向具有重大意義。本《白皮書》梳理了全球及我國數(shù)據(jù)中心機架規(guī)模和PUE水平,從國家和地方層面分析了數(shù)據(jù)中心綠色節(jié)能政策和已發(fā)布的數(shù)據(jù)中心能效標準,指出了數(shù)據(jù)中心綠色發(fā)展面臨的諸多挑戰(zhàn)。本《白皮書》詳細闡述了數(shù)據(jù)中心綠色設計的理念和基本要素,總結(jié)了數(shù)據(jù)中心IT設備、供電系統(tǒng)、制冷系統(tǒng)、監(jiān)控系統(tǒng)的綠色設計先進技術和方案,并給出了數(shù)據(jù)中心綠色設計優(yōu)秀案例。相關技術和方案將為數(shù)據(jù)中心在建設、運行、改造的全生命周期采用綠色設計提供參考,促進數(shù)據(jù)中心產(chǎn)業(yè)整體綠色低碳高質(zhì)量發(fā)展。由于時間倉促,水平所限,錯誤和不足之處在所難免,歡迎各位讀者批評指正。如有意見或建議請聯(lián)系dceco@。數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001容概覽1.全球新增數(shù)據(jù)中心規(guī)模穩(wěn)定,伴隨數(shù)據(jù)中心節(jié)能改造建設的邊際效益遞減和數(shù)據(jù)中心能效改善效果不佳,全球數(shù)據(jù)中心PUE呈現(xiàn)小幅波動總體緩慢下降趨勢。國內(nèi)外互聯(lián)網(wǎng)巨頭持續(xù)探索數(shù)據(jù)中心綠色節(jié)能技術,部分超大型數(shù)據(jù)2.我國數(shù)據(jù)中心總體規(guī)模持續(xù)增長,大型規(guī)模及以上數(shù)據(jù)中心成為增長主力,數(shù)據(jù)中心能耗總量與碳排放規(guī)模體量不容忽視。我國高度重視數(shù)據(jù)中心綠色發(fā)展,國家和地方層面均出臺了一系列指導意見和工作方案,引導數(shù)據(jù)中心布局均衡和綠色低碳發(fā)展。3.我國數(shù)據(jù)中心產(chǎn)業(yè)在能耗方面面臨諸多挑戰(zhàn),如老舊小數(shù)據(jù)中心能效管理水平低、新建數(shù)據(jù)中心綠色節(jié)能技術應用不佳、現(xiàn)有數(shù)據(jù)中心能耗監(jiān)測系統(tǒng)不健全等,且當前針對數(shù)據(jù)中心節(jié)能新技術的相關標準仍不完善。為幫助數(shù)據(jù)中心產(chǎn)業(yè)從源頭上構建綠色生態(tài),《白皮書》給出了數(shù)據(jù)中心綠色設計的定義與內(nèi)涵,引導數(shù)據(jù)中心在設計階段綜合考慮各類資源能效指標,達到資源支出成本最低、碳排放量最少、對環(huán)境影響最小。4.數(shù)據(jù)中心綠色設計包含單系統(tǒng)綠色設計、環(huán)境與能源耦合綠色設計、風火水電與IT系統(tǒng)耦合綠色設計三個層次,針對IT設備、供電系統(tǒng)、制冷系統(tǒng)、監(jiān)控系統(tǒng)等不同維度的多樣化綠色設計先進技術方案,可有效幫助數(shù)據(jù)中心實現(xiàn)全生命周期節(jié)能降耗和綠色低碳。5.PUE值是當前評價數(shù)據(jù)中心綠色設計方案是否先進有效的核心指標,為促進產(chǎn)業(yè)各方實踐應用綠色設計方案,用低PUE創(chuàng)造高效算力,《白皮書》給出了騰訊、維諦、網(wǎng)宿&綠色云圖、華為等企業(yè)的優(yōu)秀數(shù)據(jù)中心PUE設計方案,對推進數(shù)據(jù)中心產(chǎn)業(yè)整體綠色高質(zhì)量發(fā)展提供有益借鑒。數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001版權聲明 I編制說明 II前言 III IV圖目錄 1表目錄 1一、數(shù)據(jù)中心綠色設計發(fā)展背景 21.數(shù)據(jù)中心能耗現(xiàn)狀 22.數(shù)據(jù)中心能耗政策標準分析 53.數(shù)據(jù)中心綠色發(fā)展面臨的挑戰(zhàn) 9二、數(shù)據(jù)中心綠色設計的理念和基本要素 111.數(shù)據(jù)中心綠色設計 112.綠色設計理念 123.綠色設計原則 124.綠色設計目標 12三、數(shù)據(jù)中心綠色設計先進技術和方案 13 2.供電系統(tǒng) 173.制冷系統(tǒng) 204.監(jiān)控系統(tǒng) 26V數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001中心綠色設計優(yōu)秀案例 271.騰訊儀征數(shù)據(jù)中心設計PUE方案 272.維諦廣州數(shù)據(jù)中心設計PUE方案 273.網(wǎng)宿&綠色云圖上海數(shù)據(jù)中心設計PUE方案 284.華為貴州數(shù)據(jù)中心設計PUE方案 28VI數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001圖目錄圖1全球服務器年增加量(兆瓦) 2圖2全球互聯(lián)網(wǎng)巨頭數(shù)據(jù)中心運行PUE水平接近極限值 3圖3我國數(shù)據(jù)中心機架規(guī)模 4圖4我國超大型、大型數(shù)據(jù)中心能效情況 4圖5我國數(shù)據(jù)中心耗電量(億千瓦時) 5 IT 17表目錄表1數(shù)據(jù)中心能效等級指標 9表2風冷、水冷、蒸發(fā)冷卻、新型氟泵系統(tǒng)、液冷系統(tǒng)對比 241數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001一、數(shù)據(jù)中心綠色設計發(fā)展背景1.數(shù)據(jù)中心能耗現(xiàn)狀1)全球發(fā)展現(xiàn)狀全球數(shù)據(jù)中心新增相對穩(wěn)定。按照全球服務器年增加量統(tǒng)計,2015年-2021年全球年新增投入使用服務器規(guī)模相對穩(wěn)定,凈增加值也相對穩(wěn)定,預計未來幾年數(shù)據(jù)中心規(guī)模仍將保持平穩(wěn)增長,具體見圖1。來源:Gartner、中國信息通信研究院圖1全球服務器年增加量(兆瓦)2006年開始,隨著互聯(lián)網(wǎng)快速發(fā)展,全球數(shù)據(jù)中心規(guī)模高速增長,數(shù)據(jù)中心能耗與日俱增。封閉冷熱通道、提高出風溫度、優(yōu)化供配電設備效率、充分利用自然冷源等綠色節(jié)能技術不斷推廣應用,數(shù)據(jù)中心能效管理從粗獷發(fā)展進入精細管理,全球數(shù)據(jù)中心總體能效水平快速提高,平均PUE從2.7降低到2013年的1.8左右,呈現(xiàn)快速下降趨勢。2014年以來,全球數(shù)據(jù)中心PUE呈現(xiàn)小幅波動總體緩慢下降的趨勢,一方面數(shù)據(jù)中心節(jié)能改造與建設的邊際效益逐步降低,進一步提高能效需要投入更多成本,另一方面,部分傳統(tǒng)數(shù)據(jù)中心負載率不高、綠色管理不到位等造成數(shù)據(jù)中心能效改善效果不明顯,2021年全球2數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001互聯(lián)網(wǎng)巨頭仍堅持探索數(shù)據(jù)中心綠色節(jié)能新技術,新建數(shù)據(jù)中心PUE基本ille算(陽泉)中心1#模組PUE達1.08,阿里巴巴浙江云計算仁和數(shù)據(jù)中心PUE達1.09。未來隨著中小數(shù)據(jù)中心整合改造和大型化數(shù)據(jù)中心建設趨勢,全球數(shù)據(jù)中心平均PUE預計將進一步降低。同時,谷歌、蘋果等公司已通過購買可再生能源證書(RenewableEnergyCertificate)的方式實現(xiàn)所有數(shù)據(jù)中心采用100%可再生能源,進一步降低了數(shù)據(jù)中心碳排放。來源:互聯(lián)網(wǎng)資料整理、開放數(shù)據(jù)中心委員會ODCC圖2全球互聯(lián)網(wǎng)巨頭數(shù)據(jù)中心運行PUE水平接近極限值2)國內(nèi)發(fā)展情況根據(jù)信通院最新統(tǒng)計數(shù)據(jù),我國數(shù)據(jù)中心機架規(guī)模平穩(wěn)增長,大型以上數(shù)據(jù)中心成為增長主力。據(jù)統(tǒng)計,2013年以來,我國數(shù)據(jù)中心總體規(guī)??焖僭鲩L,截至到2022年底,我國在用數(shù)據(jù)中心機架總規(guī)模超過650萬架,近5年年均復合增速超過30%,算力總規(guī)模為180EFLOPS(FP32),算力規(guī)模排名全球第二。1數(shù)據(jù)來源:企業(yè)官網(wǎng)3數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001其中,大型以上數(shù)據(jù)中心機架規(guī)模增長較快,按照標準機架2.5kW統(tǒng)計,機架來源:中國信息通信研究院圖3我國數(shù)據(jù)中心機架規(guī)模截至2022年底,全國在用超大型數(shù)據(jù)中心平均PUE為1.36,大型數(shù)據(jù)中心平均PUE為1.42,最優(yōu)水平達到1.02。全國規(guī)劃在建數(shù)據(jù)中心平均設計PUE為1.32左右,超大型、大型數(shù)據(jù)中心的平均設計PUE分別為1.28、1.29。來源:中國信息通信研究院圖4我國超大型、大型數(shù)據(jù)中心能效情況4數(shù)據(jù)中心綠色設計白皮書ODCC-2023-020012021年我國數(shù)據(jù)中心能耗總量為1116億千瓦時,碳排放量超過7000萬噸。2022年我國數(shù)據(jù)中心能耗總量1300億千瓦時,同比增長16%,預計到2030年,能耗總量將達到約3800億千瓦時。若不使用綠色能源,碳排放總量將突破2億噸,約占全國總碳排放量的2%。來源:中國信息通信研究院圖5我國數(shù)據(jù)中心耗電量(億千瓦時)2.數(shù)據(jù)中心能耗政策標準分析1)政策分析我國積極推動引導數(shù)據(jù)中心布局均衡、綠色低碳發(fā)展,從國家到地方發(fā)布了一系列關于數(shù)據(jù)中心高效節(jié)能的政策文件。國家層面高度重視數(shù)據(jù)中心行業(yè)綠色發(fā)展,近十年來發(fā)布了一系列相關指導意見和工作方案。2013年,工信部等發(fā)布《關于數(shù)據(jù)中心建設布局的指導意5數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001見》,引導大型、超大型數(shù)據(jù)中心優(yōu)先在中西部等一類、二類地區(qū)建設。2017年,工信部發(fā)布《關于加強“十三五”信息通信業(yè)節(jié)能減排工作的指導意見》,提出到十三五末期,新建大型、超大型數(shù)據(jù)中心的PUE值達到1.4以下。工信部聯(lián)合國管局、國家能源局于2019年2月發(fā)布《關于加強綠色數(shù)據(jù)中心建設的指導意見》,再次提出到2022年,數(shù)據(jù)中心平均能耗基本達到國際先進水平,新建大型、超大型數(shù)據(jù)中心的PUE達到1.4以下。為落實國務院《“十三五”節(jié)能減排綜合工作方案》,推動數(shù)據(jù)中心的節(jié)能減排,國家發(fā)改委聯(lián)合工信部等七部委于2019年6月發(fā)布《綠色高效制冷行動方案》,提出“加快制定數(shù)據(jù)中心能效標準,實施數(shù)據(jù)中心制冷系統(tǒng)能效提升工程”。2020年7月,工信部等六部門聯(lián)合組織開展國家綠色數(shù)據(jù)中心推薦,選擇一批能效水平高、技術先進、管理完善、代表性強的數(shù)據(jù)中心進行推薦,引導數(shù)據(jù)中心完善PUE、WUE的監(jiān)測與管理,加大綠色技術、綠色產(chǎn)品、清潔能源的使用,進一步提高能源資源利用效率。近年來,為貫徹落實網(wǎng)絡強國、數(shù)字中國、國家大數(shù)據(jù)和碳達峰碳中和戰(zhàn)略,國家不斷強調(diào)數(shù)據(jù)中心綠色高質(zhì)量發(fā)展的重要性。2020年12月,國家發(fā)展改革委等四部委聯(lián)合發(fā)布《關于加快構建全國一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系的指導意見》,提出加強全國一體化大數(shù)據(jù)中心頂層設計,再次要求“加快制定數(shù)據(jù)中心能源效率國家標準”,提出“到2025年,大型、超大型數(shù)據(jù)中心標中指出“推動5G、大數(shù)據(jù)中心等新興領域能效提升”。2021年5月,國家發(fā)展改革委等四部委發(fā)布《全國一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系算力樞紐實施方案》,提出“在京津冀、長三角、粵港澳大灣區(qū)、成渝,以及貴州、內(nèi)蒙古、甘肅、寧夏等地布局建設全國一體化算力網(wǎng)絡國家樞紐節(jié)點,發(fā)展數(shù)據(jù)中心集群,引導數(shù)據(jù)中心集約化、規(guī)模化、綠色化發(fā)展”。2021年11月,國家發(fā)改委等四部門發(fā)布《貫徹落實碳達峰碳中和目標要求推動數(shù)據(jù)中心和5G等新型基礎設施綠色高質(zhì)量發(fā)展實施方案》提出“到2025年,數(shù)據(jù)中心和5G基本形成綠色集約的一體化運行格局。數(shù)據(jù)中心運行電能利用效率和可再生能源利用率明顯提升,全國新建大型、超大型數(shù)據(jù)中心平均電能利用效率降到1.3以下,國家樞紐節(jié)點進一步降到1.25以下,綠色低碳等級達到4A級以上?!?數(shù)據(jù)中心綠色設計白皮書(2)地方層面政策ODCC-2023-02001熱點地區(qū)筑高建設門檻控新增,強化技術引導提能效。一線城市業(yè)務需求旺盛但電力資源緊張,受能耗指標、用地、用電審批限制,批復難、建設難、擴容難,供給不足、供不應求。各地相繼出臺政策以緩解供給側(cè)的結(jié)構性矛盾,規(guī)避旺盛需求刺激下數(shù)據(jù)中心“粗制濫造”建設的風險?!?;2020年6月,北京市發(fā)布《關于加快培育壯大新業(yè)態(tài)新模式促進北京經(jīng)濟高質(zhì)量發(fā)展的若干意見》及《北京市加快新型基礎設施建設行動方案(2020-2022年)》;2021年4月,《北京市數(shù)據(jù)中心統(tǒng)籌發(fā)展實施方案(2021-2023年)》提出“新建云數(shù)據(jù)中心PUE不應高于1.3”,并相繼發(fā)布《北京市發(fā)展和改革委員會關于進一步加強數(shù)據(jù)中心項目節(jié)能審查的若干規(guī)定(征求意見稿)》、《北京市發(fā)展和改革委員會北京市經(jīng)濟和信息化局關于印發(fā)北京市低效數(shù)據(jù)中心綜合治理工作方案的通知》,持續(xù)加強數(shù)據(jù)中心能效治理。上海市接連發(fā)布《上海市推進新一代信息基礎設施建設助力提升城市能級和核心競爭力三年行動計劃(2018-2020年)》、《關于加強上?;ヂ?lián)網(wǎng)數(shù)據(jù)中心統(tǒng)籌建設的指導意見》、《上海市互聯(lián)網(wǎng)數(shù)據(jù)中心建設導則(2019版)》、《上海市互聯(lián)網(wǎng)數(shù)據(jù)中心建設導則(2021版)》;2020年發(fā)布《數(shù)據(jù)中心能源消耗限額》強制性地方標準,對數(shù)據(jù)中心能耗提出限制要求;2022年6月,上海市經(jīng)濟信息化委、上海市發(fā)展改革委聯(lián)合發(fā)布《關于推進本市數(shù)據(jù)中心健康有序發(fā)展的實施意見》,提出“加速升級改造小散老舊數(shù)據(jù)中心,加快數(shù)據(jù)中心綠色節(jié)能發(fā)展”;上海市通信管理局發(fā)布《新型數(shù)據(jù)中心“算力浦江”行動計劃(2022-2024年)的通知》,要求“新建大型及以上數(shù)據(jù)中心應達到綠色數(shù)據(jù)中心評估要求,綠色低碳等級達到4A級以上,提升綠色能源利用水平,加快“小散老舊”數(shù)據(jù)中心改造升級”。深圳市發(fā)布《深圳市發(fā)展和改革委員會關于數(shù)據(jù)中心節(jié)能審查有關事項的通知》,要求數(shù)據(jù)中心重點用能單位應建設能耗在線監(jiān)測系統(tǒng),按要求接入廣東省重點用能單位能耗監(jiān)測平臺。廣東省發(fā)布《廣東省5G基站和數(shù)據(jù)中心總體布局規(guī)劃(2021-2025年)》。7數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001熱點周邊地區(qū)謀劃提升引需求,提高服務能力接外溢。為緩解熱點地區(qū)數(shù)據(jù)中心供不應求的結(jié)構性問題,河北、天津、內(nèi)蒙古、江蘇、廣東等熱點周邊地區(qū)紛紛出臺政策激勵數(shù)據(jù)中心快速發(fā)展,著力培育、提升承接熱點地區(qū)外溢需求的能力。河北省2020年3月發(fā)布《關于加強重大項目謀劃儲備的指導意見》,圍繞綠色循環(huán)低碳發(fā)展謀劃項目為重要組成部分;2020年10月發(fā)布《關于支持數(shù)字經(jīng)濟加快發(fā)展的若干政策》,提出“降低數(shù)字基礎設施運營成本,優(yōu)先支持數(shù)據(jù)中心參加電力直接交易,鼓勵可再生能源電力和火電打捆與數(shù)據(jù)中心開展交易”;2021年12月,河北省發(fā)布《信息化與工業(yè)化深度融合發(fā)展“十四五”規(guī)劃》,提出“建設形成張家口、承德兩個低時延數(shù)據(jù)中心核心區(qū)和廊坊、保定等若干數(shù)據(jù)中心集聚區(qū),推進雄安城市計算(超算云)中心建設?!?。天津市2019年10月發(fā)布《促進數(shù)字經(jīng)濟發(fā)展行動方案(2019—2023年)》;2021年8月,《天津市加快數(shù)字化發(fā)展三年行動方案(2021—2023年)》要求“統(tǒng)籌規(guī)劃超大新型綠色數(shù)據(jù)中心建設”。內(nèi)蒙古自治區(qū)2020年1月發(fā)布《內(nèi)蒙古自治區(qū)人民政府關于推進數(shù)字經(jīng)濟發(fā)展的意見》。2021年11月,《內(nèi)蒙古自治區(qū)人民政府辦公廳關于印發(fā)自治區(qū)“十四五”工業(yè)和信息化發(fā)展規(guī)劃的通知》要求“到2025年,全區(qū)大型數(shù)據(jù)中心平均PUE值降至1.3以下,寒冷及極寒地區(qū)力爭降到1.25以下。”。江蘇省2020年5月出臺《關于加快新型信息基礎設施建設擴大信息消費若干政策措施的通知》;2021年8月,《江蘇省“十四五”數(shù)字經(jīng)濟發(fā)展規(guī)劃》要求“構建綠色高效的算力基礎設施”。中西部地區(qū)鼓勵找準定位促發(fā)展。西部地區(qū)能源充足、氣候適宜,但距離熱點地區(qū)用戶較遠,部分省份數(shù)據(jù)中心供大于求。青海省2018年3月出臺《關于進一步擴大和升級信息消費持續(xù)釋放內(nèi)需潛力的實施意見》,指出要培育和打造立足本省、面向全國的云計算數(shù)據(jù)中心與災備中心;2020年5月,《青海省人民政府辦公廳關于加快推動5G產(chǎn)業(yè)發(fā)展的實施意見》要求“推進區(qū)域數(shù)據(jù)中心建設”。甘肅省2019年11月出臺《關于支持絲綢之路信息港建設的意見》,提出建設物理分散、邏輯統(tǒng)一的信息港綠色云數(shù)據(jù)中心集群;2021年9月,《甘肅省“十四五”數(shù)字經(jīng)濟創(chuàng)新發(fā)展規(guī)8數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001劃》提出“引導傳統(tǒng)數(shù)據(jù)中心升級改造,向規(guī)?;?、集約化、智能化、綠色化方向布局發(fā)展”。湖北省2020年4月出臺《關于加快推進重大項目建設著力擴大有效投資的若干意見》,鼓勵投資謀劃一批大數(shù)據(jù)中心;2021年11月,《湖北省數(shù)字經(jīng)濟發(fā)展“十四五”規(guī)劃》提出“推動大數(shù)據(jù)中心綠色化發(fā)展,加快新一代綠色數(shù)據(jù)中心節(jié)能技術應用”。江西省2020年4月出臺《數(shù)字經(jīng)濟發(fā)展三年行動計劃(2020-2022年)》,強調(diào)加快推進大數(shù)據(jù)中心項目建設,打造國內(nèi)領先的公共云計算平臺;2021年2月,《江西省國民經(jīng)濟和社會發(fā)展第十四個五年規(guī)劃和二〇三五年遠景目標綱要》要求“完善能效領跑者制度,落實國家5G、大數(shù)據(jù)中心等新興領域能效標準”。2)標準分析GB40879-2021《數(shù)據(jù)中心能效限定值及能效等級》于2021年10月11日1級表示能效最高,各能效等級數(shù)據(jù)中心電能比數(shù)值應不大于表中的規(guī)定。表1數(shù)據(jù)中心能效等級指標指標能效等級2級級數(shù)據(jù)中心電能比數(shù)據(jù)中心能效等級的判定應同時滿足以下兩個條件。一是數(shù)據(jù)中心電能比的設計值、特性工況法測算值和全年測算值(如有)均符合表1相應等級的規(guī)定。二是數(shù)據(jù)中心電能比的特性工況法測算值和全年測算值(如有)應小于設計值的1.05倍。其中,數(shù)據(jù)中心電能比設計值是總耗電量和信息設備耗電量的規(guī)劃設計值的比值,特性工況法測算值是按5個特性工況點方法測算的數(shù)據(jù)中心電能比,全年測算值是按全年耗電量測算的數(shù)據(jù)中心電能比。3.數(shù)據(jù)中心綠色發(fā)展面臨的挑戰(zhàn)我國數(shù)據(jù)中心產(chǎn)業(yè)在能耗方面目前主要存在以下問題:9數(shù)據(jù)中心綠色設計白皮書ODCC-2023-020011)老舊小數(shù)據(jù)中心能耗較高,能效管理水平有待提升隨著國家政策的引導,大型數(shù)據(jù)中心逐漸重視起綠色節(jié)能,能效水平不斷提高。但是很多中小、老舊數(shù)據(jù)中心對能效管理缺乏認知,運維管理水平差,節(jié)能技術應用不足,仍以較高能耗水平維持著日常運行。數(shù)據(jù)中心IT設備耗電轉(zhuǎn)換為大量熱能,為了將這些熱量帶走,不少老、舊、小數(shù)據(jù)中心的制冷設備2)新建數(shù)據(jù)中心綠色節(jié)能技術應用不佳,運維能力不達要求在技術落地和實施方面,部分數(shù)據(jù)中心沒有充分利用優(yōu)越的氣候條件進行免費自然冷卻,冷凍水供回水溫度設置不合理,使得數(shù)據(jù)中心實際運行PUE遠高于設計值,尤其在二三線城市更為明顯。在運維管理方面,數(shù)據(jù)中心的設備數(shù)量大、種類多,對應的監(jiān)控管理系統(tǒng)功能性能滿足不了實際需求,缺乏集中式統(tǒng)一管理,導致運維管理任務繁重,運維管理能力無法保證數(shù)據(jù)中心高效的運行,綠色管理水平差。3)現(xiàn)有數(shù)據(jù)中心能耗監(jiān)測系統(tǒng)不健全現(xiàn)有的數(shù)據(jù)中心能耗監(jiān)測系統(tǒng)對系統(tǒng)的監(jiān)控和數(shù)據(jù)采集不夠全面,部分數(shù)據(jù)中心只關注局部系統(tǒng)或者一些核心部件的性能和功耗水平,部分數(shù)據(jù)中心只關注數(shù)據(jù)中心總體能耗和IT能耗,多個數(shù)據(jù)中心無法準確、全面、多維、立體反映出整個數(shù)據(jù)中心的功耗分布情況。此外,現(xiàn)有的數(shù)據(jù)中心能耗監(jiān)測系統(tǒng)五花八門,缺乏統(tǒng)一的監(jiān)控管理規(guī)范,精度、點位等需要進一步優(yōu)化。數(shù)據(jù)中心缺乏完善的能耗數(shù)據(jù),難以實現(xiàn)資源的高效利用和優(yōu)化配置.4)數(shù)據(jù)中心節(jié)能新技術相關標準不完善目前我國數(shù)據(jù)中心節(jié)能降耗方面已有部分標準基礎,但針對節(jié)能規(guī)劃設計、設計能效評估、節(jié)能改造以及節(jié)能評估和驗收等方面的標準仍需完善。另一方面,為支撐新技術新業(yè)務的快速發(fā)展,數(shù)據(jù)中心產(chǎn)業(yè)需要達到更高的技術要求,數(shù)據(jù)中心不斷加快技術創(chuàng)新和市場響應速度,以滿足不斷變化的業(yè)務需求。相數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001應的,數(shù)據(jù)中心出現(xiàn)的大量新技術和新產(chǎn)品也需要標準和規(guī)范的研制和完善,保障新技術的應用和落地效果。二、數(shù)據(jù)中心綠色設計的理念和基本要素1.數(shù)據(jù)中心綠色設計設計是人類所有目標創(chuàng)新實踐活動的先導和準備,是從源頭和供給側(cè)創(chuàng)意設置目標、引領系統(tǒng)集成創(chuàng)新、保障目標順利實現(xiàn)的關鍵。綠色設計可從源頭上構建數(shù)據(jù)中心綠色產(chǎn)業(yè)生態(tài),引導數(shù)據(jù)中心產(chǎn)業(yè)綠色發(fā)展方向。我國數(shù)據(jù)中心已經(jīng)邁入成熟發(fā)展階段,設計已經(jīng)不僅由設計師參與設計,而是設計方、設備廠商、第三方服務商、互聯(lián)網(wǎng)用戶等共同參與,尤其是互聯(lián)網(wǎng)用戶,在過去十年,為行業(yè)貢獻分享了大量的綠色創(chuàng)新設計及相關實踐案例,第三方服務商在綠色設計方面也已處于前列,數(shù)據(jù)中心綠色設計已經(jīng)進入眾創(chuàng)時代。數(shù)據(jù)中心綠色設計指的是在設計階段制定促進數(shù)據(jù)中心綠色發(fā)展、落實國家雙碳戰(zhàn)略的技術路線、時間表和目標函數(shù),具體來說,在保障數(shù)據(jù)中心安全可靠的前提下,現(xiàn)階段數(shù)據(jù)中心設計主要考慮PUE、CUE和WUE等資源利用效率指標,使這些指標滿足國家和地方政策法規(guī)及標準要求,并減少企業(yè)運營能源支出。未來的綠色設計將朝著數(shù)據(jù)中心建設、運行服務、改造等全生命周期范圍發(fā)展,綜合考慮各類能源指標,達到資源成本最低、碳排放最少、對環(huán)境影響最小,實現(xiàn)自然資源可持續(xù)發(fā)展和數(shù)字經(jīng)濟發(fā)展的協(xié)調(diào)統(tǒng)一。數(shù)據(jù)中心綠色設計可從三個方面實現(xiàn)。一是單系統(tǒng)的綠色設計,如供配電系統(tǒng)、制冷系統(tǒng)和IT系統(tǒng),供配電系統(tǒng)選擇轉(zhuǎn)換環(huán)節(jié)更少、損耗更小、效率更高的產(chǎn)品方案,制冷系統(tǒng)選擇可靠性更高、能效水平更高、自然冷卻比例更高的運行方案,IT系統(tǒng)選擇綠色節(jié)能產(chǎn)品。二是環(huán)境與能源耦合的綠色設計,結(jié)合數(shù)據(jù)中心選址和當?shù)氐臍夂驐l件,充分發(fā)揮自然冷卻的優(yōu)勢,合理利用太陽能、風能等可再生能源。三是風火水電和IT系統(tǒng)耦合的綠色設計,根據(jù)數(shù)據(jù)中心功率密度選擇配套的供配電方案和制冷方案,提高整體資源利用效率。數(shù)據(jù)中心綠色設計白皮書2.綠色設計理念ODCC-2023-02001數(shù)據(jù)中心綠色設計目標實現(xiàn)可分成近期和遠期兩個階段,近期主要以基礎設施如供配電系統(tǒng)、冷卻系統(tǒng)等為綠色設計主體,遠期可在基礎設施基礎上,納入IT算力,也就是實現(xiàn)單位算力基礎上的資源使用效率最大化和環(huán)境影響最小化,這樣可以確保近期可操作、遠期有發(fā)展。數(shù)據(jù)中心綠色設計主要從業(yè)務等級、選址、資源效率以及節(jié)能控制等方面規(guī)劃。鑒于設計的時效性和超前性,也就是設計受當下政策、技術、環(huán)境等方面制約,可能并不滿足設計完成后的政策和行業(yè)又新增的標準和要求,故綠色設計評價一般有當期屬性。3.綠色設計原則在碳達峰碳中和大背景下,綠色低碳是數(shù)字新基建的使命,也是算力基礎設施建設運營的主旋律。數(shù)據(jù)中心綠色設計原則主要是安全可靠、綠色低碳、高效等幾個方面。安全可靠是數(shù)據(jù)中心運行的基本保障,必須保障供電和制冷可靠性,才能保障業(yè)務安全不中斷運行;綠色低碳是數(shù)據(jù)中心綠色設計的主要原則,也是數(shù)據(jù)中心綠色設計的主要目標,重點考慮高效節(jié)能用電設備、高效冷卻系統(tǒng)、可再生能源、清潔能源使用等方面的設計,也包括環(huán)保等方面的考慮;高效方面,主要從電能容量比、空間使用效率等客觀資源使用方面進行高效設計,也是數(shù)據(jù)中心集約化建設、最大化應用的未來趨勢。4.綠色設計目標確保數(shù)據(jù)中心的業(yè)務可靠性等級、運行SLA的目標等級;盡可能地滿足甚至優(yōu)于PUE能效指標要求,并考慮能效余量;最大化考慮全生命周期的特點,各個階段均滿足PUE能效要求;推薦采用主流建筑和設備節(jié)能技術、高效的工程設計、智慧節(jié)能控制和聯(lián)合運行等技術,主動建立能效監(jiān)測系統(tǒng)來不斷優(yōu)化。在設計階段最大化滿足PUE能效指標要求,可避免后期復雜繁瑣的改造工作,保護設計成果也保護業(yè)主投資。因此綠色設計尤其是節(jié)能設計,要在能效數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001可靠取值(同等工況權威第三方評估報告的能效值、同類案例權威第三方機構的測試數(shù)據(jù))基礎上,采用適度超量設計獲得能效余量(適度超量,在經(jīng)濟性和未來的能效滿足上求得較好的平衡),確保設計階段理論能效和建設、運行10%余量適度。三、數(shù)據(jù)中心綠色設計先進技術和方案1.IT設備數(shù)據(jù)規(guī)模的持續(xù)增長及土地、電力資源集約化發(fā)展推動高密度數(shù)據(jù)中心發(fā)展。在過去很長一段時間,為了滿足不斷增長的用戶數(shù)據(jù)處理需求,數(shù)據(jù)中心主要是通過增加空間,擴大機架和服務器規(guī)模來提供更多算力,但是這也會導致數(shù)據(jù)中心運營成本的增加和數(shù)據(jù)中心場地空間的浪費。發(fā)達地區(qū)日益緊張的土地資源及電力資源使得以擴大服務器規(guī)模來提升算力水平的數(shù)據(jù)中心建設模式難以開展,建設高密度數(shù)據(jù)中心成為推動數(shù)據(jù)中心算力水平、提升數(shù)據(jù)中心效率的重要舉措,高密度數(shù)據(jù)中心能夠進一步增加數(shù)據(jù)中心功率密度和數(shù)據(jù)中心“每平方米”的計算能力,能夠更好地滿足大數(shù)據(jù)場景下的計算與存儲需求。高密度服務器部署顯著提升數(shù)據(jù)中心單位面積算力,降低數(shù)據(jù)中心運營成本。建設高密度數(shù)據(jù)中心的關鍵是部署高密度服務器,與傳統(tǒng)服務器不同,高密度服務器電源和風扇以共享方式進行設計,位于同一機箱內(nèi)的多臺服務器節(jié)點可以共享電源和風扇。一方面降低了機體的重量和空間占用,提升數(shù)據(jù)中心單位面積算力,另一方面能夠提升電源和散熱系統(tǒng)的使用效率,降低數(shù)據(jù)中心運營成本。IBM、思科、華為、浪潮、曙光等國內(nèi)外知名的互聯(lián)網(wǎng)硬件廠商紛紛加速推進高密度服務器的產(chǎn)品設計與市場布局。(2)液冷服務器近來年,液冷服務器的使用數(shù)量和客戶接受度不斷提高,是基于液冷服務器具有高效散熱、節(jié)能降噪和高密部署等優(yōu)勢。數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001高效散熱:液冷解決高功率芯片的散熱問題,突破風冷散熱瓶頸。風冷容易產(chǎn)生局部熱點,芯片長時間高溫運行,影響芯片性能和使用壽命。液冷可維持芯片低于臨界溫度10℃~20℃穩(wěn)定運行,釋放芯片最大計算潛能,延長芯片使用壽命。節(jié)能降噪:液冷服務器核心發(fā)熱部件散熱通過冷卻液體循環(huán)排到機房外,可大大降低機房內(nèi)制冷壓力,節(jié)省數(shù)據(jù)中心空調(diào)用電。液冷數(shù)據(jù)中心PUE在1.3以下,起到很好的節(jié)能效果。同時,服務器內(nèi)部對風扇要求也降低,可以實現(xiàn)風扇低轉(zhuǎn)速運行甚至無風扇,降低設備噪音。高密部署:傳統(tǒng)風冷服務器散熱片占據(jù)一定高度,芯片功耗越高,散熱器高度也越高,服務器的高度也需要隨之調(diào)整。液冷服務器使用液冷散熱片,對空間的要求降低,可實現(xiàn)高密度設計,提高了數(shù)據(jù)中心內(nèi)設備部署密度,降低綜上所述,因為液冷服務器能為客戶帶來多方面收益,各服務器廠商也都在布局液冷產(chǎn)品。國內(nèi)廠商如曙光、浪潮、聯(lián)想、寧暢、華三都有布局液冷服務器。液冷服務器機型主要包括高密度CPU計算型液冷服務器、GPU液冷服務器、機架式液冷服務器等。技術路線以冷板式液冷2和浸沒式液冷居多。通過優(yōu)化冷板內(nèi)鏟齒厚度、高度、間距等參數(shù)以及流道設計,獲得最優(yōu)散熱效果。冷板材質(zhì)一般選擇導熱性較好的金屬,如銅、鋁等,選用銅質(zhì)較多。CPU冷板和GPU冷板2開放數(shù)據(jù)中心委員會ODCC.《冷板式液冷服務器可靠性白皮書》數(shù)據(jù)中心綠色設計白皮書(3)整機柜ODCC-2023-02001數(shù)據(jù)中心本身是一個能量冷熱交換的載體,既需要大規(guī)模蓄冷,也同時產(chǎn)生大規(guī)模熱能。想要降低碳排放量和提高能源利用率,關鍵還是在于節(jié)能增效,利用技術措施、管理措施等減少碳排放。以服務器為例,當把每一臺服務器作為單節(jié)點獨立運作,從整體數(shù)據(jù)中心層面來看收益基本為零,當單節(jié)點的維度提高到機柜層級,將集中供電、一體化交付、高密度部署這些進行統(tǒng)一規(guī)劃時,就可以獲取更高的收益,以集中供電為例,平均單節(jié)點能耗優(yōu)化12%。當將規(guī)劃維度進一步提高到數(shù)據(jù)中心層面,將數(shù)據(jù)中心層面的供電、交付、部署、組網(wǎng)、制冷綜合考慮,將會收獲到最佳的綜合收益。而事實上,超大規(guī)模數(shù)據(jù)中心運營商以及云服務廠商(CSP)正是通過這樣的實踐來降低綜合運營成本,提升產(chǎn)品競爭力。通過集中供電技術把原本離散的電源進行池化。原本通用服務器離散供電的冗余要求是1+1,以20節(jié)點為例需要40顆PSU進行供電,且PSU之間無法實現(xiàn)負載均衡,當服務器負載較低時,電源的轉(zhuǎn)化效率處于較低水平。當通過整機柜的形式將電源進行池化后,整機20個節(jié)點可以采用N+1或N+2(N+M)冗余模式,大幅減少PSU總數(shù)。同時池化后的PSU之間可以實現(xiàn)負載均衡,結(jié)合動態(tài)PSU節(jié)能調(diào)節(jié)技術,在整機柜負載較低時,關閉多余的PSU,始終使得PSU保持在高轉(zhuǎn)化率的負載下,效率更高。所以,通過集中供電技術可以降低整個TCO的整機柜的成本,且提升交付效率。隨著摩爾定律的逐漸失效,研究發(fā)現(xiàn)散熱對現(xiàn)代電子系統(tǒng)是一個挑戰(zhàn),溫度每升高1攝氏度電子器件的壽命縮短5%,散熱還直接影響電子系統(tǒng)的功率輸出和能耗,同時面對云計算、AI、5G和IoT的快速發(fā)展,可以感受到算力在增加,AI技術使單個芯片功耗在增加,系統(tǒng)功耗也在增加。所有數(shù)據(jù)中心實現(xiàn)低碳不得不面臨的另一大難題,就是散熱。過往整機柜通常采用風扇墻集中式散熱,這樣的好處是每一個單獨的節(jié)點不需要獨立的風扇,隨著風扇數(shù)量的減少,節(jié)省出來的空間可進一步增加設備數(shù)量,降低整體的成本。但隨著業(yè)務越來越復雜,服務器所承載的應用越來越多樣化,一臺機柜中往往運行多種業(yè)務類型,發(fā)現(xiàn)以往風扇墻以3-4個節(jié)點為一組進行散熱,風扇的功耗會以節(jié)點組中最大數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001功耗進行運作,同時風扇墻的模式也降低了整機柜的靈活性,當在搬遷的時候必須得機柜整體搬遷,無法抽出單節(jié)點獨立運作。所以,為了這類解決問題,把風扇進行了內(nèi)置采用節(jié)點式單獨散熱,將節(jié)點和散熱進行解耦,易于搬遷。同時節(jié)點中內(nèi)置風扇可以按照單節(jié)點的實際功耗調(diào)整風扇速率,保證散熱效率,效服務器數(shù)字經(jīng)濟時代,算力是數(shù)字經(jīng)濟發(fā)展的基礎設施和核心生產(chǎn)力,隨著數(shù)據(jù)的爆炸式增長,算法的復雜程度不斷提高,對算力需求越來越高。算力即計算能力,核心是CPU、GPU、NPU、MCU等各類芯片,具體由計算機、服務器、高性能計算集群和各類智能終端等承載。對數(shù)據(jù)中心而言,服務器是算力的主要載體。數(shù)據(jù)中心在進行服務器設備選擇時,為確保設備可提供業(yè)務需要的算力資源,注重計算性能指標已成為共識。但隨著國家越來越重視“碳中和碳達峰”戰(zhàn)略,服務器產(chǎn)品作為運營過程中核心的IT設備,其生命周期的碳足跡對總體運營溫室氣體排放控制至關重要,在設備選型時兼顧產(chǎn)品碳排放量也成為趨勢。如何在計算密集型工作負載和低能耗運行的矛盾之間找到解決方案,如何在滿足技術需求的基礎上盡可能降低碳排放,業(yè)界在服務器設備選型時開始逐漸考慮算力碳效。高算力碳效服務器是服務器使用周期內(nèi),產(chǎn)生的碳排放與所提供的算力的比值相對較小的一類服務器,這類服務器的特點是單位算力的碳排放量較少。隨著服務器性能的提升,碳排放總量呈上升的趨勢,但性能提升的速度超過碳排放增加的速度,單位算力的相對碳排放在降低3。若廠商根據(jù)業(yè)務需求,如不同計算場景(高性能計算、邊緣計算、智能計算、通用計算等)、不同架構(X86架構、ARM)、不同負載(存儲、內(nèi)存、CPU要求),選擇算力碳效高的服務器,則可保證數(shù)據(jù)中心的綠色低碳效益。3開放數(shù)據(jù)中心委員會ODCC.《數(shù)據(jù)中心算力碳效白皮書》數(shù)據(jù)中心綠色設計白皮書2.供電系統(tǒng)1)電氣集成化設計ODCC-2023-02001在數(shù)據(jù)中心中,其供電系統(tǒng)是整個數(shù)據(jù)中心的咽喉,是基礎設施中最重要的組成部分之一。當前數(shù)據(jù)中心常見的幾種不間斷供電技術包括ACUPS、HVDC (240V/336V/48V)和市電直供+BBU等。一般根據(jù)數(shù)據(jù)中心建設等級的要求,采用不同的冗余供電模式,比如2N模式,DR模式,RR模式等。未來數(shù)據(jù)中心的快速發(fā)展,對供電系統(tǒng)的可靠性、節(jié)能性、可持續(xù)性等提出更高的要求,供電技術和模式向著模塊化、預制化、智能化、精簡化等方向創(chuàng)新演變。當前國內(nèi)外的數(shù)據(jù)中心行業(yè),根據(jù)各自的具體需求,提出并實踐了很多有特點的供電新技術,如華為、維諦的電力模塊,阿里巴巴的巴拿馬電源等。深度融合是電力模塊的演進方向。隨著數(shù)據(jù)中心服務器芯片算力的持續(xù)提功率密度達到16kW/柜的時候,配電間和IT空間的面積比例甚至可達到1:1,如何保證IT的出柜率,持續(xù)降低電力模塊的占地成本成為迫切需要解決的問題。通過將UPS輸入輸出配電與UPS深度融合,減少電力模塊鏈路節(jié)點,在產(chǎn)品架構上極簡來省占地,將是電力模塊演進的方向。圖7IT機柜的演進智能化成為安全和運維的關鍵手段。電力模塊統(tǒng)一的智能管理系統(tǒng),可以有效提升電力模塊系統(tǒng)的安全性,由本地智能管理系統(tǒng)和智能網(wǎng)管組成,本地數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001智能管理系統(tǒng)硬件由變壓器的溫控器、低壓柜/饋線柜的柜級監(jiān)控單元、UPS主控把各柜信息通過智能插座匯入ECC主控;ECC主控統(tǒng)一監(jiān)控匯總,在本地PAD上統(tǒng)一顯示電力模塊各單元的電流、電壓、頻率、電能、諧波、負載率、開關狀態(tài)、UPS狀態(tài)、各節(jié)點溫度,供用戶本地直觀的識別系統(tǒng)運行狀態(tài);同時ECC把信息上報給網(wǎng)管,供網(wǎng)管顯示3D視圖、電壓電流電能等運行參數(shù)、鏈路圖及故障影響分析、開關在線整定、開關健康度預測、UPS電容/風扇壽命檢測、各節(jié)點溫度預測及AI異常預警、圖像AI識別等智能運維特性,能夠?qū)崿F(xiàn)智能運維,變被動維護為主動運維,在提升系統(tǒng)安全性的同時也盡可能的提升了系統(tǒng)運維效率。巴拿馬電源柔性集成了10kV的配電,隔離變壓,模塊化整流器和輸出配電等環(huán)節(jié),采用移相變壓器取代工頻變壓器,并從10kVac到240Vdc整個供電鏈路做到了優(yōu)化集成。該方案具有高效率、高可靠性、高功率密度、高功率容量、兼維護方便等特點。比傳統(tǒng)數(shù)據(jù)中心的供電方案,占地面積減少50%,其設備和工程施工量可節(jié)省40%,其功率模塊的效率高達98.5%,架構簡潔可靠性高。蓄電池單獨安裝,系統(tǒng)容量可以根據(jù)需求進行靈活配置。巴拿馬電源優(yōu)勢:一是高可用性。巴拿馬電源在240V/336VHVDC系統(tǒng)的基礎上,又進一步精簡低壓AC的配電環(huán)節(jié),平均無故障時間相比240V/336VHVDC系統(tǒng)又提升大約27%(以華東某機房為例:巴拿馬電源系統(tǒng)平均無故障時間是14年,而傳統(tǒng)240V/336VHVDC系統(tǒng)為11.5年)。二是效率高。巴拿馬電源由傳統(tǒng)變壓器改為移相變壓器,省掉功率因數(shù)調(diào)節(jié)環(huán)節(jié),移相變壓器的效率為99%,整流調(diào)壓部分的峰值效率為98.5%,整體峰值效率可達到97.5%。智能UPS和HVDC將逐漸取代傳統(tǒng)UPS。對供配電系統(tǒng)而言,很多事故都可以通過早期的精密監(jiān)控和智能算法來提前識別預防,而非等到器件損壞、模塊故障或系統(tǒng)失效后再被動告警,這種主動預測性維護是不間斷電源智能化的核心,即變被動告警為預測性維護。從解決方案看,智能UPS技術以及HVDC將是不間斷電源的未來發(fā)展趨勢。數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001智能UPS節(jié)能技術:新一代UPS設備需具備極高的運行效率,滿足數(shù)據(jù)中心進一步節(jié)能減排的需求,具備動態(tài)在線模式的UPS,即一種逆變器兼做有源濾波器的UPS,其包括旁路裝置、市電轉(zhuǎn)換裝置、直流轉(zhuǎn)換裝置、逆變器、控制裝置,用于檢測旁路電壓頻率并基于所述旁路電壓頻率生成旁路模式信號或者主路模式信號的旁路判斷裝置,可在確保設備可靠性的同時,顯著提高運行效率。動態(tài)在線模式在靜態(tài)旁路的基礎上增加了有源濾波功能,該模式下逆變器作為有源濾波器實時動態(tài)在線,配合靜態(tài)旁路上的電能調(diào)制單元,使系統(tǒng)能夠滿足相當大范圍的電網(wǎng)和負載電能調(diào)節(jié)需求。當無功負載或非線性負載連接到UPS并且存在諧波或無功電流時,UPS中的逆變器能夠起到有源濾波器的作用來進行補償,并且僅消耗部分電能來補償電路干擾,在實現(xiàn)提高系統(tǒng)電能質(zhì)量的同時,實現(xiàn)高達99%的最高效率,且供電無任何間斷。AI技術與UPS的結(jié)合:該技術可加強UPS持續(xù)輸出滿足應用要求的高供電質(zhì)量,同時亦可實現(xiàn)高達99%平均運行效率的節(jié)能。此外,高壓直流技術在供電可靠性、供電安全性、可擴展性、運行控制效率、諧波污染等方面具有明顯的優(yōu)勢。而傳統(tǒng)UPS系統(tǒng)串聯(lián)設備多,易引起單點故障,冗余度增加了安全保障,但同時也導致系統(tǒng)效率較低、成本過高的問題,并且傳統(tǒng)UPS系統(tǒng)維護不易,擴容難度大,制約了業(yè)務的進一步發(fā)展。高壓直流系統(tǒng)的使用,精簡優(yōu)化數(shù)據(jù)中心供配電架構,減少了供配電變流裝置的數(shù)量及損耗,提高了數(shù)據(jù)中心電能使用效率。但直流供電系統(tǒng)的投入使用還存在產(chǎn)業(yè)生態(tài)、設備標準等問題有待進一步優(yōu)化解決。支持儲能系統(tǒng)的UPS系統(tǒng):隨著國家對節(jié)能政策逐步推行,UPS電源儲能技術在優(yōu)化分配資源、低碳能源利用方面將發(fā)揮越來越重要的作用。隨著鋰離子蓄電池等儲能設備技術的不斷進步和制造成本的降低,以及國家和各地區(qū)能源政策的鼓勵和支持,國內(nèi)儲能市場快速興起。UPS不間斷電源系統(tǒng)具有成熟穩(wěn)定、高性價比、易于維護和安全可靠等特點,采用具有儲能功能的UPS設備打造高效低成本儲能系統(tǒng),通過綜合電能利用,實現(xiàn)儲能收益最大化。具有儲能功能的UPS設備在具有傳統(tǒng)機型電源后備時間、改善電網(wǎng)電能質(zhì)量的同時,可根據(jù)不同行業(yè)場景,靈活管理峰谷電價差,有效降低系統(tǒng)電費;數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001并可根據(jù)政策要求,系統(tǒng)執(zhí)行園區(qū)需求側(cè)響應并獲得補貼;對于特定用戶,可通過系統(tǒng)動態(tài)擴容,降低整體增容費用;根據(jù)用戶實際能源構成,靈活與光伏、風能等可再生能源組成混合供電系統(tǒng),提升系統(tǒng)可靠性。不間斷電源將在保障供電可靠性同時朝節(jié)能模式發(fā)展。工頻機UPS在能效上的局限已經(jīng)掣肘了行業(yè)向低碳綠色方向發(fā)展,隨著IGBT技術的突破,UPS行業(yè)在近十年來不斷從工頻UPS朝高頻UPS發(fā)展,解決了傳統(tǒng)工頻UPS體積大、效率低、維護難、可用性差等問題,發(fā)展至今可以說工頻UPS已基本退出市場。數(shù)據(jù)中心行業(yè)的綠色低碳發(fā)展要求推動UPS不斷提升能效,當前UPS系統(tǒng)的最高效率點普遍達到96%,高性能UPS效率達到97%,相比于傳統(tǒng)UPS效率提S內(nèi)節(jié)省的電費約35萬元,這些白白損耗的電能產(chǎn)生熱散發(fā)出來,還要額外消耗制冷系統(tǒng)的功率,因此高效UPS仍是未來的發(fā)展方向。3.制冷系統(tǒng)綠色設計整體方案是指在數(shù)據(jù)中心設計階段對數(shù)據(jù)中心主要架構的選擇,在制冷系統(tǒng)方面,如風冷DX空調(diào)系統(tǒng)、水冷冷水機組系統(tǒng)、蒸發(fā)冷卻系統(tǒng)、新型氟泵系統(tǒng)、液冷系統(tǒng)等。整體制冷設計方案的選擇對數(shù)據(jù)中心的綠色設計有重要且不可替代的影響,是決定數(shù)據(jù)中心PUE下限的重要因素。在選擇整體設計方案時應充分綜合考慮數(shù)據(jù)中心所在地區(qū)的氣候特點、水資源供應情況、數(shù)中心規(guī)模以及IT功率密度。1)整體設計方案風冷DX空調(diào)系統(tǒng)主要是通過風冷DX精密空調(diào)對數(shù)據(jù)中心進行制冷,其主要特點是設備構成簡單、部署靈活,能夠滿足低功率的制冷需求。風冷DX空調(diào)的蒸發(fā)器在數(shù)據(jù)中心機房室內(nèi),為服務器和網(wǎng)絡機柜提供冷量;冷凝器放置于0數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001室外,與環(huán)境空氣進行換熱。冷凝器形式較為多樣化,可與采用一對一,也可采用集中布置方式。(2)水冷冷水機組系統(tǒng)水冷冷水機組系統(tǒng)主要構成包括水冷冷水機組、冷凍水泵、水冷型末端精密空調(diào)、室內(nèi)風機、冷卻水泵、冷卻塔、板式換熱器,其主要特點是系統(tǒng)較為復雜、設備種類多、需要部署集中式冷站。水冷冷水機組系統(tǒng)利用水冷冷水機組或者板式換熱器制取冷凍水,冷凍水通過末端水冷型精密空調(diào)給機房散熱。根據(jù)制取冷凍水方式的不同可分為三種工作模式:完全機械制冷、部分自然冷卻以及完全自然冷卻。完全機械制冷模式完全依靠冷水機組制取冷凍水,一般在夏季開啟。如果經(jīng)過板換后的冷凍水出水溫度不能低于供水溫度的要求,則需要打開機械壓縮制冷機進一步給冷凍水降溫,相當于利用了部分自然冷源,這就是部分自然冷卻模式,一般在春秋等過渡季時開啟。如果經(jīng)過板換后的冷凍水出水溫度達到供水溫度要求,則不需要完全打開機械壓縮制冷機給冷凍水降溫,全部利用室外自由冷源,這就是完全自然冷卻模式,一般在冬季低溫節(jié)開啟。(3)蒸發(fā)冷卻系統(tǒng)蒸發(fā)冷卻技術是利用水蒸發(fā)冷卻原理,采用直接蒸發(fā)或者間接蒸發(fā)的方式獲得冷風的技術,可以分為直接蒸發(fā)冷卻技術和間接蒸發(fā)冷卻技術。直接蒸發(fā)冷卻系統(tǒng)是(AHU)是指空氣與霧化的水直接接觸,由于水的蒸發(fā),空氣和水的溫度都降低,而空氣的含濕量有所增加,將降溫后的冷空氣直接引入數(shù)據(jù)中心對服務器和網(wǎng)絡機柜進行冷卻。直接蒸發(fā)冷卻系統(tǒng)具有風量大、溫差小,冬季加濕效果好等優(yōu)點,但是該技術也有一定的局限性,在露點較低的地區(qū)使用該技術會帶來不必要的除濕費用,而且對室外空氣的直接引入也會導致室內(nèi)濕度分布不均勻以及細顆粒物和污染物帶入等問題,需采用過濾器對新風進行過濾,因此在使用該技術時,必須充分考慮當?shù)氐目諝赓|(zhì)量以及氣候條件等因素。直接蒸發(fā)冷卻技術已經(jīng)在一些地區(qū)得到了應用,并取得很好的效果。1數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001間接蒸發(fā)冷卻是指將直接蒸發(fā)冷卻得到的濕空氣或循環(huán)水的冷量通過非直接接觸式換熱器傳遞給待處理的空氣,實現(xiàn)空氣的等濕降溫。間接蒸發(fā)冷卻是通過各種類型換熱器來實現(xiàn)的,其主要類型有管束式、板式、熱管式等形式。間接蒸發(fā)冷卻技術具有效率高、安全性好、不易堵塞等優(yōu)點。(4)新型氟泵系統(tǒng)新型氟泵系統(tǒng)結(jié)合了間接蒸發(fā)、風冷、氟泵、熱管(冷媒自身的相變功能)的各自優(yōu)勢,通過不同的送風方式對數(shù)據(jù)中心進行制冷,其主要特點是設備構成簡單,部署相對靈活,能夠滿足中高功率的制冷需求及中大規(guī)模數(shù)據(jù)中心的需求。新型氟泵系統(tǒng)可以是戶外一體機、一拖一、一拖多等多種型式,在自然冷季節(jié),可完全啟動重力熱管方式進行制冷。(5)液冷系統(tǒng)現(xiàn)在的機架功率和單機架功率密度都在不斷增長,傳統(tǒng)的服務器風冷散熱方案已經(jīng)不能滿足散熱需要,先進的液冷技術開始在各個數(shù)據(jù)中心進行廣泛應用。用液冷技術可以將數(shù)據(jù)中心的空氣用液體進行替代,在替代過程就可以將各個發(fā)熱器件運行中所產(chǎn)生的熱量帶走等。目前液冷技術主要分為冷板式、浸沒式和噴淋式三種。其中,浸沒式和噴淋式液冷等為接觸式液冷,冷板式液冷為非接觸式液冷。冷板式液冷技術可以不直接接觸冷卻對象就將熱量帶走,該技術是通過高效熱傳導部件來對熱量進行發(fā)散;浸沒式液冷技術屬于直接冷卻技術,該技術使用的冷卻液能夠隔絕元器件產(chǎn)生的電氣,通過和發(fā)熱器件進行直接接觸就可以帶走熱量;噴淋式液冷技術通過改造IT設備,部署適量的噴淋器件,在設備運行中,可以針對熱量過高的器件進行冷卻。液冷技術具有制冷能效高、節(jié)約水資源和機房空間的優(yōu)勢,因此,有條件的數(shù)據(jù)中心開始應用液冷技術進行降溫。應用液冷技術進行降溫,不再需要配置風扇、空調(diào)末端和冷凍機組,也不需要安裝架空地板和冷熱通道設施,和傳2數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001統(tǒng)的制冷技術相比,液冷技術不需要占據(jù)很大的機房空間,可以將節(jié)省的機房空間用來布置更多的IT設備,從而提高了企業(yè)的經(jīng)濟收益。此外,液冷技術突破了氣候條件和地域的限制,可以在全國任何地區(qū)進行應用,即使是華南、華東等溫度高的地區(qū)也可以應用液冷技術進行冷卻,最終促使數(shù)據(jù)中心的制冷電力消耗大幅度降低。數(shù)據(jù)中心服務器在運行的過程中,產(chǎn)生大量的余熱,這些余熱有著易提取、熱源充足等特點,利用熱泵技術將數(shù)據(jù)中心余熱回收利用,在數(shù)據(jù)中心有著廣泛的應用前景,尤其是在我國北方地區(qū),可有效幫助用戶降低用熱成本。現(xiàn)階段我國IDC行業(yè)的節(jié)能重點主要集中在綠電的應用、空調(diào)系統(tǒng)的節(jié)能減排、IT系統(tǒng)的降耗等方面。伴隨著數(shù)字經(jīng)濟的發(fā)展,數(shù)據(jù)中心的規(guī)模和數(shù)量都呈現(xiàn)出快速增長的趨勢。更大規(guī)模、更多數(shù)量的數(shù)據(jù)中心建設,將有更多的設備,產(chǎn)生更多的余熱,這些余熱如果能被加以利用,可以加速數(shù)據(jù)中心“碳中和”。現(xiàn)階段大多數(shù)據(jù)中心采用風冷降溫,相較于液冷數(shù)據(jù)中心,風冷數(shù)據(jù)中心余熱收集及運輸難度較大,成本較高。液冷系統(tǒng)攜帶熱量介質(zhì)為冷卻液,流動性強、品味較高、方便運輸,相對于風冷系統(tǒng),投資成本較低,利用率較高,更適合余熱回收利用。液冷系統(tǒng)余熱回收系統(tǒng)可選擇接入液冷系統(tǒng)一次冷卻循環(huán)系統(tǒng)或二次冷卻循環(huán)系統(tǒng)提取余熱,也可選擇與液冷系統(tǒng)串聯(lián)或并聯(lián)的運行方案,對余熱可采取提質(zhì)利用或直接利用兩種類型,對余熱提質(zhì)利用的方式又包括熱泵系統(tǒng)、光熱系統(tǒng)、電輔助加熱、鍋爐輔助加熱等4。進行系統(tǒng)設計時宜充分考慮綜合利用光熱、地熱等清潔能源,以及與周邊建筑、園區(qū)協(xié)同建立余熱回收利用體系的可行性。4開放數(shù)據(jù)中心委員會ODCC.《浸沒式液冷數(shù)據(jù)中心熱回收白皮書》3數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001從各地區(qū)氣候差異和水資源供應情況的角度,綠色設計需要從業(yè)務角度分析,業(yè)務種類會影響服務器的運行溫度,從而影響設計方案,同時考慮同樣構架在不同地區(qū)的適用性和PUE表現(xiàn)。風冷DX空調(diào)設備構成簡單、部署靈活,適用于對能效要求不高且規(guī)模較小的數(shù)據(jù)中心;水冷冷水機組設備種類多、系統(tǒng)較為復雜、運維難度大,其根據(jù)季節(jié)變化調(diào)整系統(tǒng)運行模式,可最大化利用自然冷源,適用于對能效要求較高且自然環(huán)境適宜的大規(guī)模數(shù)據(jù)中心;蒸發(fā)冷卻機組尤其是直接蒸發(fā)冷卻機組適用于數(shù)據(jù)中心室外空氣潔凈度好、常年溫度較低的場景,能夠做到極致的節(jié)能效果,需具體到當?shù)厣踔潦菆@區(qū)的空氣質(zhì)量分析,且其運維難度較復雜;新型氟泵系統(tǒng)設備構成簡單,部署相對靈活,集成了蒸發(fā)冷卻、主動熱管、風冷等自然冷卻技術,適用于能效要求高的數(shù)據(jù)中心;液冷技術不僅能夠滿足數(shù)據(jù)中心高密度、低能耗的發(fā)展需求,還將驅(qū)動數(shù)據(jù)中心內(nèi)的各種配置和部件進行創(chuàng)新,其可支持約30kW高功率密度,而傳統(tǒng)機柜僅支持10kW左右,液冷技術對設備和冷卻液安全性要求極高,適用于能效要求高的數(shù)據(jù)中心。表2風冷、水冷、蒸發(fā)冷卻、新型氟泵系統(tǒng)、液冷系統(tǒng)對比類別調(diào)水冷冷水機組蒸發(fā)冷卻新型氟泵液冷能效較低較高高高高CLF0.25-0.5適用機柜功率中安全性安全性高需備份以提升安全性對氣候條件/空氣要求高安全性高對設備和冷卻液安全性要求極高運維難度簡單復雜較復雜簡單簡單適用規(guī)模小大小/大小/大小/大2)局部優(yōu)化設計4數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001(1)氣流組織優(yōu)化設計氣流組織是數(shù)據(jù)中心冷卻的首要問題,如果規(guī)劃不好,數(shù)據(jù)中心在實際使用過程中會出現(xiàn)氣流組織不均勻、局部熱點等問題,從而影響機房的整體排熱效果,并帶來更多能源消耗。氣流組織優(yōu)化設計是對機房不通暢、不合理的氣流組織進行規(guī)范、優(yōu)化,防止氣流回流、摻混、紊亂,確保機房內(nèi)的氣流有序、有組織地從服務器帶走熱量,提高空調(diào)系統(tǒng)送風的有效使用效果,從而降低機房空調(diào)的運行費用,降低PUE。作為對數(shù)據(jù)中心IT設備冷卻的最終環(huán)節(jié),氣流組織的優(yōu)良決定了冷卻的效果和效率。經(jīng)過不斷的優(yōu)化和改良,氣流組織正從房間級逐步向行間級、機柜級、服務器級的方向推進。目前數(shù)據(jù)機房空調(diào)的送風方式有側(cè)送側(cè)回、上送下回、上送上回、下送上回及頂送頂回等多種方式。經(jīng)研究表明:頂送頂回方式是最佳送回風方式,下送風方式比上送風更有利于機房的氣流組織和提高送風效率,根據(jù)傳統(tǒng)機房建設情況,數(shù)據(jù)機房空調(diào)送風大多采用地板下送風方式,但隨著對服務器本身認識的逐漸加深,其它氣流組織方式會不斷催生,既要滿足設備本身的需求,也要滿足人員參觀、操作維護等舒適性要求。氣流組織優(yōu)化的方式之一是冷熱通道隔離封閉,近年來大型的數(shù)據(jù)中心,尤其是中高密度的數(shù)據(jù)中心優(yōu)先熱通道封閉(如背板、列間、風墻),同時冷通道加裝隔離門(如列間)。在滿足機房溫度條件的情況下,氣流組織優(yōu)化后,通過合理提高機房內(nèi)的設定溫度,進而提高制冷系統(tǒng)的送風溫度,是減小制冷設備能耗的有效方法之一。研究表明,隨著蒸發(fā)溫度的提高,制冷機組性能增大,且蒸發(fā)溫度每提高(2)細化設計顆粒度細化設計的顆粒度,針對不同類型的機房采用不同的制冷方式,可進一步提升數(shù)據(jù)中心總體能效,如核心網(wǎng)絡包間可采用氟泵精密空調(diào)解決制冷效率問題等。加裝氟泵技術主要應用在風冷直膨式空調(diào)機組上,系統(tǒng)由氟泵、蒸發(fā)器、5數(shù)據(jù)中心綠色設計白皮書ODCC-2023-02001冷凝器以及管路閥門等組成,與原專用空調(diào)配套使用,組合成兩套不同的制冷循環(huán)模式:壓縮機制冷模式和氟泵制冷模式。在夏季或室外溫度較高的過渡季節(jié),空調(diào)機組運行在壓縮機制冷模式,制冷劑吸收機房的熱量蒸發(fā),在壓縮機內(nèi)加壓后排入冷凝器冷凝液化,此時壓縮機開啟;在冬季或室外溫度較低的過渡季節(jié),空調(diào)機組運行在氟泵制冷模式,蒸發(fā)器中吸收機房熱量后的制冷劑,直接進入風冷冷凝器與室外冷源換熱,冷凝成液態(tài)后,在氟泵的作用下克服管道阻力回到蒸發(fā)器,此時壓縮機關停,從而達到節(jié)能效果。4.監(jiān)控系統(tǒng)通過數(shù)字孿生技術,在設計階段對整個數(shù)據(jù)中心或局部區(qū)域的能耗進行分析,同時反饋模擬運行的PUE,利用機器學習等AI技術實現(xiàn)運行優(yōu)化,達到極致最低PUE。近些年智能系統(tǒng)越來越被人們所重視,智能系統(tǒng)不能只是一系列規(guī)則或預設模型的綜合體;它至少應具備一定的自適應學習能力,能夠基于數(shù)據(jù)驅(qū)動進行學習、能夠基于算法求解進行優(yōu)化決策的智能體,實現(xiàn)負荷預測、系統(tǒng)仿真、算法優(yōu)化等。負荷預測系統(tǒng)運行調(diào)節(jié)的目的是為了讓后續(xù)運行更加高效,它是面向未來負載工況的調(diào)節(jié),而非基于當前或過去負載進行調(diào)節(jié)。對未來一段時間的負載進行可靠預測,就成為運行調(diào)節(jié)的基礎前提。如果調(diào)控所面向的未來一段時間負載比較穩(wěn)定,則可以用當前采集到的負荷作為估計值,用于進行節(jié)能調(diào)控;如果未來一段時間負載存在較明顯波動,則需要基于一定的預測算法或策略進行估計。通過負荷預測,可以為系統(tǒng)運行策略推薦合適的時機,避免盲目進行系統(tǒng)模式切換;通過負荷預測感知
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經(jīng)權益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
- 6. 下載文件中如有侵權或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 中國針織襯衫行業(yè)市場深度分析及投資策略咨詢報告
- 廣告公司員工聘用合同范本
- 公司紅酒購銷合同范本
- 公寓房屋出售合同范本
- 公司監(jiān)理合同范本
- 2025年手拉單軌行車項目投資可行性研究分析報告
- 分賬式合作合同范本
- 2025年度住宅小區(qū)建筑工程施工合同索賠風險評估與防控措施
- 2025年度地熱能開發(fā)打井技術服務協(xié)議4篇
- 2025年橡塑運輸帶項目可行性研究報告
- 數(shù)學-河南省三門峽市2024-2025學年高二上學期1月期末調(diào)研考試試題和答案
- 2025年春新人教版數(shù)學七年級下冊教學課件
- 《心臟血管的解剖》課件
- 心肺復蘇課件2024
- 2024-2030年中國并購基金行業(yè)發(fā)展前景預測及投資策略研究報告
- 河道清淤安全培訓課件
- 2024各科普通高中課程標準
- 7.3.1印度(第1課時)七年級地理下冊(人教版)
- 環(huán)保鐵1215物質(zhì)安全資料表MSDS
- “君子教育”特色課程的探索
- AS9100D人力資源管理程序(范本)
評論
0/150
提交評論