網(wǎng)格技術(shù)的發(fā)展與展望

網(wǎng)格技術(shù)的發(fā)展與展望

高性能計(jì)算的能力和水平是國(guó)家總收入的重要標(biāo)志，也是國(guó)家創(chuàng)新體系的重要組成部分。因此，它已成為世界各國(guó)特別是發(fā)達(dá)國(guó)家之間競(jìng)爭(zhēng)的戰(zhàn)略中心。發(fā)展高性能計(jì)算,不但可以帶動(dòng)計(jì)算技術(shù)本身向更高水平發(fā)展,而且可以解決國(guó)民經(jīng)濟(jì)和產(chǎn)業(yè)發(fā)展、社會(huì)和科學(xué)進(jìn)步、國(guó)家安全等方面的一系列挑戰(zhàn)性問(wèn)題。21世紀(jì)高性能計(jì)算的趨勢(shì)是與網(wǎng)絡(luò)結(jié)合,產(chǎn)生網(wǎng)格計(jì)算(GirdComputing)這種新技術(shù)。對(duì)于網(wǎng)格計(jì)算,我國(guó)政府給予了高度重視。教育部在“十五”211工程公共服務(wù)體系建設(shè)項(xiàng)目中,提出了依托CERNET建立可聚合與共享資源的公共服務(wù)平臺(tái)———中國(guó)教育科研網(wǎng)格(ChinaGrid),這對(duì)于實(shí)現(xiàn)計(jì)算資源,存儲(chǔ)資源,數(shù)據(jù)資源,信息資源,專家資源的全面共享,全面提高我國(guó)教育信息化基礎(chǔ)設(shè)施服務(wù)水平和高等學(xué)校教學(xué)科研水平,都將具有極其重要的意義。為此,教育部將組織實(shí)拴教育科研網(wǎng)格項(xiàng)目,首批參加教育科研網(wǎng)格項(xiàng)目的高校有:華中科技大學(xué),清華大學(xué),北京大學(xué),北京航空航天大學(xué)和中山大學(xué)等12所大學(xué)。到網(wǎng)格建成時(shí),將在教育科研網(wǎng)上把全國(guó)100所211建設(shè)重點(diǎn)大學(xué)的資源廣泛共享。ChinaGrid的目標(biāo)是在2005年建立聚合計(jì)算能力超過(guò)15萬(wàn)億次量級(jí)的教育科研網(wǎng)格,形成世界上最大的超級(jí)網(wǎng)格之一(圖1)。高性能計(jì)算是網(wǎng)格計(jì)算資源中的重要組成部分,也是ChinaGrid建設(shè)中的一個(gè)重要指標(biāo),理應(yīng)優(yōu)先發(fā)展。目前首批參加ChinaGrid的12所大學(xué)中,已有8所大學(xué)具有超過(guò)五千億次(500GFlops)的計(jì)算力,其中有五所有已具備超過(guò)一萬(wàn)億次的計(jì)算力。為了配合中山大學(xué)建設(shè)高水平研究型的綜合性大學(xué)目標(biāo)的需求,建設(shè)中山大學(xué)高性能網(wǎng)格計(jì)算平臺(tái)對(duì)提高我校的基礎(chǔ)研究學(xué)科、應(yīng)用學(xué)科的學(xué)術(shù)水平和促進(jìn)新的交叉學(xué)科的形成,提高我?？蒲械恼w創(chuàng)新能力,具有重要的戰(zhàn)略意義。利用該平臺(tái)可以極大促進(jìn)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)科相關(guān)研究方向?qū)W術(shù)水平的提高,為國(guó)家培養(yǎng)大量高性能計(jì)算的應(yīng)用人才,提高中山大學(xué)在多個(gè)學(xué)科中的科研實(shí)力和科研水平。1網(wǎng)格等新技術(shù)帶來(lái)的競(jìng)爭(zhēng)中山大學(xué)是一所集文、理、工、醫(yī)和商等一體的多學(xué)科綜合性研究型大學(xué),擁有豐富的資源、良好的學(xué)科基礎(chǔ)、通暢的網(wǎng)絡(luò)環(huán)境以及穩(wěn)定的人才隊(duì)伍等優(yōu)勢(shì)。許多學(xué)科都承擔(dān)著國(guó)家或省一級(jí)的自然科學(xué)基金和科技攻關(guān)等項(xiàng)目,這些項(xiàng)目往往在計(jì)算力及海量數(shù)據(jù)存儲(chǔ)方面都有著巨大的需求,學(xué)校如果沒(méi)有一個(gè)良好的高性能網(wǎng)格計(jì)算環(huán)境,不能提供充足的計(jì)算力,那么必然會(huì)在許多領(lǐng)域中失去很多機(jī)會(huì),在激烈的競(jìng)爭(zhēng)中處于下風(fēng)。通過(guò)我們近年來(lái)對(duì)校內(nèi)多個(gè)學(xué)科的接觸和調(diào)查,初步掌握了他們的一些典型應(yīng)用的特點(diǎn)以及他們對(duì)高性能計(jì)算的需求,以下僅以部分學(xué)科或?qū)W院為例。(1)流動(dòng)掌控方程的關(guān)性研究數(shù)計(jì)學(xué)院在多個(gè)研究方向上都需要大量的計(jì)算力,例如關(guān)于并行計(jì)算、程序并行化與數(shù)據(jù)相關(guān)性的研究;涉及用數(shù)值計(jì)算方法直接求解流動(dòng)主控方程的計(jì)算流體力學(xué);有關(guān)模擬大規(guī)模投資組合分析和風(fēng)險(xiǎn)價(jià)值計(jì)算的金融計(jì)算研究;智能交通系統(tǒng)的大規(guī)模實(shí)時(shí)網(wǎng)絡(luò)計(jì)算等等,為此,以陳仲英教授為首的學(xué)科帶頭人,已向?qū)W校提出建立大規(guī)模快速反應(yīng)計(jì)算中心的需求。(2)大規(guī)模數(shù)值模擬研究粒子物理和量子場(chǎng)論是探索物質(zhì)世界的前沿科學(xué),格點(diǎn)QCD是粒子物理與凝聚態(tài)物理和計(jì)算科學(xué)之間相互交叉的學(xué)科。要了解QCD所包含的物理現(xiàn)象并且對(duì)點(diǎn)陣?yán)碚摰念A(yù)測(cè)進(jìn)行精確地計(jì)算,就必須進(jìn)行大規(guī)模的數(shù)值模擬。我校承擔(dān)的國(guó)家自然科學(xué)基金重點(diǎn)項(xiàng)目“格點(diǎn)規(guī)范理論的大規(guī)模數(shù)值模擬研究”,以格點(diǎn)量子色動(dòng)力學(xué)課題進(jìn)行大規(guī)模數(shù)值運(yùn)算,要實(shí)現(xiàn)其科學(xué)目標(biāo),必須要把校內(nèi)、校際、國(guó)內(nèi)甚至是國(guó)際上現(xiàn)有的高性能計(jì)算資源加以充分利用,而網(wǎng)格計(jì)算是最有效的實(shí)現(xiàn)方法。(3)基于學(xué)也即計(jì)算生物學(xué)的基因測(cè)序工作生命領(lǐng)域的生物組織及其重建的計(jì)算模擬、生物信息學(xué)研究、模擬克隆人技術(shù)等對(duì)計(jì)算里有較高的需求。生物信息學(xué)(也即計(jì)算生物學(xué))領(lǐng)域?yàn)檠芯繖C(jī)構(gòu)共享計(jì)算與數(shù)據(jù)資源并進(jìn)行復(fù)雜的計(jì)算工作,如蛋白質(zhì)結(jié)構(gòu)分析等,提供一個(gè)集成平臺(tái)。基因測(cè)序工作需要的海量數(shù)據(jù)比對(duì)及處理必須利用超強(qiáng)的計(jì)算能力,以便對(duì)基因的生物功能進(jìn)行分析。生物學(xué)與生物系統(tǒng)模擬研究,需要超強(qiáng)計(jì)算力帶來(lái)原子級(jí)精度?？梢姼咝阅苡?jì)算研究是生命科學(xué)不可缺少的重要手段。(4)醫(yī)學(xué)圖像診斷在醫(yī)學(xué)、藥學(xué)與公共衛(wèi)生學(xué)領(lǐng)域,也有許多需要高性能網(wǎng)格計(jì)算的研究,例如醫(yī)學(xué)圖像診斷、藥物設(shè)計(jì)與新藥開發(fā)、心血管血液流動(dòng)仿真、數(shù)字化人及其醫(yī)學(xué)應(yīng)用,流行疾病統(tǒng)計(jì)、分析與預(yù)測(cè)等等。醫(yī)學(xué)圖像診斷通過(guò)網(wǎng)格計(jì)算平臺(tái)在創(chuàng)建一個(gè)跨醫(yī)院甚至跨地區(qū)的大型醫(yī)學(xué)數(shù)字化“相冊(cè)”,存儲(chǔ)各種典型的數(shù)字化醫(yī)學(xué)圖片,便于患者、師生及醫(yī)務(wù)工作者便捷地獲取各種有價(jià)值的醫(yī)學(xué)圖片,輔助疾病的早期發(fā)現(xiàn)與早期診斷。而各種人體的仿真,疾病的統(tǒng)計(jì)分析與預(yù)測(cè),藥物毒性比對(duì)分析等,更是對(duì)高性能計(jì)算有非常大的需求。(5)并行計(jì)算系統(tǒng)氣象的觀測(cè)與預(yù)報(bào),需要對(duì)各種氣候子系統(tǒng)進(jìn)行綜合的大規(guī)模數(shù)值模擬以及對(duì)各種不確定因素進(jìn)行定量分析,因此需要強(qiáng)大的并行計(jì)算系統(tǒng)。近幾年來(lái),我校大氣系承擔(dān)了包括國(guó)家攀登A項(xiàng)目、國(guó)家自然科學(xué)基金重點(diǎn)項(xiàng)目等多個(gè)重大項(xiàng)目的研究。這些項(xiàng)目的研究都涉及到“大氣數(shù)值模式的研制和數(shù)值試驗(yàn)”,需要使用大容量、高速并行計(jì)算機(jī)。(6)計(jì)算機(jī)環(huán)境領(lǐng)域的污染傳播與防治的數(shù)值模擬,海洋污染問(wèn)題中的赤潮問(wèn)題、珠江河水污染的問(wèn)題,地理信息系統(tǒng)都是高性能計(jì)算的重要選題。高性能計(jì)算環(huán)境的建成,將完善廣東頗具優(yōu)勢(shì)特色的海洋科技創(chuàng)新體系。(7)信息共享機(jī)制化學(xué)信息學(xué)是近幾年發(fā)展起來(lái)的一個(gè)新的化學(xué)分支學(xué)科,它利用計(jì)算機(jī)技術(shù)和網(wǎng)絡(luò)技術(shù),對(duì)大量的化學(xué)信息進(jìn)行表示、管理、分析、模擬和傳播,以實(shí)現(xiàn)化學(xué)信息的提取、轉(zhuǎn)化與共享,揭示化學(xué)信息的實(shí)質(zhì)與內(nèi)在聯(lián)系,促進(jìn)化學(xué)學(xué)科的知識(shí)創(chuàng)新。另外,理論化學(xué)中模擬各種化學(xué)反應(yīng)的量子化學(xué)計(jì)算,化工、醫(yī)藥和生物大分子結(jié)構(gòu)的設(shè)計(jì)與計(jì)算,以及結(jié)構(gòu)功能預(yù)測(cè)和研究、藥物分子的作用機(jī)理和大分子結(jié)構(gòu)合成的途徑等,都需要大量的數(shù)值計(jì)算應(yīng)用。(8)標(biāo)準(zhǔn)化的方法工業(yè)大規(guī)模設(shè)計(jì)計(jì)算問(wèn)題,不但單個(gè)作業(yè)計(jì)算量龐大,而且需要不斷調(diào)整和重復(fù)計(jì)算。在航空、航天、船舶、汽車等工業(yè)領(lǐng)域,利用大規(guī)模并行計(jì)算進(jìn)行反復(fù)設(shè)計(jì)、分析、優(yōu)化,已成為標(biāo)準(zhǔn)的必經(jīng)步驟和手段。另外,材料科學(xué)中,模擬材料生長(zhǎng)、條件、工藝的全過(guò)程,從而定量分析材料的光電和結(jié)構(gòu)及其演化問(wèn)題,也是高性能計(jì)算的應(yīng)用。以上幾點(diǎn)僅是我們前期初步調(diào)查的部分典型應(yīng)用,但各應(yīng)用計(jì)算力需求最高達(dá)5000億次,據(jù)初步調(diào)查結(jié)果預(yù)測(cè),我校在高性能計(jì)算上的計(jì)算力總需求約為20000億次。2我們學(xué)校規(guī)劃并建設(shè)了高性能網(wǎng)絡(luò)計(jì)算環(huán)境的規(guī)劃和建設(shè)2.1完善中國(guó)高校網(wǎng)格結(jié)構(gòu)(1)建設(shè)我校高性能計(jì)算平臺(tái),為發(fā)展ChinaGrid進(jìn)行必要的技術(shù)儲(chǔ)備和鋪墊,在2005年底前實(shí)現(xiàn)聚合計(jì)算力超過(guò)每秒5千億次(500GFlops)、存儲(chǔ)力達(dá)到30TB(其中10TB用于高性能計(jì)算與網(wǎng)格計(jì)算)的高性能計(jì)算環(huán)境,使之成為我校建設(shè)高水平大學(xué)的重要基礎(chǔ)設(shè)施和公共服務(wù)設(shè)施之一,同時(shí)成為中國(guó)教育科研網(wǎng)格(ChinaGrid)上的網(wǎng)格節(jié)點(diǎn)之一。(2)充分利用中山大學(xué)的學(xué)科優(yōu)勢(shì)和豐富信息資源,實(shí)現(xiàn)資金聚合與計(jì)算力聚合的統(tǒng)一,利用有限資金集中各種資源,有效防止各部門重復(fù)投資與資源閑置。優(yōu)先扶持若干個(gè)應(yīng)用,并為其他的學(xué)科和應(yīng)用提供示范效應(yīng)。(3)為高性能計(jì)算與網(wǎng)格計(jì)算學(xué)科建設(shè)提供必要的物質(zhì)基礎(chǔ),并與各學(xué)科進(jìn)行合作,培養(yǎng)一批高素質(zhì)的高性能計(jì)算、網(wǎng)格研究及應(yīng)用人才。(4)建立高性能計(jì)算應(yīng)用的相關(guān)的管理制度,完善使用程序,規(guī)范操作行為,加強(qiáng)安全保障措施,促進(jìn)高性能計(jì)算應(yīng)用的良性發(fā)展。(5)為教育與科研網(wǎng)上的用戶提供共享網(wǎng)格服務(wù),為科學(xué)研究提供本節(jié)點(diǎn)的計(jì)算資源和存儲(chǔ)資源共享,促進(jìn)廣東省及華南地區(qū)的計(jì)算網(wǎng)格、數(shù)據(jù)網(wǎng)格和服務(wù)網(wǎng)格等的研究和應(yīng)用發(fā)展。2.2強(qiáng)化環(huán)境,重視人員配備與培養(yǎng)建設(shè)我校高性能網(wǎng)格計(jì)算平臺(tái),除得到校領(lǐng)導(dǎo)及學(xué)校其他相關(guān)部門的大力支持以外,必須具備一定的條件。隨著數(shù)字化校園建設(shè)項(xiàng)目的開展,信息與網(wǎng)絡(luò)中心在一些基礎(chǔ)設(shè)施方面,已能基本能滿足我校高性能網(wǎng)格計(jì)算平臺(tái)建設(shè)的需求。在我校數(shù)字化校園一期建設(shè)中,我中心已規(guī)劃建設(shè)數(shù)據(jù)中心。數(shù)據(jù)中心既是數(shù)字化校園重要的基礎(chǔ)環(huán)境設(shè)施,也是以后發(fā)展高性能網(wǎng)格計(jì)算平臺(tái)的重要環(huán)境依托。目前數(shù)據(jù)中心精密機(jī)房建設(shè)已經(jīng)基本完成,機(jī)房面積約為170m2,配備有3臺(tái)41kW的精密空調(diào),2臺(tái)160kW冗余三相UPS電源,按照不小于2萬(wàn)億次計(jì)算能力的需求設(shè)計(jì),動(dòng)力電源輸出可達(dá)500kW,具備先進(jìn)的大屏幕監(jiān)控系統(tǒng)設(shè)備,具備完善的機(jī)房環(huán)境恒溫、恒濕控制,及完善的防雷、防靜電、氣體消防等保護(hù)設(shè)施,已可以滿足我校未來(lái)一段時(shí)期內(nèi)發(fā)展高性能網(wǎng)格計(jì)算的環(huán)境需要。隨著數(shù)據(jù)中心項(xiàng)目的完成,我中心已具備存儲(chǔ)力達(dá)10TB的EMCDELLCX600存儲(chǔ)設(shè)備一套,計(jì)算力達(dá)高達(dá)每秒1760億次的IBMp690服務(wù)器兩臺(tái),以及曙光信息產(chǎn)業(yè)(北京)有限公司捐贈(zèng)的一套小型“高性能64位集群服務(wù)器”一套,并建立“曙光64位應(yīng)用示范基地”。我中心非常重視高性能網(wǎng)格計(jì)算方面的人員配備與培養(yǎng)問(wèn)題,安排專人負(fù)責(zé)高性能計(jì)算的技術(shù)跟蹤與調(diào)查,協(xié)助主管網(wǎng)格計(jì)算的中心副主任進(jìn)行高性能網(wǎng)格計(jì)算的規(guī)劃。并安排相關(guān)技術(shù)人員,在已有的計(jì)算環(huán)境下開展高性能網(wǎng)格計(jì)算方面的研究,進(jìn)行必要的技術(shù)積累。2.3集群體系結(jié)構(gòu)高性能計(jì)算的發(fā)展過(guò)程主要經(jīng)歷了以下幾個(gè)階段:初級(jí)階段,向量機(jī)階段,對(duì)稱多處理器共享存儲(chǔ)并行機(jī)(SMP)、分布式共享存儲(chǔ)并行機(jī)(DSM)、大規(guī)模并行處理機(jī)(MPP)、集群機(jī)群(Cluster)及正在興起的網(wǎng)格計(jì)算。在近幾年來(lái),集群系統(tǒng)在許多領(lǐng)域和機(jī)構(gòu)(特別是教育科研機(jī)構(gòu))的高性能計(jì)算中被廣泛使用,并成為正在興起的大規(guī)模網(wǎng)格計(jì)算中的重要計(jì)算資源。從當(dāng)前的高性能計(jì)算機(jī)TOP500排行榜可以看到,機(jī)群上榜率正在大幅增加(表1)。集群是多臺(tái)SMP服務(wù)器或PC服務(wù)器,通過(guò)高速網(wǎng)絡(luò)互聯(lián),每一臺(tái)機(jī)器作為一個(gè)單獨(dú)的結(jié)點(diǎn),除滿足要獨(dú)立使用每個(gè)結(jié)點(diǎn)的協(xié)定任務(wù)之外,所有結(jié)點(diǎn)如同一個(gè)整體一起協(xié)同工作。集群體系結(jié)構(gòu)有著良好的可擴(kuò)展性、易用性、可用性、性能成本比:(1)可擴(kuò)展性———集群是松偶合結(jié)構(gòu),從理論上講,計(jì)算能力隨結(jié)點(diǎn)的增加而增加;(2)易用性———集群的每一個(gè)結(jié)點(diǎn)都是傳統(tǒng)的平臺(tái),用戶可以在熟悉和成熟的環(huán)境中開發(fā)和運(yùn)行他們開發(fā)的應(yīng)用程序;(3)可用性———集群有多個(gè)存儲(chǔ)器和處理器,單個(gè)的部件失效不會(huì)導(dǎo)致整個(gè)系統(tǒng)的崩潰。集群有多個(gè)系統(tǒng)映像,單個(gè)的系統(tǒng)映像的損壞也不會(huì)導(dǎo)致整個(gè)系統(tǒng)的崩潰。系統(tǒng)使用商品化部件,容易更換,而且可使用開放性的技術(shù)如RAID提高系統(tǒng)可用性;(4)性能成本比———傳統(tǒng)的PVP超級(jí)計(jì)算機(jī)和MPP服務(wù)器由于其結(jié)構(gòu)的特殊性,成本往往會(huì)很高,而相同理論峰值運(yùn)算能力的集群價(jià)格則要低1-2個(gè)數(shù)量級(jí),特別是PC集群,由于大量采用工業(yè)標(biāo)準(zhǔn)部件,其成本更低?？紤]到充分利用現(xiàn)有資源,根據(jù)我們的總體目標(biāo)及目前的技縮發(fā)展趨勢(shì),結(jié)合學(xué)校各學(xué)科的需求,我們決定在第一期采用含支持64位計(jì)算的處理器的PC服務(wù)器集群構(gòu)建我校的高性能計(jì)算環(huán)境,理論浮點(diǎn)運(yùn)算峰值不低于3000億次。經(jīng)過(guò)招標(biāo),我們采購(gòu)了曙光公司的曙光4000L集群。該集群包括3個(gè)機(jī)柜、62個(gè)計(jì)算結(jié)點(diǎn)、1個(gè)管理結(jié)點(diǎn)、1個(gè)訪問(wèn)結(jié)點(diǎn)、1個(gè)存儲(chǔ)結(jié)點(diǎn)。每個(gè)計(jì)算結(jié)點(diǎn)為配備2路支持64位的Intel至強(qiáng)2.8