怎么為數(shù)據(jù)中心CPU“減負(fù)”

如今CPU承擔(dān)的任務(wù)越來越重，那么如何為CPU“減負(fù)”呢？幾年前，GPU的出現(xiàn)很好地彌補(bǔ)CPU在圖形處理能力方面的短板。而隨著大數(shù)據(jù)時代的到來，越來越多的數(shù)據(jù)需要在傳統(tǒng)IT架構(gòu)中傳輸、處理，突發(fā)的峰值讓CPU面臨越來越大的負(fù)荷。針對這一挑戰(zhàn)，DPU應(yīng)運(yùn)而生。人們把所有的網(wǎng)絡(luò)和存儲的I/O功能從CPU上卸載到了DPU上，這樣就能夠讓帶寬得到充分利用，而且能夠讓CPU專注于處理相應(yīng)的工作負(fù)載，而不是來處理數(shù)據(jù)的進(jìn)進(jìn)出出。數(shù)據(jù)流量越大越需要DPU。通過可編程的多核處理器和加速引擎、高性能網(wǎng)絡(luò)接口以及軟件棧的支持，DPU實(shí)現(xiàn)了傳統(tǒng)計算與數(shù)據(jù)交互的分離，也更符合未來安全、高效、云原生的大規(guī)模計算應(yīng)用時代。最先部署DPU的是國內(nèi)云服務(wù)商，包括BAT、京東、頭條等公司，在數(shù)字中國萬里行考察中Ucloud烏蘭察布數(shù)據(jù)中心時提到，UCloud裸金屬服務(wù)器就采用NVIDIABlueField

DPU滿足客戶高帶寬、低時延的網(wǎng)絡(luò)需求。而現(xiàn)在，隨著NVIDIABlueField-3DPU的誕生，以及英偉達(dá)在生態(tài)環(huán)境，軟件和相關(guān)解決方案方面的持續(xù)耕耘，未來將會被更多的企業(yè)應(yīng)用。近日，英偉達(dá)與VMware聯(lián)合迎來技術(shù)新突破，VMwarevSphere分布式服務(wù)引擎（VMwareProjectMonterey），它與NVIDIABlueFieldDPU緊密集成，為數(shù)據(jù)中心、云和邊緣提供演進(jìn)的架構(gòu)方法，它解決了下一代、云原生工作負(fù)載不斷變化的需求。▉ProjectMonterey將效率、部署、安全融為一體在近日的VMwareExplore大會上，NVIDIA、VMware和戴爾聯(lián)合發(fā)布ProjectMonterey平臺。NVIDIA網(wǎng)絡(luò)技術(shù)專家崔巖介紹：“該平臺方案將VMwarevSphere8與NVIDIABlueFieldDPU進(jìn)行結(jié)合，并運(yùn)行在戴爾PowerEdge服務(wù)器或VxRail一體機(jī)上，這樣可以把vSphere8的一些功能，卸載、加速和隔離到NVIDIABlueFieldDPU，從而釋放CPU的計算資源。”ProjectMonterey緣起2020年，當(dāng)時這項計劃旨在打破裸機(jī)、內(nèi)部部署和云基礎(chǔ)設(shè)施之間的界限，推出一種用于部署和保護(hù)數(shù)據(jù)中心資源的全新方法。如今，ProjectMonterey終于進(jìn)入到應(yīng)用階段，此次ProjectMonterey與NVIDIA和戴爾科技推出的專為人工智能(AI)時代設(shè)計的全新數(shù)據(jù)中心解決方案，為未來的AI和現(xiàn)代應(yīng)用程序工作負(fù)載重新構(gòu)建一個現(xiàn)代的數(shù)據(jù)中心。通過上圖我們可以更清楚地看出，在傳統(tǒng)的數(shù)據(jù)中心中，CPU需要承擔(dān)基礎(chǔ)設(shè)施管理、軟件定義安全、軟件定義存儲、軟件定義網(wǎng)絡(luò)四個方面的工作，所以這就需要CPU分出相應(yīng)的資源來放到操作系統(tǒng)上。當(dāng)采用了NVIDIABlueFieldDPU之后，CPU可以零介入基礎(chǔ)設(shè)施的部分，上述講的四大功能就卸載到了DPU。DPU和vSphere配合就可以完成之前需要CPU承擔(dān)的四部分工作。這樣CPU資源會更好的支撐整個企業(yè)業(yè)務(wù)應(yīng)用，從而有更多支持虛機(jī)和容器的能力，這就是NVIDIABlueFieldDPU在數(shù)據(jù)中心的重要價值。不僅如此，由于NVIDIABlueFieldDPU的介入會在主機(jī)CPU和DPU之間形成一個隔離層，從而保障了主機(jī)內(nèi)部的安全性。如果有主機(jī)上層被應(yīng)用程序進(jìn)行黑客攻擊，它也不會通過隔離層，不會通過DPU攻擊到其他的服務(wù)器，從而提升了整個數(shù)據(jù)中心的安全性?？梢哉f，通過ProjectMonterey這個軟硬協(xié)同的解決方案，NVIDIABlueFieldDPU可以大幅提高CPU的工作負(fù)載性能。通過將工作負(fù)載卸載到DPU，客戶可以加速網(wǎng)絡(luò)和安全服務(wù)，并節(jié)省CPU周期，同時保持性能，滿足現(xiàn)代分布式工作負(fù)載的吞吐量和延遲要求。這一組合提高了性能與效率、簡化了運(yùn)營并增強(qiáng)了數(shù)據(jù)中心、邊緣、云和混合環(huán)境的基礎(chǔ)設(shè)施安全。如今，NVIDIA還啟動了NVIDIALaunchPad計劃，這是一項動手實(shí)驗(yàn)室計劃，可以為AI、數(shù)據(jù)科學(xué)等領(lǐng)域的端到端工作流提供實(shí)時軟硬件權(quán)限。企業(yè)可在NVIDIALaunchPad申請試用，可以親自動手操作，看看vSphere8如何在NVIDIABlueFieldDPU上運(yùn)行，能夠帶來什么樣的體驗(yàn)？有興趣的可以點(diǎn)擊“閱讀原文”鏈接訪問。▉探索更多DPU應(yīng)用場景黑客松競賽繼續(xù)舉辦如果光有硬件，沒有軟件，那么DPU就失去了“靈魂”。為此，在2021年GTC春季大會上，NVIDIA發(fā)布了最早的DOCA1.0軟件棧，如今已經(jīng)更新到1.4版本。DOCA主要的目的是為開發(fā)者打造一個全面的、開放的開發(fā)平臺，支持廣大開發(fā)者可以在NVIDIABlueFieldDPU上進(jìn)行簡單、靈活的軟件開發(fā)，讓開發(fā)者可以快速地創(chuàng)建NVIDIABlueFieldDPU加速的、高性能的應(yīng)用程序和服務(wù)，如深度數(shù)據(jù)包檢測和負(fù)載均衡等等。隨著每代DPU的演進(jìn)，原先使用DOCA開發(fā)的應(yīng)用程序都可以完全向后兼容，且DPU路線圖上的后續(xù)產(chǎn)品依然保證完全向前兼容。為了鼓勵更多開發(fā)者參與到DPU相關(guān)動手實(shí)踐開發(fā)技能，激發(fā)學(xué)習(xí)興趣與創(chuàng)新能力，在今年4月份，NVIDIA成功舉辦了第一屆DPU中國虛擬黑客松（Hackathon）競賽，當(dāng)時有69支隊伍注冊報名參賽，在賽前舉辦的訓(xùn)練營吸引了2500多人在線觀看，取得了非常不錯的效果。NVIDIADPU中國黑客松最大的價值就是讓開發(fā)者有機(jī)會深入了解NVIDIABlueFieldDPU和NVIDIADOCA軟件框架，并構(gòu)建創(chuàng)新的加速應(yīng)用程序，實(shí)現(xiàn)NVIDIABlueFieldDPU在人工智能、網(wǎng)絡(luò)、存儲和安全方面的獨(dú)特功能，驅(qū)動NVIDIABlueFieldDPU在各行業(yè)應(yīng)用場景中的廣泛應(yīng)用。為此，NVIDIA將于2022年10月22日至23日發(fā)起并主辦2022秋季DPU中國虛擬黑客松競賽。據(jù)NVIDIA網(wǎng)絡(luò)市場總監(jiān)孟慶介紹：“與上次競賽的一個不同是本次競賽將聚焦一個題目。2022秋季NVIDIADPU中國黑客松以RDMA技術(shù)為核心題目，基于InfiniBand網(wǎng)絡(luò)來實(shí)現(xiàn)對存儲和人工智能應(yīng)用的加速，同時將這種低延遲、高帶寬的IO能力聚焦到一些行業(yè)應(yīng)用場景中，比如金融的高頻交易等，這是秋季大賽的命題?！伴_發(fā)者可以在經(jīng)驗(yàn)豐富的DPU及DOCA導(dǎo)師的指導(dǎo)下，圍繞“使用NVIDIABlueFieldDPU和NVIDIADOCA實(shí)現(xiàn)RDMA加速的存儲與AI解決方案”的競賽題目進(jìn)行開發(fā)，展示DPU強(qiáng)大的計算加速能力，以及完整的片上數(shù)據(jù)中心基礎(chǔ)設(shè)施的可編程性及卓越的低延時網(wǎng)絡(luò)性能。和上一屆的安排一樣，在競賽正式舉辦前，NVIDIA還將為開發(fā)者帶來DPU中國黑客松訓(xùn)練營，幫助開發(fā)者熟悉DOCA軟件開發(fā)套件和應(yīng)用實(shí)例。訓(xùn)練營將涵蓋對軟件定義、硬件加速的數(shù)據(jù)中心基礎(chǔ)設(shè)施解決方案的介紹，同時還將分享前沿的DPU技術(shù)應(yīng)用前景及最新的基于DOCA軟件開發(fā)框架的開發(fā)實(shí)戰(zhàn)知識，并對參加DPU中國黑客松競賽的團(tuán)隊進(jìn)行指導(dǎo)。此次比賽的評委會有5位中國評委，從基礎(chǔ)架構(gòu)、軟件開發(fā)、行業(yè)應(yīng)用角度來評估這些開發(fā)團(tuán)隊所做的項目和呈現(xiàn)的結(jié)果。整個結(jié)果最后會提交給2位國際評委，他們會從訓(xùn)練營參與度、項目完成度、項目創(chuàng)新價值及題目匹配度等五個方面對項目進(jìn)行評分，最后是現(xiàn)場演示的效果。▉結(jié)語未來，NVIDIA將繼續(xù)為DOCA中國開發(fā)者提供在線實(shí)踐的DOCA開發(fā)環(huán)境，構(gòu)建和拓展DPU和DOCA生態(tài)體系。借助DOCA軟件框架，開發(fā)者能夠加快應(yīng)用程序和服務(wù)的上市時間，并基于NVIDIABlueFieldDPU服務(wù)場景發(fā)揮關(guān)鍵的作用，釋放出DPU的巨大潛力。相信，通過NVIDIA的努力，