AI、5G、云計(jì)算技術(shù)的發(fā)展已經(jīng)開(kāi)始改變世界，數(shù)據(jù)中心作為承載這些技術(shù)，支撐數(shù)字化轉(zhuǎn)型的重要載體，面臨著眾多挑戰(zhàn)。這其中，已有的通用CPU和GPU不能完全滿(mǎn)足快速變化的應(yīng)用需求，性能更強(qiáng)大，更加專(zhuān)用，更加異構(gòu)的芯片更能滿(mǎn)足數(shù)據(jù)中心需求。

芯片巨頭們都看到了這樣的需求和趨勢(shì)，通過(guò)收購(gòu)或者自研擁有了更全面的芯片類(lèi)型。雷鋒網(wǎng)此前介紹過(guò)，在數(shù)據(jù)中心占有優(yōu)勢(shì)的英偉達(dá)先是在去年十月發(fā)布了首代DPU BlueField-2。今年4月，英偉達(dá)首席執(zhí)行官黃仁勛在GTC 21上又宣布英偉達(dá)數(shù)據(jù)中心芯片戰(zhàn)略升級(jí)為GPU+CPU+DPU，三類(lèi)芯片，逐年飛躍，自研Arm架構(gòu)CPU Grace也同時(shí)亮相。

DPU（Data Processing Unit）作為一個(gè)不被大部分人所熟知的芯片類(lèi)型，其價(jià)值是什么？為什么DPU能在數(shù)據(jù)中心“上位”？數(shù)據(jù)中心的未來(lái)為什么是3U一體？

DPU的雙重價(jià)值

了解DPU的價(jià)值之前，先解釋為什么需要DPU。黃仁勛此前發(fā)布DPU時(shí)表示，當(dāng)下的數(shù)據(jù)中心是由軟件定義的，這使得數(shù)據(jù)中心更加靈活的同時(shí)，也產(chǎn)生了巨大的負(fù)擔(dān)，數(shù)據(jù)中心基礎(chǔ)架構(gòu)的運(yùn)行能夠消耗20%-30%的CPU核，因此需要一種新的處理器，也就是DPU。

或者說(shuō)，以CPU為中心的數(shù)據(jù)中心架構(gòu)已經(jīng)不能滿(mǎn)足需求，以數(shù)據(jù)為中心才能更好滿(mǎn)足市場(chǎng)和應(yīng)用需求。英偉達(dá)網(wǎng)絡(luò)事業(yè)部亞太區(qū)市場(chǎng)開(kāi)發(fā)高級(jí)總監(jiān)宋慶春在本周的一場(chǎng)溝通會(huì)中表示：“以前計(jì)算規(guī)模和數(shù)據(jù)量沒(méi)那么大，馮諾依曼架構(gòu)很好地解決了提高計(jì)算性能的問(wèn)題，隨著數(shù)據(jù)量越來(lái)越大，以及AI技術(shù)的發(fā)展，傳統(tǒng)的計(jì)算模型會(huì)造成網(wǎng)絡(luò)擁塞，繼續(xù)提升數(shù)據(jù)中心的性能面臨挑戰(zhàn)?！?/strong>

以數(shù)據(jù)為中心的架構(gòu)，意味著數(shù)據(jù)在哪計(jì)算就在哪。宋慶春指出，以數(shù)據(jù)為中心的新架構(gòu)可以解決網(wǎng)絡(luò)傳輸中的瓶頸問(wèn)題或丟包問(wèn)題，典型通信延時(shí)可以從30-40微秒降低到3-4秒，有10倍的性能提升。

更具體地說(shuō)，英偉達(dá)DPU屬于SoC，集三個(gè)關(guān)鍵要素于一身：

• 行業(yè)標(biāo)準(zhǔn)的、最高性能及軟件可編程的多核CPU，通?；趶V泛的Arm架構(gòu)，與其SoC組件密切配合；

• 高性能網(wǎng)絡(luò)接口，能以線速或網(wǎng)絡(luò)中的可用速度解析、處理數(shù)據(jù)，并高效地將數(shù)據(jù)傳輸?shù)紾PU和CPU。

• 各種靈活和可編程的加速引擎，可以卸載AI、機(jī)器學(xué)習(xí)、安全、電信和存儲(chǔ)等應(yīng)用，并提升性能。

也就是說(shuō)，DPU能針對(duì)安全、網(wǎng)絡(luò)、存儲(chǔ)、AI、HPC等業(yè)務(wù)進(jìn)行加速，這是DPU的第一層價(jià)值。而DPU的第二層價(jià)值在于為以數(shù)據(jù)為中心的計(jì)算架構(gòu)提供了創(chuàng)新的思路，能夠?qū)崿F(xiàn)以前難以或無(wú)法實(shí)現(xiàn)的功能。

以前的數(shù)據(jù)中心所有操作都由CPU完成，不僅需要很多CPU內(nèi)核，效率也很低。如果將一些操作，比如OVS（Open vSwitch，是分布式虛擬多層交換機(jī)的開(kāi)源實(shí)現(xiàn)）卸載到DPU上運(yùn)行，不僅可以提升效率，減少CPU的利用率，還能實(shí)現(xiàn)業(yè)務(wù)的隔離。

宋慶春舉了兩個(gè)例子，在云場(chǎng)景下，英偉達(dá)和VMWare共同開(kāi)發(fā)了Monterey項(xiàng)目，VMWare把它在Hypervisor里的一些功能卸載到DPU上，比如防火墻、存儲(chǔ)、管理等，這樣把業(yè)務(wù)和基礎(chǔ)設(shè)施操作完全隔離，實(shí)現(xiàn)了高安全性，也實(shí)現(xiàn)了裸金屬的業(yè)務(wù)性能。

“這是VMWare第一次把他的源代碼開(kāi)放給合作伙伴，共同開(kāi)發(fā)基于VMWare企業(yè)級(jí)的云解決方案。”宋慶春強(qiáng)調(diào)。

另一個(gè)例子是英偉達(dá)與RedHat的合作。RedHat不管在數(shù)據(jù)中心運(yùn)行容器還是虛擬化，即便使用所有的CPU核來(lái)運(yùn)行虛擬化或容器，也沒(méi)有辦法達(dá)到100G線速。這時(shí)，采用DPU運(yùn)行Hypervisor、OVS或容器操作，可以在不消耗任何CPU的情況下以實(shí)現(xiàn)100G甚至200G全線速，并將CPU資源全部提供給業(yè)務(wù)。

DPU能帶來(lái)多少提升？

“我們最開(kāi)始選擇DPU，是因?yàn)橛龅搅藗鹘y(tǒng)服務(wù)器帶寬瓶頸，我們想解決網(wǎng)絡(luò)性能瓶頸的問(wèn)題，也想降低成本?！盪Cloud技術(shù)專(zhuān)家馬彥青進(jìn)表示，“雙方最開(kāi)始都有相同的認(rèn)知，那就是DPU可以實(shí)現(xiàn)硬件的卸載，軟件和硬件的結(jié)合會(huì)成為未來(lái)的趨勢(shì)?！?/strong>

借助DPU和與之匹配的軟件棧DOCA，UCloud實(shí)現(xiàn)了一系列的數(shù)據(jù)中心性能提升。

馬彥青介紹，UCloud原先的網(wǎng)絡(luò)架構(gòu)使用的是VPC網(wǎng)關(guān)，作為裸金屬服務(wù)器之間的VPC之間劃分的方法，需要很多網(wǎng)關(guān)服務(wù)器集群來(lái)進(jìn)行管理，集群服務(wù)器本身就帶來(lái)了成本挑戰(zhàn)（大概4-8臺(tái)服務(wù)器是一個(gè)小集群），當(dāng)跨網(wǎng)關(guān)的時(shí)候會(huì)有帶寬瓶頸。有了DPU就可以將VPC管理集成到DPU內(nèi)部，包括OVS包轉(zhuǎn)發(fā)以及GRE封裝都可以通過(guò)DPU硬件實(shí)現(xiàn)，大幅提高轉(zhuǎn)發(fā)效率。原來(lái)10G的網(wǎng)卡升級(jí)到25G后，性能也大大提升。

這樣的改進(jìn)得到了客戶(hù)的認(rèn)可?！坝蠨PU的解決方案已經(jīng)在一些大數(shù)據(jù)、金融、數(shù)據(jù)庫(kù)、容器云等業(yè)務(wù)中使用，他們的反饋非常好。比如一家做大數(shù)據(jù)業(yè)務(wù)的公司，VPC集群砍掉后，進(jìn)行N對(duì)N數(shù)據(jù)計(jì)算，帶寬和性能都有提升，維護(hù)成本也降低了。還有一家金融客戶(hù)，采用原先的VPC架構(gòu)，需要為他們部署四臺(tái)服務(wù)器，這會(huì)造成資源浪費(fèi)，有了DPU，幾張卡就可以替代四臺(tái)服務(wù)器?！?/p>

數(shù)據(jù)中心的存儲(chǔ)也受益于DPU。過(guò)去，UCloud使用本地盤(pán)來(lái)存儲(chǔ)，缺點(diǎn)是容易出現(xiàn)壞盤(pán)或者掉卡，維護(hù)非常麻煩，數(shù)據(jù)丟失想要恢復(fù)也非常困難。在新架構(gòu)里，UCloud采用RSSD云盤(pán)作為后端存儲(chǔ)機(jī)群，核心是基于DPU的NVMe SNAP功能，實(shí)現(xiàn)了計(jì)算和存儲(chǔ)的解耦。解耦的優(yōu)勢(shì)包括用戶(hù)可以免裝機(jī)，實(shí)現(xiàn)分鐘級(jí)交付，運(yùn)維也減少了機(jī)型，磁盤(pán)可以按需使用，能夠快速實(shí)現(xiàn)故障遷移，三副本也更加安全可靠。

DPU還讓數(shù)據(jù)中心的安全性有顯著提升。據(jù)介紹，過(guò)去數(shù)據(jù)中心經(jīng)常使用CPU運(yùn)行Hyperscan做深度包檢測(cè)的政策表達(dá)式匹配?！敖柚鶥lueField-2，我們測(cè)試相比軟件的Hyperscan有3.5倍的加速?！瘪R彥青同時(shí)介紹，“加解密方面，DPU卡也可以對(duì)SSL、TLS進(jìn)行加解密。IPSec的算法也可以實(shí)現(xiàn)硬件的卸載，把CPU的算力釋放出來(lái)?！?/p>

UCloud的最終極的目標(biāo)，是實(shí)現(xiàn)一張卡實(shí)現(xiàn)虛擬化和裸金屬架構(gòu)的統(tǒng)一。他們還在基于InfiniBand網(wǎng)絡(luò)的DPU，探索如何加速AI和高性能計(jì)算。

DPU在數(shù)據(jù)中心上位的關(guān)鍵

數(shù)據(jù)中心和云服務(wù)提供商實(shí)現(xiàn)更多探索，發(fā)揮DPU價(jià)值的基礎(chǔ)是英偉達(dá)DPU硬件的持續(xù)提升，以及DOCA軟件棧的不斷完善。根據(jù)英偉達(dá)的路線圖，下一代DPU BlueField-4預(yù)計(jì)在2023年發(fā)布，將會(huì)是業(yè)界首個(gè)800G的DPU，也會(huì)集成GPU。

DOCA是專(zhuān)為DPU開(kāi)發(fā)的軟件包，就像CUDA對(duì)英偉達(dá)GPU的價(jià)值。DOCA通過(guò)軟件定義，可以調(diào)用DPU里的硬件引擎，實(shí)現(xiàn)安全、網(wǎng)絡(luò)、存儲(chǔ)等性能的提升。

DOCA的軟件棧一層是Driver和Runtime，主要進(jìn)行調(diào)度硬件加速引擎。一層是DOCA Library，主要是針對(duì)業(yè)務(wù)提供接口。還有DPU管理對(duì)接上層，比如做編排（Orchestration）和服務(wù)部署（Provisioning）的時(shí)候使用DPU管理進(jìn)行調(diào)用。

目前，DOCA 1.0正式版已經(jīng)發(fā)布。

“我認(rèn)為，云計(jì)算市場(chǎng)是DPU很好的突破點(diǎn)，能夠解決合作伙伴遇到的瓶頸問(wèn)題，讓他們能夠更加高效、安全、低時(shí)延的提供服務(wù)?！?strong> 宋慶春對(duì)雷鋒網(wǎng)表示，“云原生超級(jí)計(jì)算機(jī)也應(yīng)該會(huì)很快應(yīng)用到DPU市場(chǎng)。因?yàn)殡S著超級(jí)計(jì)算的發(fā)展、算力已經(jīng)變成了服務(wù)，如何提供一種安全的算力服務(wù)，DPU在這里面就會(huì)扮演非常的角色。最終，DPU也會(huì)在基礎(chǔ)設(shè)施、數(shù)據(jù)中心、通信等領(lǐng)域成為一個(gè)核心部件。

當(dāng)然，DPU的出現(xiàn)并非要替代CPU和GPU，而是更好地滿(mǎn)足數(shù)據(jù)中心市場(chǎng)的需求。“3U（CPU、GPU、DPU）一體的架構(gòu)將會(huì)讓管理程序、調(diào)度程序都會(huì)變得非常容易。3U一體是要實(shí)現(xiàn)從邊緣到核心數(shù)據(jù)中心，統(tǒng)一架構(gòu)、統(tǒng)一管理、統(tǒng)一調(diào)度?！?/p>

想要通過(guò)3U一體滿(mǎn)足數(shù)據(jù)中心等需求的不止英偉達(dá)，英特爾本周也發(fā)布了與DPU定位類(lèi)似的IPU（Infrastructure Processing Unit），趨勢(shì)已經(jīng)非常明顯，最終會(huì)帶來(lái)哪些變革？

注：文中配圖來(lái)自英偉達(dá)、UCloud 雷鋒網(wǎng)

相關(guān)文章：

英偉達(dá)DPU計(jì)算吞吐量三年將跨越近1000倍！Jetson AI機(jī)器人價(jià)格低至59美元

英偉達(dá)最終活成了“三芯”

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。