科技云報道原創(chuàng)。

有人說它叫DPU（dataprocessing units），也有人說它叫IPU（infrastructureprocessing units），我們不妨用“數(shù)據(jù)基礎(chǔ)設(shè)施”一詞來一個和稀泥式的命名，因為它的出現(xiàn)本就是數(shù)據(jù)基礎(chǔ)設(shè)施領(lǐng)域近年來的一大創(chuàng)新。

為了方便起見，本文還是把它叫做DPU。

經(jīng)典的傳統(tǒng)服務(wù)器架構(gòu)中，CPU在處理各種業(yè)務(wù)工作負(fù)載的同時，還要負(fù)責(zé)包括網(wǎng)絡(luò)、存儲、安全以及虛擬化軟件等非業(yè)務(wù)型工作負(fù)載，由于CPU需要承擔(dān)很多非工作型負(fù)載，導(dǎo)致可用于運行業(yè)務(wù)負(fù)載的空間大大壓縮，DPU的出現(xiàn)就是為了緩解這一問題。

DPU與SmartNIC智能網(wǎng)卡有千絲萬縷的關(guān)系，有人說DPU就是SmartNIC的加強版，在一些語境下兩者就是一回事兒，在下文講出具體的區(qū)別之前，我們談兩者的共同點，那就是，都能用卸載來減少CPU資源消耗，從而提升服務(wù)器乃至數(shù)據(jù)中心的運行效率。

英偉達的黃仁勛曾表示，在虛擬化和微服務(wù)等技術(shù)的推動下，數(shù)據(jù)中心CPU要處理的任務(wù)越來越多，在每年出貨的大約3000萬臺服務(wù)器中，有三分之一用來運行數(shù)據(jù)中心的軟件定義的網(wǎng)絡(luò)堆棧，他認(rèn)為必須將這部分工作負(fù)載卸載掉。

來自谷歌和Facebook的研究也表明，CPU周期里有22%到80%都用來處理各種微服務(wù)工作負(fù)載。

我們可以粗暴地認(rèn)為，如果能把這些工作負(fù)載交給別人來做，數(shù)據(jù)中心在CPU資源方面的投入，可以省下22%到80%。

許多研究數(shù)字表明，卸載的效果將非常誘人，然而，這場關(guān)于卸載的創(chuàng)新與變革，歷經(jīng)近二十年時間才完成。

虛擬化技術(shù)的創(chuàng)新，將CPU卸載進行到底

1998年的VMware x86虛擬化完全由軟件獨立完成，由于缺少硬件支持，全靠軟件模擬，其性能損耗堪稱災(zāi)難，以至于沒多少人能看出這有什么用。

2005年以來，Intel VT-x和AMD-V技術(shù)的出現(xiàn)，解決了CPU和內(nèi)存的硬件虛擬化問題，從而提升了整個虛擬化系統(tǒng)的性能，越來越多的人開始注意到虛擬化技術(shù)的價值。

隨著PCIe SR-IOV以及IntelVT-d等技術(shù)的興起，I/O硬件虛擬化，包括網(wǎng)絡(luò)和存儲的硬件虛擬化方面都取得重大進步，在性能和靈活性上都有極大提升。

從純軟件模擬的原始虛擬化階段，到后來的半虛擬化階段，虛擬化技術(shù)越來越多地利用硬件本身的能力，系統(tǒng)的性能和運行的效率也隨之提升。

下圖是技術(shù)大神Brendan Gregg匯總的亞馬遜云（AWS） EC2虛擬化技術(shù)變遷的歷史，同樣也記錄了整個虛擬化技術(shù)的發(fā)展歷程。

發(fā)展歷程中，值得劃重點的歷史時刻是2017年。

這一年，亞馬遜云發(fā)布Nitro系統(tǒng)，同年，阿里云也宣布有類似功能的神龍架構(gòu)。

回看過去，我們可以將這一年稱之為DPU元年，直到三年后英偉達將其命名為DPU之后，才有了一個統(tǒng)一的叫法。

亞馬遜云的Nitro系統(tǒng)有專有的硬件，不僅完成了I/O的硬件虛擬化，更重要的是，它還將虛擬化管理程序Hypervisior從原來的CPU卸載到了專用硬件上，于是，虛擬化技術(shù)的性能損耗趨近于零，CPU的能力幾乎完全用來運行業(yè)務(wù)負(fù)載。

從使用的角度看，亞馬遜云Nitro不僅為云主機帶來了虛擬化技術(shù)的靈活性，還帶來了近似裸金屬的性能，魚和熊掌兼得。

從經(jīng)濟的角度看，當(dāng)寶貴的CPU資源能被充分利用，同樣的成本可以得到更多性能，整個工業(yè)界為之震撼。

從虛擬化技術(shù)的角度看，虛擬化技術(shù)的性能損耗問題，因為有了專有硬件的卸載而取得了巨大進步，同時，也意味著cpu的卸載也進入了新階段。

DPU燃起來的三把火

雖然，此前也有過一些把存儲和網(wǎng)絡(luò)以及安全等能力卸載到專用硬件上的做法，但直到2020年英偉達發(fā)布BlueField-2并將其命名為DPU之后，DPU一詞才真正走進了大眾視野。

盡管有爭議，但DPU的名字能叫起來說明還是有些道理的，那么，到底什么是DPU？DPU的命名者英偉達是怎么區(qū)別SmartNIC和DPU的呢？

上圖可見，英偉達認(rèn)為基于SoC的智能網(wǎng)卡就是DPU，DPU是功能最強大的SmartNIC，DPU新增了虛擬化，網(wǎng)絡(luò)功能虛擬化（NFV），安全，存儲等功能，這種說法也基本符合我們看到的趨勢。

維基百科上解釋，DPU通常包含做通用計算的CPU、NIC網(wǎng)卡和可編程數(shù)據(jù)加速引擎，使得DPU同時具有通用計算能力和可編程性，而且，在網(wǎng)絡(luò)數(shù)據(jù)包、存儲IO處理方面的效率都非常高。

所以，我們可以認(rèn)為，做網(wǎng)絡(luò)、安全、存儲以及虛擬化的專用系統(tǒng)都算是DPU。

DPU話題熱度非常高，DPU被稱作是CPU、GPU之后的第三個主力芯片，市場空間不難想象的大，國內(nèi)市場上芯啟源、中科馭數(shù)、星云智聯(lián)、云豹智能都受到了很高的關(guān)注，包括資本市場的青睞。

DPU之所這么火，說起來有不止三把火的助攻。

2020年英偉達BlueField-2的發(fā)布點燃了DPU的第一把火。

上圖是英偉達對DPU加速卡的介紹

BlueField-2集成了Mellanox的網(wǎng)卡和ARM處理器，可以將包括Hypervisor、網(wǎng)絡(luò)、安全以及存儲方面的工作負(fù)載從CPU遷移到DPU上。

英特爾對IPU定位的描述

英特爾的入局則是點燃了第二把火。

2021年，英特爾發(fā)布了2個IPU卡和一個代號為MountEvans的IPU SoC，IPU卡基于FPGA和低功耗至強，Mount Evans則是基于ASIC和ARM核心，總之都是打破原來由CPU扛下所有的模式，將一部分工作負(fù)載交給了專有的設(shè)備（未來支持Hypervisior卸載）。

Pensando的Distributed Services Card

2022年，AMD的入局算是點燃了第三把火。

這是AMD收購Pensando是DPU領(lǐng)域的又一大事件，Pensando的思路與前者沒有太大區(qū)別，也做網(wǎng)絡(luò)、存儲以及虛擬化的卸載，它用的也是ARM處理器，網(wǎng)絡(luò)部分是強項，它帶有一個P4可編程pipeline引擎。

Marvell的DPU平臺的基本架構(gòu)

除了英偉達、英特爾、AMD三家巨頭的三把火，還能看見，Marvell也有基于ARM的Octeon10，F(xiàn)ungibled有基于MIPS架構(gòu)的F1，Broadcom也有基于ARM的Stingray，做的事情大體上一樣，局部有不同的側(cè)重點，可以粗暴地認(rèn)為，都是在搶戰(zhàn)DPU市場。

另外，DPU的背后還有2個不可忽略的大佬。

第一個是ARM，不難發(fā)現(xiàn)，多個DPU方案都用到了ARM核心，ARM在數(shù)據(jù)中心市場的門口輾轉(zhuǎn)了好些年，終于被DPU以一種更容易接受的方式，正式抬進了數(shù)據(jù)中心的大門。

另外一個是VMware，VMware的Project Montery支持讓ESXi Hypervisior軟件運行在除CPU以外的更多設(shè)備上，幫DPU卸載Hypervisior，已有多家DPU廠商參與了Project Montery。

DPU會任由幾家大廠吃獨食嗎？

可以肯定的是，DPU絕對不會像通用計算CPU那么聚集，也絕對比GPU市場更加多元化，從構(gòu)成上來看，就分為基于ASIC的和基于FPGA的兩大類，ASIC和FPGA兩者已經(jīng)共存多年，可見的未來兩者必將長期存在。

從功能上來看，除了卸載存儲、網(wǎng)絡(luò)、安全以及虛擬化以外，還有許多方案提供用于機器學(xué)習(xí)等加速功能，也就是說，做網(wǎng)卡和智能網(wǎng)卡的廠商，以及許多做機器學(xué)習(xí)加速芯片的廠商都可能以各種形式參與到DPU的混戰(zhàn)中。

但最終想取得成功，得看用戶需求，DPU興起于亞馬遜云等大型公有云服務(wù)商，目前最大的用戶群體仍然是大型互聯(lián)網(wǎng)公司、大型公有云服務(wù)商以及大型電信運營商。

大型公有云都多少有自己的DPU，比如亞馬遜云有自己的Nitro系統(tǒng)，阿里云有自己的神龍架構(gòu)，此外，華為云、騰訊云也都有一些功能相對少一些的智能網(wǎng)卡。

谷歌與英特爾合作推出了Mount Evans，微軟的Catapult v3用的其實是英特爾的FPGA。

UCloud和國內(nèi)另外一個規(guī)模較小的公有云服務(wù)商也使用了英偉達的DPU方案，百度同時使用了英偉達和英特爾的DPU方案。

云服務(wù)商對技術(shù)很開放，完全不介意幾種方案并存，未來市場上，如果有誰宣布采用了多種DPU解決方案將非常正常，因為云廠商相互間內(nèi)卷得非常厲害。

比如，云廠商的云主機類型就非常多樣，很多公有云主機同時使用英特爾、AMD的x86和ARM處理器，按照不同場景又分為不同的類型，比如內(nèi)存優(yōu)化型、計算優(yōu)化型和網(wǎng)絡(luò)優(yōu)化型等，分門別類多種多樣。

有不同側(cè)重的DPU將幫助云服務(wù)商提供更豐富多樣的云主機。

比較典型的是亞馬遜云，亞馬遜的Nitro卡插在服務(wù)器上就能很快讓服務(wù)器變成云主機，Nitro卡成了亞馬遜云實例類型豐富的重要推動力。

多樣化的云主機類型將幫助云服務(wù)商構(gòu)建差異化的服務(wù)，免于在同質(zhì)化的競爭中遭受價格戰(zhàn)，從這一角度看，無疑是有利于云行業(yè)發(fā)展的。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。