有人說它叫DPU(dataprocessing units)，也有人說它叫IPU(infrastructureprocessing units)，我們不妨用“數據基礎設施”一詞來一個和稀泥式的命名，因為它的出現本就是數據基礎設施領域近年來的一大創新。

為了方便起見，本文還是把它叫做DPU。

經典的傳統服務器架構中，CPU在處理各種業務工作負載的同時，還要負責包括網絡、存儲、安全以及虛擬化軟件等非業務型工作負載，由于CPU需要承擔很多非工作型負載，導致可用于運行業務負載的空間大大壓縮，DPU的出現就是為了緩解這一問題。

DPU與SmartNIC智能網卡有千絲萬縷的關系，有人說DPU就是SmartNIC的加強版，在一些語境下兩者就是一回事兒，在下文講出具體的區別之前，我們談兩者的共同點，那就是，都能用卸載來減少CPU資源消耗，從而提升服務器乃至數據中心的運行效率。

英偉達的黃仁勛曾表示，在虛擬化和微服務等技術的推動下，數據中心CPU要處理的任務越來越多，在每年出貨的大約3000萬臺服務器中，有三分之一用來運行數據中心的軟件定義的網絡堆棧，他認為必須將這部分工作負載卸載掉。

來自谷歌和Facebook的研究也表明，CPU周期里有22%到80%都用來處理各種微服務工作負載。

我們可以粗暴地認為，如果能把這些工作負載交給別人來做，數據中心在CPU資源方面的投入，可以省下22%到80%。

許多研究數字表明，卸載的效果將非常誘人，然而，這場關于卸載的創新與變革，歷經近二十年時間才完成。

01虛擬化技術的創新，將CPU卸載進行到底

1998年的VMware x86虛擬化完全由軟件獨立完成，由于缺少硬件支持，全靠軟件模擬，其性能損耗堪稱災難，以至于沒多少人能看出這有什么用。

2005年以來，Intel VT-x和AMD-V技術的出現，解決了CPU和內存的硬件虛擬化問題，從而提升了整個虛擬化系統的性能，越來越多的人開始注意到虛擬化技術的價值。

隨著PCIe SR-IOV以及IntelVT-d等技術的興起，I/O硬件虛擬化，包括網絡和存儲的硬件虛擬化方面都取得重大進步，在性能和靈活性上都有極大提升。

從純軟件模擬的原始虛擬化階段，到后來的半虛擬化階段，虛擬化技術越來越多地利用硬件本身的能力，系統的性能和運行的效率也隨之提升。

下圖是技術大神Brendan Gregg匯總的亞馬遜云(AWS) EC2虛擬化技術變遷的歷史，同樣也記錄了整個虛擬化技術的發展歷程。

發展歷程中，值得劃重點的歷史時刻是2017年。

這一年，亞馬遜云發布Nitro系統，同年，阿里云也宣布有類似功能的神龍架構。

回看過去，我們可以將這一年稱之為DPU元年，直到三年后英偉達將其命名為DPU之后，才有了一個統一的叫法。

亞馬遜云的Nitro系統有專有的硬件，不僅完成了I/O的硬件虛擬化，更重要的是，它還將虛擬化管理程序Hypervisior從原來的CPU卸載到了專用硬件上，于是，虛擬化技術的性能損耗趨近于零，CPU的能力幾乎完全用來運行業務負載。

從使用的角度看，亞馬遜云Nitro不僅為云主機帶來了虛擬化技術的靈活性，還帶來了近似裸金屬的性能，魚和熊掌兼得。

從經濟的角度看，當寶貴的CPU資源能被充分利用，同樣的成本可以得到更多性能，整個工業界為之震撼。

從虛擬化技術的角度看，虛擬化技術的性能損耗問題，因為有了專有硬件的卸載而取得了巨大進步，同時，也意味著cpu的卸載也進入了新階段。

02DPU燃起來的三把火

雖然，此前也有過一些把存儲和網絡以及安全等能力卸載到專用硬件上的做法，但直到2020年英偉達發布BlueField-2并將其命名為DPU之后，DPU一詞才真正走進了大眾視野。

盡管有爭議，但DPU的名字能叫起來說明還是有些道理的，那么，到底什么是DPU?DPU的命名者英偉達是怎么區別SmartNIC和DPU的呢?

上圖可見，英偉達認為基于SoC的智能網卡就是DPU，DPU是功能最強大的SmartNIC，DPU新增了虛擬化，網絡功能虛擬化(NFV)，安全，存儲等功能，這種說法也基本符合我們看到的趨勢。

維基百科上解釋，DPU通常包含做通用計算的CPU、NIC網卡和可編程數據加速引擎，使得DPU同時具有通用計算能力和可編程性，而且，在網絡數據包、存儲IO處理方面的效率都非常高。

所以，我們可以認為，做網絡、安全、存儲以及虛擬化的專用系統都算是DPU。

DPU話題熱度非常高，DPU被稱作是CPU、GPU之后的第三個主力芯片，市場空間不難想象的大，國內市場上芯啟源、中科馭數、星云智聯、云豹智能都受到了很高的關注，包括資本市場的青睞。

DPU之所這么火，說起來有不止三把火的助攻。

2020年英偉達BlueField-2的發布點燃了DPU的第一把火。

上圖是英偉達對DPU加速卡的介紹

BlueField-2集成了Mellanox的網卡和ARM處理器，可以將包括Hypervisor、網絡、安全以及存儲方面的工作負載從CPU遷移到DPU上。

英特爾對IPU定位的描述

英特爾的入局則是點燃了第二把火。

2021年，英特爾發布了2個IPU卡和一個代號為MountEvans的IPU SoC，IPU卡基于FPGA和低功耗至強，Mount Evans則是基于ASIC和ARM核心，總之都是打破原來由CPU扛下所有的模式，將一部分工作負載交給了專有的設備(未來支持Hypervisior卸載)。

2022年，AMD的入局算是點燃了第三把火。

這是AMD收購Pensando是DPU領域的又一大事件，Pensando的思路與前者沒有太大區別，也做網絡、存儲以及虛擬化的卸載，它用的也是ARM處理器，網絡部分是強項，它帶有一個P4可編程pipeline引擎。

除了英偉達、英特爾、AMD三家巨頭的三把火，還能看見，Marvell也有基于ARM的Octeon10，Fungibled有基于MIPS架構的F1，Broadcom也有基于ARM的Stingray，做的事情大體上一樣，局部有不同的側重點，可以粗暴地認為，都是在搶戰DPU市場。另外，DPU的背后還有2個不可忽略的大佬。

第一個是ARM，不難發現，多個DPU方案都用到了ARM核心，ARM在數據中心市場的門口輾轉了好些年，終于被DPU以一種更容易接受的方式，正式抬進了數據中心的大門。

另外一個是VMware，VMware的Project Montery支持讓ESXi Hypervisior軟件運行在除CPU以外的更多設備上，幫DPU卸載Hypervisior，已有多家DPU廠商參與了Project Montery。

03DPU會任由幾家大廠吃獨食嗎?

可以肯定的是，DPU絕對不會像通用計算CPU那么聚集，也絕對比GPU市場更加多元化，從構成上來看，就分為基于ASIC的和基于FPGA的兩大類，ASIC和FPGA兩者已經共存多年，可見的未來兩者必將長期存在。

從功能上來看，除了卸載存儲、網絡、安全以及虛擬化以外，還有許多方案提供用于機器學習等加速功能，也就是說，做網卡和智能網卡的廠商，以及許多做機器學習加速芯片的廠商都可能以各種形式參與到DPU的混戰中。

但最終想取得成功，得看用戶需求，DPU興起于亞馬遜云等大型公有云服務商，目前最大的用戶群體仍然是大型互聯網公司、大型公有云服務商以及大型電信運營商。

大型公有云都多少有自己的DPU，比如亞馬遜云有自己的Nitro系統，阿里云有自己的神龍架構，此外，華為云、騰訊云也都有一些功能相對少一些的智能網卡。

谷歌與英特爾合作推出了Mount Evans，微軟的Catapult v3用的其實是英特爾的FPGA。

UCloud和國內另外一個規模較小的公有云服務商也使用了英偉達的DPU方案，百度同時使用了英偉達和英特爾的DPU方案。

云服務商對技術很開放，完全不介意幾種方案并存，未來市場上，如果有誰宣布采用了多種DPU解決方案將非常正常，因為云廠商相互間內卷得非常厲害。

比如，云廠商的云主機類型就非常多樣，很多公有云主機同時使用英特爾、AMD的x86和ARM處理器，按照不同場景又分為不同的類型，比如內存優化型、計算優化型和網絡優化型等，分門別類多種多樣。

有不同側重的DPU將幫助云服務商提供更豐富多樣的云主機。

比較典型的是亞馬遜云，亞馬遜的Nitro卡插在服務器上就能很快讓服務器變成云主機，Nitro卡成了亞馬遜云實例類型豐富的重要推動力。

多樣化的云主機類型將幫助云服務商構建差異化的服務，免于在同質化的競爭中遭受價格戰，從這一角度看，無疑是有利于云行業發展的。