當前位置: 妍妍網 > 碼農

DPU技術的進步與未來創新

2024-05-29碼農

隨著雲端運算和虛擬化技術的發展,網卡在功能和硬體結構方面也經歷了四個階段,即網卡、智慧網卡、基於FPGA的DPU和DPU SoC網卡。本文將重點介紹這些不同型別的網路介面卡和處理器,在硬體、可編程能力、開發和套用方面的特點。

網卡的演進和套用

傳統的基本 網卡 ,也被稱為NIC或網路介面卡,在電腦網路中的作用至關重要。它的主要功能是將數據轉換為網路裝置之間高效傳輸所需的格式。隨著時間的推移,網卡的功能不斷擴充套件,除了融合額外功能,還具備基本的硬體解除安裝功能,例如CRC校驗、TSO/UF0、LSO/LR0以及VLAN支持等。它還支持SR-IOV以實作虛擬化和QoS以提升網路效能。在網路介面頻寬方面,它已經從100M和1000M的速率演進到支持更高速率的10G、25G甚至100G。

在雲端運算虛擬化網路中,傳統的基本網卡提供了三種主要方法來為虛擬機器提供網路存取。

1. 透過作業系統內核協定棧,網卡將傳入的流量轉發到虛擬機器。

2. DPDK使用者態驅動程式繞過內核協定棧,直接將封包復制到虛擬機器的記憶體中,以提高效能。

3. SR-IOV技術將物理網卡虛擬化為多個直接分配給虛擬機器的虛擬功能(VF)。

隨著VxLAN等隧道協定和虛擬交換技術等網路復雜性的增加,對CPU資源的需求也越來越高。智慧網卡透過從CPU中解除安裝網路處理任務,提升整體網路效能,從而應對這一挑戰。

智慧網卡的演進和套用

智慧網卡不僅提供傳統基本網卡中的網路傳輸功能,還融合數據平面硬體解除安裝功能,例如使用FPGA或整合處理器與FPGA和處理器核心的OVS/vRouter硬體解除安裝。這些智慧網卡提升雲端運算網路的轉發速率,並減輕主機CPU的計算資源負擔。

與傳統的網卡不同,智慧網卡不包含通用的CPU。相反,它們依賴主機CPU來管理控制平面。智慧網卡解除安裝加速的主要焦點是數據平面,涵蓋了諸如0VS/vRouter等虛擬交換機的快速路徑解除安裝、RDMA網路解除安裝、NVMe-oF儲存解除安裝和IPsec/TLS數據平面安全解除安裝等任務。

然而,隨著雲端運算套用中網路速度的不斷提高,主機CPU仍然需要大量的資源用於流量分類、跟蹤和控制。實作主機CPU的「零消耗」已成為雲服務提供商的下一個研究方向,旨在盡可能減少主機CPU參與這些任務。

基於FPGA的數據處理單元(DPU)的演進和套用

基於FPGA的數據處理單元(DPU)是一種智慧網卡,可以解除安裝數據並具有平面控制功能。它在控制平面和數據平面上都是部份可編程的。在硬體方面,它包括一個基於FPGA的通用CPU處理器,例如英特爾CPU。

與智慧網卡相比,基於FPGA的數據處理單元(DPU)透過整合通用CPU處理單元來增強硬體架構,形成了FPGA+CPU架構。這種配置有助於加速和解除安裝各種基礎設施元件,包括網路、儲存、安全和管理。目前,主流形式的DPU是FPGA+CPU配置,基於這種架構的DPU具有出色的軟體和硬體可編程性。

在DPU的早期開發階段,它提供了更短的開發時間和快速叠代,便於快速客製功能。這使得DPU制造商能夠快速推出產品並抓住市場機遇。然而,隨著網路頻寬從25G過渡到100G,基於FPGA+CPU的DPU架構由於芯片工藝和FPGA結構的限制遇到挑戰。這些限制使得在追求更高吞吐量的同時,有效控制芯片面積和功耗變得困難。因此,這種DPU架構的持續發展受到了阻礙。

DPU SoC網卡的演進和套用

與基於FPGA的架構不同,基於套用專用積體電路(ASIC)的DPU SoC將專用加速器的效能與通用處理器的可編程性相結合,解決了成本、功耗和功能等方面的問題。尤其是針對下一代100G伺服器,它們在成本、功耗、高吞吐量和靈活的編程能力方面具有優勢,DPU SoC可支持套用管理、虛擬機器、容器和裸金屬套用。

DPU技術正在不斷發展,通用可編程的DPU SoC現在對於雲服務提供商的數據中心建設至關重要。它們能夠高效地管理計算和網路資源,支持多樣化的雲端運算場景,並最佳化數據中心資源利用率。芯片巨頭和領先的雲服務提供商在DPU的研究、開發和利用方面進行了重大投資,透過持續的探索和實際實施取得了顯著的成本效益。

亞馬遜雲中的DPU

亞馬遜網路服務(AWS)是一家以Nitro DPU系統作為關鍵技術基礎的頂級雲端運算服務提供商。Nitro DPU系統可以高效地將網路、儲存、安全和監控功能解除安裝到專用的硬體和軟體上。這使得服務例項可以存取大部份的伺服器資源,從而大幅降低成本並增加年收入。Nitro DPU系統由多個元件組成:

1. Nitro卡:用於網路、儲存和控制的專用硬體,以提升整體系統效能。

2. Nitro安全芯片:將虛擬化和安全功能轉移到專用的硬體和軟體上,減小攻擊面,確保安全的雲平台。

3. Nitro虛擬化管理程式:一種輕量級的虛擬化管理程式,高效地管理記憶體和CPU分配,提供與裸金屬相當的效能。

透過提供關鍵的網路、安全、伺服器和監控功能,Nitro DPU系統可以釋放底層服務資源供客戶虛擬機器使用。它使得AWS可以提供更多的裸金屬例項型別,甚至能夠為特定例項實作高達 100Gbps 的網路效能。

輝達(NVIDIA)DPU

輝達(NVIDIA)是一家知名的半導體公司,以其在高效能計算領域的圖形處理單元(GPU)而聞名。該公司於2020年4月以69億美元收購了網路芯片和裝置公司邁絡思(Mellanox)。在收購之後,輝達(NVIDIA)推出了BlueField系列的DPU。

NVIDIA BlueField-3 DPU是專為加速計算而設計的,繼承了BlueField-2 DPU的先進功能。它提供高達 400G 的網路連線,並為軟體定義的網路、儲存、安全和管理功能提供解除安裝、加速和隔離能力。

英特爾(Intel)IPU

英特爾(Intel)IPU是一種配備了硬化加速器和乙太網路連線的先進網路裝置。它利用緊密耦合的專用可編程核心來加速和管理基礎設施功能。IPU實作基礎設施解除安裝,並充當執行基礎設施應用程式的主機控制點,提供了額外的安全層。將所有基礎設施服務從伺服器解除安裝到IPU中,釋放伺服器CPU資源,並為雲服務提供商提供了一個獨立且安全的控制點。

英特爾的路線圖包括Oak Springs Canyon和Mount Evans IPU產品。Oak Springs Canyon是基於FPGA的IPU產品,而Mount Evans IPU是基於ASIC的IPU產品。Oak Springs Canyon采用了英特爾的Agilex FPGA和Xeon-D CPU,而Mount Evans則由英特爾和谷歌共同設計,結合用於封包處理的ASIC和16個ARM Neoverse N1核心,具備強大的計算能力。

阿裏雲中的DPU

阿裏雲是DPU技術探索的前沿。在2022年的阿裏雲峰會上,他們釋出了基於神龍架構開發的雲基礎架構處理器CIPU。CIPU繼承了其前身MoC卡(卡上微伺服器)的功能和定位,與DPU的定義相吻合。MoC卡具有獨立的I/O、儲存和處理單元,並處理網路、儲存和裝置虛擬化任務。MoC卡經歷了四個發展階段:

  • 第一代和第二代MoC卡解決計算虛擬化的零開銷挑戰,透過軟體實作了網路和儲存虛擬化。

  • 第三代MoC卡引入了增強的網路轉發功能,顯著提高了網路效能。

  • 第四代MoC卡實作了網路和儲存操作的完全硬體解除安裝,並支持RDMA功能。

  • 阿裏雲的CIPU專為飛天系統設計,對於構建新一代綜合軟硬體雲端運算架構系統至關重要。

    火山引擎DPU

    火山引擎致力於推進自主開發的DPU技術,采用軟硬整合的虛擬化方法,提供彈性和可延伸的高效能計算服務。他們的第二代彈性裸金屬伺服器和第三代雲伺服器都配備了自主研發DPU。這些DPU經過了廣泛的測試,以確保其在各種套用中的功能和適應力。

    2022年推出的第二代彈性裸金屬例項將物理機的穩定性和安全性與虛擬機器的靈活性相結合,代表了高效能雲伺服器的新一代。

    2023年上半年釋出的第三代雲伺服器例項將火山引擎最新的DPU架構與專有的虛擬交換機和虛擬化技術整合在一起,顯著提高了網路和儲存I/O效能。

    透過結合自主開發的DPU、虛擬交換機和虛擬化技術,Volcano Engine旨在提供可延伸和高效的高效能計算解決方案,以滿足雲端運算不斷演變的需求。

    更多 DPU技術 ,請參考文章 ,「 ,「 」,「 ,「 」, 」,「 」, ,「 等等

    相關閱讀:

    免責申明: 本號聚焦相關技術分享,內容觀點不代表本號立場, 可追溯內容均註明來源 ,釋出文章若存在版權等問題,請留言聯系刪除,謝謝。

    推薦閱讀

    更多 架構相關技術 知識總結請參考「 架構師全店鋪技術資料打包 (全) 」相關電子書( 41本 技術資料打包匯總詳情 可透過「 閱讀原文 」獲取)。

    全店內容持續更新,現下單「 架構師技術全店資料打包匯總(全) 」一起發送「 和「 pdf及ppt版本 ,後續可享 全店 內容更新「 免費 」贈閱,價格僅收 249 元(原總價 399 元)。

    溫馨提示:

    掃描 二維碼 關註公眾號,點選 閱讀原文 連結 獲取 架構師技術全店資料打包匯總(全) 電子書資料詳情