當前位置: 妍妍網 > 碼農

數據中心網路架構設計與挑戰

2024-05-13碼農

一、數據中心網路架構設計原則

網路是數據中心的最重要組成部份,主要由大量的二層接入裝置和少量的三層裝置組成的網路結構。以前,數據中心的網路規模普遍不大,網路透過數十台裝置簡單互連就可達到互聯互通的目的。而現在,數據中心對網路的要求越來越高,為了滿足各種套用,網路架構也需要及時調整,網路架構經歷了多種多樣的變化。在一個數據中心建設過程中,網路架構是重要部份,架構設計的好壞直接決定了數據中心數據轉發效率和可靠性。

本文來自「 」,「 」。

(1)可延伸性

為適應業務的發展、需求的變化、先進技術的套用,數據中心網路必須具備足夠的可延伸來滿足發展的需要。如采用合理的模組化設計,盡量采用埠密度高的網路裝置、盡量在網路各層上具備三層路由功能,使得整個數據中心網路具有極強的路由擴充套件能力。功能的可延伸性是數據中心網路隨著發展提供增值業務的基礎。

(2)可用性

包括網路裝置和網路本身的冗余。關鍵裝置均采用電信級全冗余設計,采用冗余網路設計,每個層次均采用雙機方式,層次與層次之間采用全冗余連線。提供多種冗余技術,在不同層次可提供增值冗余設計。

(3)靈活性

靈活的目的是實作可根據數據中心不同使用者的需求進行客製,網路/裝置能夠靈活提供各種常用網路介面、能夠根據不同需求對網路模組進行合理搭配。

(4)安全性

安全性是數據中心的使用者最為關註的問題,也是數據中心建設的關鍵,它包括物理空間的安全控制及網路的安全控制。

二、數據中心網路組網設計

(1)Fabric網路

隨著雲端運算的發展,在數據中心網路中伺服器虛擬化技術得到廣泛套用,但伺服器在遷移時,為了保證遷移時業務不中斷,就要求不僅虛擬機器的IP地址不變,而且虛擬機器的執行狀態也必須保持原狀(例如TCP會話狀態),所以虛擬機器的動態遷移只能在同一個二層域中進行,而不能跨二層域遷移,這就要我的二層網路足夠大。而傳統的二層技術,不論是透過縮小二層域的範圍和規模來控制廣播風暴的影響範圍或是阻塞掉 冗余裝置 和鏈路來破環,網路中能夠容納的主機數量、收斂效能以及網路資源的頻寬利用率對於數據中心網路而言是遠遠不夠的。

M-LAG(Multichassis Link Aggregation Group)即跨裝置鏈路聚合組,是一種實作跨裝置鏈路聚合的機制,將一台裝置與另外兩台裝置進行跨裝置鏈路聚合,從而把鏈路可靠性從單板級提高到了裝置級。對二層來講,可將M-LAG理解為一種橫向虛擬化技術,將M-LAG的兩台裝置在邏輯上虛擬成一台裝置,形成一個統一的二層邏輯節點。M-LAG提供了一個沒有環路的二層拓撲同時實作冗余備份,不再需要繁瑣的生成樹協定配置,極大的簡化了組網及配置。這種設計相對傳統的xSTP破環保護,邏輯拓撲更加清晰、鏈路利用更加高效。

(2)Overlay網路

Overlay在網路技術領域,指的是一種網路架構上疊加的虛擬化技術模式,其大體框架是對基礎網路不進行大規模修改的條件下,實作套用在網路上的承載,並能與其它網路業務分離,並且以基於IP的基礎網路技術為主。其實這種模式是以對傳統技術的最佳化而形成的。

針對前文提出的三大技術挑戰,Overlay在很大程度上提供了全新的解決方式。

①針對虛機遷移範圍受到網路架構限制的解決方式

Overlay是一種封裝在IP報文之上的新的數據格式,因此,這種數據可以透過路由的方式在網路中分發,而路由網路本身並無特殊網路結構限制,具備良性大規模擴充套件能力,並且對裝置本身無特殊要求,以高效能路由轉發為佳,且路由網路本身具備很強的的故障自愈能力、負載均衡能力。

②針對虛機規模受網路規格限制的解決方式

虛擬機器數據封裝在IP封包中後,對網路只表現為封裝後的的網路參數,即隧道端點的地址,因此,對於承載網路(特別是接入交換機),MAC地址規格需求極大降低,最低規格也就是幾十個(每個埠一台物理伺服器的隧道端點MAC)。

③針對網路隔離/分離能力限制的解決方式

針對VLAN數量4000以內的限制,在Overlay技術中引入了類似12位元 VLAN ID 的使用者標識,支持千萬級以上的使用者標識,並且在Overlay中沿襲了雲端運算「租戶」的概念,稱之為Tenant ID(租戶標識),用24或64位元表示。針對 VLAN技術 下網路的TRUANK ALL(VLAN穿透所有裝置)的問題,Overlay對網路的VLAN配置無要求,可以避免網路本身的無效流量頻寬浪費,同時Overlay的二層連通基於虛機業務需求建立,在雲的環境中全域可控。

(3)Spine+Leaf網路

Spine+Leaf兩層裝置的扁平化網路架構來源於CLOS網路,CLOS網路以貝爾實驗室的研究人員Charles Clos命名,他在1952年提出了這個模型,作為克服電話網路中使用的機電開關的效能和成本相關挑戰的一種方法。Clos用數學理論來證明,如果交換機按階層組織,在交換陣列(現在稱為結構)中實作非阻塞效能是可行的,主要是透過組網來形成非常大規模的網路結構,本質是希望無阻塞。在此之前,要實作「無阻塞的架構」,只能采用NxN的Cross-bar方式。接入連線的數量仍然等於折疊後的三層 CLOS 網路架構的Spine與Leaf之間的連線數,流量可以分布在所有可用的連結上,不用擔心過載問題。隨著更多的連線被接入到Leaf交換裝置,我們的鏈路頻寬收斂比將增加,可以透過增加Spine和Leaf裝置間的鏈路頻寬降低鏈路收斂比。

Spine+Leaf網路架構的另一個好處就是,它提供了更為可靠的組網連線,因為Spine層面與Leaf層面是全交叉連線,任一層中的單交換機故障都不會影響整個網路結構。因此,任一層中的一個交換機的故障都不會使整個結構失效。

(4)BGP EVPN

EVPN是基於BGP協定的技術,需要部署在網路交換機上。這意味著網路交換機需要作為VTEP節點,進行VXLAN封裝。伺服器透過介面或VLAN接入網路交換機。這些介面或VLAN會對映到對應的廣播域BD,同時BD也會繫結一個EVPN例項,透過EVPN例項間路由的傳遞實作VXLAN隧道的建立、MAC學習。透過BGP EVPN在兩個數據中心內部各建立一段VXLAN隧道,數據中心之間再建立一段VXLAN隧道,可以實作數據中心互聯。

三、數據中心網路的發展趨勢

數據的集中處理、儲存、傳輸、交換和管理無一不是在構建數位經濟的基礎設施。網路技術驅動數據中心網路從以「數據」為中心發展到了以「算力」為中心。相較傳統的數據中心網路,現代大規模數據中心網路在架構、技術上和運維都發生了巨大變革,主要表現在:

(1)網路頻寬加速發展,構建高效能網路

網路支撐業務的底層連線,將網路裝置上從管理平面、控制平面和數據平面進行分離,軟體定義網路,用軟體集中管理裝置簡化數據平面,讓網路更智慧,更簡單。用先進的網路架構,實作線上和離線對業務網路的互聯互通,靈活排程網路流量滿足個人化業務需求,構建高頻寬、低時延高效能網路才能滿足日新月異的互聯網業務要求。

(2)高密度異構計算集群,大規模彈性擴充套件

數據中心網路將從交換機網路趨向以數據互聯I/O為中心的架構,透過技術和規模彈性給使用者提供低成本,高可靠的網路資源。提供更加安全,穩定的網路基礎設施,根據業務需要彈性擴充套件,用更加簡單的方式降本提效是下一代數據中心網路發展的指導原則。

(3)降本提效,實作智慧視覺化運維

網路成本的最佳化,是很多互聯網業務發展必不可少的一環。相比傳統網路架構,大規模數據中心網路架構透過使用單芯片box裝置進行構建數據中心網路,降低能耗,解決能耗瓶頸,同時在電力、散熱、空間成本上進行降本提效。同時,隨著網路規模不斷擴大,人工運維不再現實,自動化運維部署,軟體功能自動升級及故障自動告警,恢復等成為很多廠商裝置建設數據中心努力的方向。

相關閱讀:

轉載申明:轉載 本號文章請 註明作者 來源 ,本號釋出文章若存在版權等問題,請留言聯系處理,謝謝。

推薦閱讀

更多 架構相關技術 知識總結請參考「 架構師全店鋪技術資料打包 (全) 」相關電子書( 41本 技術資料打包匯總詳情 可透過「 閱讀原文 」獲取)。

全店內容持續更新,現下單「 架構師技術全店資料打包匯總(全) 」一起發送「 和「 pdf及ppt版本 ,後續可享 全店 內容更新「 免費 」贈閱,價格僅收 249 元(原總價 399 元)。

溫馨提示:

掃描 二維碼 關註公眾號,點選 閱讀原文 連結 獲取 架構師技術全店資料打包匯總(全) 電子書資料詳情