編者註: 「 」和「 」已經更新釋出,還沒有獲取的讀者,請在點選「原文連結」在微店留言獲取 ( PDF閱讀版本 ), 已領取請忽略 , 作為購買過 「 架構師技術全店資料打包匯總(全) 」 讀者福利 免費發放 。
以下內容來自華福證券,分析師:戴晶晶。伺服器產業鏈包括芯片CPU、GPU,記憶體DRAM和記憶體介面及HBM,本地儲存SSD,NIC、PCle插槽、散熱和等。伺服器CPU架構包 括X86、ARM、MIPS和RISC-V等。
Al芯片是Al伺服器算力的核心,專門用於處理人工智慧套用中的大量計算任務,Al芯片按架構可分為GPU、FPGA、ASIC和NPU等。
HBM作為記憶體產品的一種,已經成為高端GPU標配,可以理解為與CPU或SoC對應的記憶體層級,將原本在PCB板上的DDR和GPU芯片同時整合到SiP封裝中,使記憶體更加靠近GPU,使用HBM可以將DRAM和處理器(CPU,GPU以及其他ASIC)之間的通訊頻寬大大提升,從而緩解這些處理器的記憶體墻問題。
伺服器本地儲存的選擇方案則包括HDD和SSD,SSD的主要硬體元件包括NAND Flash、主控芯片和DRAM,核心軟體為企業級SSD的固件,數據中心級SSD已不再是一個硬碟,而是一個具備處理、緩存、計算、安全保護的小型系統,SSD滲透率有望逐漸提升。
從伺服器和Al伺服器構成看,芯片和儲存都是核心,決定著Al伺服器的算力和寬頻大小。傳統的通用型伺服器中,售價10424美金的2xIntel Sapphire Rapids Server,CPU的成本占比約17.7%,記憶體和硬碟占比超過50%。
而Al伺服器,售價為268495美金的Nvidia DGXH100中,CPU占比僅1.9%,GPU占比高達72.6%。記憶體價值量提升,但占比下降至4.2%左右。Al伺服器較通用伺服器價值量提升明顯。
Al伺服器采取GPU架構,適合大規模平行計算。Al伺服器由傳統伺服器演變發展而來。相比於通用伺服器,Al伺服器為異構伺服器,可以多種組合方式,搭載多個GPU、CPU以及大算力Al芯片,極大程度解決傳統伺服器算力不足的缺點。Al伺服器采用GPU架構,GPU具有眾多計算單元和長流水線,簡單控制邏輯,省去Cache。 面對型別統一、相互無依賴的大規模數據,處於無需中斷的計算環境。相較之下,CPU被Cache和復雜控制邏輯占據,通用性導致復雜的內部結構,處理不同數據型別引入分支和中斷。
Al芯片是Al伺服器算力的核心。Al芯片是AI伺服器算力的核心,也被稱為Al加速器或計算卡,專門用於處理人工智慧套用中的大量計算任務。按技術架構分類,Al芯片可分為GPU、 FPGA、ASIC和NPU等。GPU是一種通用型芯片,ASIC是一種專用型芯片,而FPGA則處於兩者之間,具有半客製化的特點。按照功能分類,可分為訓練和推理芯片。按照套用場景分類,可分為雲端和邊緣端芯片。隨著Al PC、AI PIN、AIPHONE等更多套用場景出現,Al芯片的空間有望進一步開啟。
關於CPU、伺服器和儲存詳細技術及資料獲取,請參考「 」,「 」、「 」、「 」、「 」、「 」、「 」、「 」等等。
相關閱讀:
免責申明: 本號聚焦相關技術分享,內容觀點不代表本號立場, 可追溯內容均註明來源 ,釋出文章若存在版權等問題,請留言聯系刪除,謝謝。
推薦閱讀
更多 架構相關技術 知識總結請參考「 架構師全店鋪技術資料打包 (全) 」相關電子書( 41本 技術資料打包匯總詳情 可透過「 閱讀原文 」獲取)。
全店內容持續更新,現下單「 架構師技術全店資料打包匯總(全) 」一起發送「 」 和「 」 pdf及ppt版本 ,後續可享 全店 內容更新「 免費 」贈閱,價格僅收 249 元(原總價 399 元)。
溫馨提示:
掃描 二維碼 關註公眾號,點選 閱讀原文 連結 獲取 「 架構師技術全店資料打包匯總(全) 」 電子書資料詳情 。