本文參考自「 」，文章參考「 」， 通常單台傳統伺服器價格在1 萬美金以內， 而搭載8張 H100算力卡的DGX H100AI伺服器價值量可達40萬美 金 （300萬人民幣左右）。
關於最新超算算力市場現狀，
請參閱文章：
。
自然語言的運算、圖形的處理 需要大量記憶體協助運算及存 儲 ， 並且AI伺服器對數據傳輸速率有著更高要求， 催生了 儲存及PCB價值量的增長。
從供應鏈角度出發，探討儲存、PCB，以及更上遊的封測、制造環節的產業機遇。
AI三要素包括算力、互聯和儲存，從伺服器供應鏈角度看，儲存是AI時代變革重點。
處理器效能不斷提升，「記憶體墻」成為電腦系統的瓶頸。 電腦系統的執行受到處理器和記憶體的配合影響，但處理器效能因 莫耳定律 不 斷提升，而記憶體DRAM的傳輸頻寬沒有跟隨工藝的演進而快速增長，導致訪存時延遲高、效率低，嚴重制約處理器效能發揮，即出現「記憶體墻」。在AI和視覺等領域，需要大量的記憶體頻寬來支持復雜的計算操作，若記憶體效能落後，會導致實際算力下降50%甚至90%。
HBM 是目前用於打破「記憶體墻」的重要技術之一。 高頻寬記憶體（HBM）是一種基於3D堆疊工藝的高效能DRAM，可以提供更高的記憶體 頻寬和更低的能耗，適用於高記憶體頻寬需求的套用場合，如HPC、網路交換裝置等。最新的HBM3E產品可提供超過1TB/s的數據頻寬，具有8Gb/s的I/O速率，緩解了因記憶體部件延遲而阻礙算力增長的問題。
HBM技術細節請參考「 」。
根據Yole Group統計，2023年海麗仕以55%的營收占比在HBM市場占據主導權，其後 是三星和美光，營收占比分別為41%和3%。美光早期在堆疊式DRAM的探索中最先選擇了HMC技術，在數據傳輸時延遲和速度方面存在劣勢，但其及時轉向，在2020年推出首款HBM2產品，此後躍過HBM3，直接投入研發HBM3E，並於2023年7月釋出24GB 8-HighHBM3E。
三家原廠最新的HBM3E產品對比來看， 低能耗是美光的主要有利競爭，三星擁有更小的堆疊間隙，有利於更高層數堆疊，SK海麗仕則得 益於其開發的MR-MUF技術，散熱效能優異。
AI伺服器需求核心在於更大頻寬的儲存，帶來了儲存技術路線變革：
1） CXL （compute express link）：全新的互聯技術標準，其帶來的DRAM池化技術可以大大節因數據中心的建設成本，同時帶動DRAM的用量。
2）MCR/MDIMM （Multiplexer Combined Ranks）：大大提高記憶體頻寬， AMD已經在MemCon 2023上表達了它幫助推動JEDEC的MRDIMM開放標準 的 承諾，英特爾也與SK hynix和瑞薩合作，基於與MRDIMM類似的概念，開發了多路合並陣列（MCR）DIMM 。
3）PCIe 5.0 （Peripheral Component Interconnect Express 5.0）：新一代 匯流排技術 ，構建了更加高速的序列通訊系統標準。
MCR/MRDIMM可以很好的滿足AI伺服器對記憶體頻寬的高需求， 該技術將多個DRAM記憶體模組組合在一起，透過將兩個Rank形成偽多記憶體 通道（Pseudo Channel），並使用專門的控制器（介面芯片）來管理它們之間的數據傳輸，並大大提高記憶體頻寬， 理論上，MCR/MRDIMM記憶體的頻寬是DDR5的兩倍 。
瀾起科技 已於2022年完成MCR控制芯片（MRCD/MDB）研發。
美光在HBM市場起步晚於三星和SK海麗仕，但於2023年7月率先釋出HBM3E完成新產品反超。 後續產品規劃上，根據美光披露的產品路線圖， 其預計將於 2025年釋出36GB 12-High HBM3E用以完善其HBM3E產品線，並於2026年推出革命性產品36GB 12-High HBM4 ，頻寬預計將超過1.5TB/s。
預計在2027 年前，美光將對HBM4產品容量進一步升級，釋出48GB 16-High HBM4。2028年，美光預計釋出頻寬升級至2 TB/s 以上的HBM4E。2023-2028年內，美光幾乎年均推出一款HBM系列新產品，展示出其對高速增長HBM市場的勃勃雄心。
瀾起科技擁有兩大產品線，互連類芯片產品線和津逮服務 器平台產品線。其中，互連類芯片產品主要包括記憶體介面芯片、記憶體模組配套芯片、PCIe Retimer芯片、MXC芯片、CKD芯片等，津逮伺服器平台產品包括津逮CPU和混合安全記憶體模組。
新品序列基本在2023年完成研發及送樣， 未來業績核心驅動一是DDR5芯片不斷叠代保持價值量，二是新品逐步上量開啟成長空間。高效能運力產品方面 Retimer，MRCD/MDB已經實作出貨，並在推進開展DDR5第四子代RCD、第二子代MRCD/MDB芯片和PCIe 6.0 Retime芯片的研發。
聚辰股份是國產EEPROM龍頭廠商。產品主要包括EEPROM、音圈馬達驅動芯片、智慧卡芯片和NOR Flash，並廣泛套用於智慧型手機、汽車電 子、白色家電等眾多領域。 公司持續拓寬EEPROM產品的套用領域，與瀾起科技合作開發的SPD EEPROM產品於2021年第四季度實作量產。
記憶體邁入DDR5世代，SPD EEPROM必需性突顯 。除記憶體介面芯片RCD、DB外，序列檢測集線器（SPD）是記憶體管理系統的關鍵組成部份， 適用於DDR5系列LRDIMM、RDIMM、UDIMM、SODIMM等記憶體模組。伴隨DDR5記憶體滲透率不斷提升，SPD EEPROM將迎來更廣闊的的市場空間。
相關閱讀：
轉載申明：轉載 本號文章請 註明作者 和 來源 ，本號釋出文章若存在版權等問題，請留言聯系處理，謝謝。
推薦閱讀
更多 架構相關技術 知識總結請參考「 架構師全店鋪技術資料打包 (全) 」相關電子書( 41本 技術資料打包匯總詳情 可透過「 閱讀原文 」獲取)。
全店內容持續更新，現下單「 架構師技術全店資料打包匯總(全) 」一起發送「 」 和「 」 pdf及ppt版本 ，後續可享 全店 內容更新「 免費 」贈閱，價格僅收 249 元(原總價 399 元)。
溫馨提示：
掃描 二維碼 關註公眾號，點選 閱讀原文 連結 獲取 「 架構師技術全店資料打包匯總(全) 」 電子書資料詳情 。
