雖然A l芯片目前看有SPU、ASIC、CPU、FPSA等幾大類,但是基於幾點原因我們判斷GPU仍將是訓練模型的主流硬體:
1、Transformer架構是最近幾年的主流,該架構最大的特點之一就是能夠利用分布式 BPU進行並列訓練,提升模型訓練效率;
2、ASIC的算力與功耗雖然看似有優勢,但考慮到AI演算法還是處於一個不斷發展演進的過程,用專用芯片部署會面臨著未來演算法更叠導致芯片不適配的巨大風險;
3、輝達強大的芯片支撐、生態、演算法開源支持。
模型小型化技術逐步成熟,從訓練走向推理。雲、邊、端全維度發展。
1、GPU方面, 在輝達的推動下,其從最初的顯卡發展到如今的高效能平行計算,海外大廠已經具備了超過20年的技術、資本、生態、人才等儲備,形成了大量的核心技術專利,而且也能充分享有全球半導體產業鏈的支撐,這都或是目前國內廠商所缺失的。
近幾年在資本的推動下,國內湧現出數十家GPU廠商,各自或都具備一定的發展基礎,但整體經營時間較短,無論從技術積澱、產品料號布局、高端料號件能夾說,與國外大廠仍具備較大差距。但國產化勢在必行,國內相關產業鏈重點環節也積極對上遊芯片原廠進行扶持,國產算力芯片需要不斷叠代以實作效能的向上提升,後續持續關註相關廠商料號升級、生態建設和客戶突破:
2、 Al在端側裝置套用普及是大勢所趨,目前,知識蒸餾、剪枝、量化等模型小型化技術在逐步成熟,Al在雲、邊、端全方位發展的時代已至。除了更加廣泛的套用帶來需求量的提升外,更復雜演算法帶來更大算力的需求也將從另一個維度推動市場擴容;
3、數據的高吞吐量需要大頻寬的傳輸支持,光通訊技術作為算力產業發展的支撐底座,具備長期投資價值;
4、 Chiplet技術可 以突破單一芯片的效能和良率等瓶頸,降低芯片設計的復雜度和成本。
來源:
算力專題:GPU芯片完全解析
GPU技術篇:
更新提醒:「 」和「 」已經更新釋出,還沒有獲取的讀者,請在點選「原文連結」在微店留言獲取 ( PDF閱讀版本 )。
轉載申明:轉載 本號文章請 註明作者 和 來源 ,本號釋出文章若存在版權等問題,請留言聯系處理,謝謝。
推薦閱讀
更多 架構相關技術 知識總結請參考「 架構師全店鋪技術資料打包 (全) 」相關電子書( 41本 技術資料打包匯總詳情 可透過「 閱讀原文 」獲取)。
全店內容持續更新,現下單「 架構師技術全店資料打包匯總(全) 」一起發送「 」 和「 」 pdf及ppt版本 ,後續可享 全店 內容更新「 免費 」贈閱,價格僅收 249 元(原總價 439 元)。
溫馨提示:
掃描 二維碼 關註公眾號,點選 閱讀原文 連結 獲取 「 架構師技術全店資料打包匯總(全) 」 電子書資料詳情 。