螞蟻集團技術專家邀你齊聚全球機器學習技術大會！

2024 全球機器學習技術大會 將於 4 月 25、26 日在上海環球港凱悅大酒店隆重舉行！ 屆時，來自阿裏、微軟、螞蟻集團、小米、零一萬物、復旦大學教授、智源人工智慧研究院等大模型領域的專家將雲集於此，與你共同探討人工智慧的前沿發展和行業最佳實踐。

其中，螞蟻集團的高級技術專家鄭琦、AI Infra 技術專家王勤龍將受邀出席，並行表大模型相關技術主題演講。

機密計算實作大模型套用全生命周期安全

來自螞蟻可信安全計算團隊、機密計算作業系統 Occlum 核心開發者的 鄭琦將發表【機密計算實作大模型套用全生命周期安全】主題演講。

鄭琦 ， 多年芯片公司 Linux 內核，平台 BSP，邊緣計算，大數據套用開發經驗。目前任職螞蟻集團可信安全計算團隊，機密計算作業系統 Occlum 核心開 發者，同時致力於機密計算生態，尤其是在私密大數據、分布式機密計算方面的開拓和推動。

螞蟻密態時空計算平台首次將時空數據和私密計算相結合，全密態使用螞蟻遙感大模型生成遙感時空數據，再透過與農業時空數據聯合建模，形成農戶種植分等農業信貸可用的評估指標，產生更精準的農業金融信貸指標，有效解決了農戶貸款時點土地種植情況的評估問題，為三農產業的大規模授信提供了解決方案。螞蟻機密計算作為密態計算TEE底座，守護了螞蟻大模型全生命（傳輸，儲存，使用中）安全，實作讓大模型無憂輸出。為大模型商用落地提供了切實可行的參考路徑。

DLRover 訓練故障自愈：大幅提升大規模 AI 訓練的算力效率

當前大規模語言模型訓練需要大量的加速卡來訓練，例如 GPU 和 NPU 等。由於 GPU 機器的故障率較高，頻繁的故障會導致訓練中斷、計算浪費和集群空轉，從而造成大量的時間和算力浪費。為此，DLRover 開源了訓練故障自愈技 術，透過快速的節點狀態檢測、彈性擴縮容、動態組網和 Flash Checkpoint 等技術，最大程度地降低故障導致的算力浪費。

當前，在螞蟻千卡規模的訓練上，在故障頻率為每天一次的情況下，有效訓練時間占比達到 97%。除了支持 GPU，DLRover 故障自愈還支持國產加速卡的分布式訓練，如華為昇騰芯片和阿裏平頭哥芯片。（計畫地址：https://github.com/intelligent-machine-learning/dlrover）

在螞蟻從事 AI 基礎設施研發的王勤龍將在全球機器學習技術大會發表【DLRover 訓練故障自愈：大幅提升大規模AI訓練的算力效率】主題演講。

王勤龍 ，現任螞蟻集團 AI Infra 技術專家，長期在螞蟻從事 AI 基礎設施的研發，主導了螞蟻分布式訓練的彈性容錯與自動擴縮容計畫的建設，將螞蟻的混布集群資源利用率從不足 20% 提升至 40% 以上，將千卡大模型訓練的有效時間提升至 97% 以上。

他先後參與多個開源計畫，如 ElasticDL 和 DLRover，開放原子基金會 2023 活力開源貢獻者。目前為螞蟻 AI Infra 開源計畫 DLRover 的架構師，專註於打造穩定的、可延伸的和高效的大規模分布式訓練系統。

在本次全球機器學習技術大會上，來自國內外的 50+ AI 專家、學者和業界精英們匯聚一堂，共同分享在大模型和 AI 領域的最新研究成果和實踐經驗。他們包括：