大模型在可觀測AIOps的探索和套用實踐

在雲原生時代，運維團隊面臨著數據品質波動、標註不足以及鏈路資訊不完整等重大挑戰，這些障礙嚴重影響了 AIOps（智慧運維）的有效實施。監控數據的不確定性增加了運維任務的復雜度，使得從海量數據中提取有用資訊並作出快速響應變得更加困難。

基於此，在 4 月 25、 2 6 日舉辦的 2024 全球機器學習技術大會 上，特邀請了來自阿裏雲的高級技術專家董善東給大家分享「 大模型在可觀測 AIOps 的探索和套用實踐 」主題演講。

大模型強大的湧現能力和推理能力，為 AIOps 在復雜架構下提供更精準的數據關聯和診斷提供了可能。阿裏雲可觀測團隊透過 AIOp 結合大模型套用， 探索了利用大模型進行知識問答和 PromQL 查詢生成，極大地簡化了對監控數據的查詢與分析過程。此外，大模型在提供上下文明確的告警方面表現出色，透過與 ChatOps 機器人的整合，實作了更加自然和人性化的互動方式。這些實踐不僅提高了診斷效率，也為系統異常的快速解決提供了有力支持。

然而，大模型作為 AIOps 實施中的雙刃劍，同時也帶來了一系列新的挑戰，包括模型的解釋性問題和與現有系統的整合問題。基於 ReAct 框架的 agent 協同診斷方案為這些挑戰提供了可能的解決路徑，使得 AIOps 不再局限於單一的自動化任務，而是朝著更加協同和自適應的方向發展。展望未來，我們預測大模型將繼續在可觀測性領域中扮演關鍵角色，推動 AIOps 技術的進一步發展和創新。

在本次全球機器學習技術大會上， 來自阿裏、微軟、螞蟻集團、小米、智譜、零一萬物、面壁智慧、復旦大學教授、智源人工智慧研究院等大模型領域的專家將雲集於此，與你共同探討人工智慧的前沿發展和行業最佳實踐。

他們包括：