論起當前流行的 AI 套用開發開源框架, LangChain 和 Semantic Kernel 必然榜上有名。它們不僅提供了強大的工具和框架,同時都代表了 AI 技術發展的前沿。
LangChain 的創始人是 Harrison Chase,在 2022 年 10 月將其開源。
最初,它只是 Chase 的一個業余愛好計畫,但迅速發展成為頗受開發者歡迎的開源框架和工具包。尤其是在 ChatGPT 釋出一個月後,LangChain 在 GitHub 上獲得了大量關註,目前 star 數已經超過了 8.7 萬。
與此同時,LangChain 也迅速轉變為一家初創公司,估值達到 2 億美元。
繼 LangChain 釋出 4 個月之後,微軟開源了 Semantic Kernel。
Semantic Kernel 是一個輕量級的軟體開發套件(SDK),其核心思想是將傳統的程式語言與最新的 AI 技術相結合。在功能方面,Semantic Kernel 與 LangChain 有相似之處,提供提示樣版、連結和規劃功能。
此外,Semantic Kernel 被設計得能夠與 Microsoft Azure 和其他微軟服務緊密整合。
LangChain 珠玉在前, Semantic Kernel 又堪稱後起之秀,到底孰優孰劣?
【LangChain 編程:從入門到實踐】的作者莫爾索,就曾將 LangChain 和 Semantic Kernel 進行比較。
莫爾索在大模型套用落地方面有豐富的經驗,為知名計畫 AutoGPT、LangChain 框架等貢獻過程式碼,並撰有開源電子書【LLM 套用開發實踐】。其主理的公眾號 「莫爾索隨筆」 致力於大模型技術的普及。
莫爾索以實作一個支持聯網功能的智慧 AI 助手為例,最後得出結論:
Langchain 更適合構建 MVP,Semantic Kernel 更適合生產級套用;Langchain 更適合獨立開發,Semantic Kernel 更適合企業套用 。
莫爾索認為, LangChain 的優勢在於具備豐富的元件支持。
以
WebResearchRetriever
的封裝實作為例,將向量資料庫和搜尋引擎結合起來,只需幾行程式碼就可以完成復雜功能,加速 MVP 實作,需求驗證。
劣勢在於過度封裝。 「Prompt 樣版元件做這麽抽象實在沒必要,套用偵錯和生產環境可觀測性方面都不太友好。」
至於 Semantic Kernel,莫爾索認為其生態比起 LangChain 要更差一點。 「但是背靠大廠 「巨硬」,這點也能快速趕上,設計整體奔著構建生產級套用去的,LangChain 的一些缺點基本都規避了。
Semantic Kernel 主要面向 C# 開發者,也支持 Python 和 Java,C# 開發者只能選擇 Semantic Kernel。LangChain 提供了許多現成的代理、工具、外掛程式等,但軟體工程方面的組織相對較差,可能和建立者是 ML 工程師出身有關。」
無獨有偶,廣東智用人工智慧套用研究院工業 & 社群 CTO 張善友也曾比較過二者的差異 。張善友曾參與了 Semantic Kernel 中文技術社群的發起,並對該技術有深入的研究和套用經驗。
他提到,微軟采用 C# 語言開發,推出一個結合 LLM 與傳統編程技術的開源框架 Semantic Kernel,更加切合套用開發的需求。
此外,Semantic Kernel 雖然開源更晚,但在微軟內部,其開發時間要比 Langchain 早得多,因而具備優良的架構和程式碼品質,同時 制定了更為合理的外掛程式開發規範。
至於大模型的支持方面,張善友表示,
Semantic kernel 可以支持任何大模型
,不僅僅是 OpenAl、Azure OpenAl、HuggingFace 上的模型。
Semantic kermel 鼓勵對大模型的支持作為單獨外掛程式,由各社群獨立維護,如 Llama 2、文心一言、通義千問等,而不是整合到 SK 倉庫,以此增強 SK 模組化和可維護性。
LangChain 與 Semantic kernel 有不同的設計理念、功能集和效能特點。在大模型發展如日中天之際,要對開源框架分個高下為時尚早。
不過,想看這兩大開發框架同台競技,並不是什麽難事。
7 月 13 日至 14 日, 2024 亞太人工智慧與機器人產業峰會暨 GOTC 全球開源技術峰會 將在杭州舉行。
在 「LLMOps 最佳實踐」論壇 上, 莫爾索、張善友 將各自分享其在 LangChain、Semantic kernel 方面的實踐。
「LLMOps 最佳實踐」 論壇
還將邀請楓清科技(Fabarta)大語言模型、演算法專家王斐,小碼科技創始人、Agents-Flex 作者楊福海,微軟高級雲技術布道師(人工智慧方向)盧建暉,阿裏雲技術專家蔡健等,帶領開發者探索和分享 LLMOps 的最新實踐、技術和工具,深入討論如何高效、可靠地管理和運維大規模語言模型,確保它們在生產環境中的最佳效能。
報名 GOTC 2024:
掃碼或長按辨識二維碼
2024 亞太人工智慧與機器人產業峰會暨 GOTC 全球開源技術峰會 由中國人工智慧學會與開源中國聯合舉辦,將於 7 月 13-14 日 在 杭州 隆重舉行。
本次峰會將匯聚全球頂尖的專家、學者、企業領袖及開源技術代表,深入探討機器人技術、軟體開發、開源技術和 AI 大模型等前沿領域。
會議將重點展示機器人在制造、醫療、物流和服務等行業的最新套用,探討智慧演算法和自主學習能力如何提升機器人效能,並分享開源技術在推動技術創新與協作中的關鍵作用。
此外,峰會還將關註 AI 大模型的最新研究進展及其在實際套用中的挑戰與機遇。
END
熱門文章
-
-
-
-
-