当前位置: 欣欣网 > 码农

LangChain与Semantic Kernel,大模型开发应用的框架,都用上了吗?

2024-06-20码农

论起当前流行的 AI 应用开发开源框架, LangChain 和 Semantic Kernel 必然榜上有名。它们不仅提供了强大的工具和框架,同时都代表了 AI 技术发展的前沿。

LangChain 的创始人是 Harrison Chase,在 2022 年 10 月将其开源。

最初,它只是 Chase 的一个业余爱好项目,但迅速发展成为颇受开发者欢迎的开源框架和工具包。尤其是在 ChatGPT 发布一个月后,LangChain 在 GitHub 上获得了大量关注,目前 star 数已经超过了 8.7 万。

与此同时,LangChain 也迅速转变为一家初创公司,估值达到 2 亿美元。

继 LangChain 发布 4 个月之后,微软开源了 Semantic Kernel。

Semantic Kernel 是一个轻量级的软件开发工具包(SDK),其核心思想是将传统的编程语言与最新的 AI 技术相结合。在功能方面,Semantic Kernel 与 LangChain 有相似之处,提供提示模板、链接和规划功能。

此外,Semantic Kernel 被设计得能够与 Microsoft Azure 和其他微软服务紧密集成。

LangChain 珠玉在前, Semantic Kernel 又堪称后起之秀,到底孰优孰劣?

【LangChain 编程:从入门到实践】的作者莫尔索,就曾将 LangChain 和 Semantic Kernel 进行比较。

莫尔索在大模型应用落地方面有丰富的经验,为知名项目 AutoGPT、LangChain 框架等贡献过代码,并撰有开源电子书【LLM 应用开发实践】。其主理的公众号 「莫尔索随笔」 致力于大模型技术的普及。

莫尔索以实现一个支持联网功能的智能 AI 助手为例,最后得出结论:

Langchain 更适合构建 MVP,Semantic Kernel 更适合生产级应用;Langchain 更适合独立开发,Semantic Kernel 更适合企业应用

莫尔索认为, LangChain 的优势在于具备丰富的组件支持。

WebResearchRetriever 的封装实现为例,将向量数据库和搜索引擎结合起来,只需几行代码就可以完成复杂功能,加速 MVP 实现,需求验证。

劣势在于过度封装。 「Prompt 模板组件做这么抽象实在没必要,应用调试和生产环境可观测性方面都不太友好。」

至于 Semantic Kernel,莫尔索认为其生态比起 LangChain 要更差一点。 「但是背靠大厂 「巨硬」,这点也能快速赶上,设计整体奔着构建生产级应用去的,LangChain 的一些缺点基本都规避了。

Semantic Kernel 主要面向 C# 开发者,也支持 Python 和 Java,C# 开发者只能选择 Semantic Kernel。LangChain 提供了许多现成的代理、工具、插件等,但软件工程方面的组织相对较差,可能和创建者是 ML 工程师出身有关。」

无独有偶,广东智用人工智能应用研究院工业 & 社区 CTO 张善友也曾比较过二者的差异 。张善友曾参与了 Semantic Kernel 中文技术社区的发起,并对该技术有深入的研究和应用经验。

他提到,微软采用 C# 语言开发,推出一个结合 LLM 与传统编程技术的开源框架 Semantic Kernel,更加切合应用开发的需求。

此外,Semantic Kernel 虽然开源更晚,但在微软内部,其开发时间要比 Langchain 早得多,因而具备优良的架构和代码质量,同时 制定了更为合理的插件开发规范。


至于大模型的支持方面,张善友表示, Semantic kernel 可以支持任何大模型 ,不仅仅是 OpenAl、Azure OpenAl、HuggingFace 上的模型。

Semantic kermel 鼓励对大模型的支持作为单独插件,由各社区独立维护,如 Llama 2、文心一言、通义千问等,而不是集成到 SK 仓库,以此增强 SK 模块化和可维护性。

LangChain 与 Semantic kernel 有不同的设计理念、功能集和性能特点。在大模型发展如日中天之际,要对开源框架分个高下为时尚早。

不过,想看这两大开发框架同台竞技,并不是什么难事。

7 月 13 日至 14 日, 2024 亚太人工智能与机器人产业峰会暨 GOTC 全球开源技术峰会 将在杭州举行。

「LLMOps 最佳实践」论坛 上, 莫尔索、张善友 将各自分享其在 LangChain、Semantic kernel 方面的实践。

「LLMOps 最佳实践」 论坛 还将邀请枫清科技(Fabarta)大语言模型、算法专家王斐,小码科技创始人、Agents-Flex 作者杨福海,微软高级云技术布道师(人工智能方向)卢建晖,阿里云技术专家蔡健等,带领开发者探索和分享 LLMOps 的最新实践、技术和工具,深入讨论如何高效、可靠地管理和运维大规模语言模型,确保它们在生产环境中的最佳性能。

报名 GOTC 2024:

扫码或长按识别二维码

2024 亚太人工智能与机器人产业峰会暨 GOTC 全球开源技术峰会 由中国人工智能学会与开源中国联合举办,将于 7 月 13-14 日 杭州 隆重举行。

本次峰会将汇聚全球顶尖的专家、学者、企业领袖及开源技术代表,深入探讨机器人技术、软件开发、开源技术和 AI 大模型等前沿领域。

会议将重点展示机器人在制造、医疗、物流和服务等行业的最新应用,探讨智能算法和自主学习能力如何提升机器人性能,并分享开源技术在推动技术创新与协作中的关键作用。

此外,峰会还将关注 AI 大模型的最新研究进展及其在实际应用中的挑战与机遇。

END

热门文章

-

-

-

-

-