多智能体协调器主要是用于管理多个AI代理,并优化它们处理复杂对话的方式。
今天给大家介绍的是一个多代理协调框架multi-agent-orchestrator,通过智能路由机制,根据对话内容把用户的查询分配给最适合的代理,同时保持对话的连贯性。
简单来讲,它就像是一个智能交通指挥中心,但它指挥的是各种AI代理,帮它们更好地进行对话。 当你向系统提问时,它能判断哪个AI代理最擅长回答你的问题,然后把问题送到那个AI代理那里去。这样无论你的问题多复杂,系统都能流畅并准确地回答你。
扫码加入AI交流群
获得更多技术支持和交流
(请注明自己的职业)
项目简介
multi-agent-orchestrator是一个灵活的框架,专门用于管理多个人工智能代理并处理复杂对话。该系统通过智能意图分类动态地将查询路由到最合适的代理,同时在多个代理之间保持并利用会话上下文以实现连贯的交互。它支持流式和非流式响应,并可在任何云平台上运行,无论是AWS Lambda还是本地环境。该框架还支持Python和TypeScript,便于扩展和自定义代理,以适应特定需求,适用于从简单聊天机器人到复杂AI系统的广泛应用。
架构流程
过程从用户输入开始,这些输入首先被分类器进行分析。
分类器根据代理的特性及其对话历史来选择最合适的代理来执行任务。
一旦代理被选中,它便开始处理用户的输入。
协调器随后保存对话内容,更新代理的对话历史,并将回应传递给用户。
DEMO
这是一个带有几个基础代理的DEMO,展示了使用6个专门代理的演示应用扩展版本。
旅行代理: 由Amazon Lex Bot支持
天气代理: 利用Bedrock LLM代理和查询open-meteo API的工具
餐厅代理: 作为Amazon Bedrock代理实现
数学代理: 利用Bedrock LLM代理和两个执行数学运算的工具
技术代理: 一个旨在回答技术话题问题的Bedrock LLM代理
健康代理: 专注于处理健康相关查询的Bedrock LLM代理
系统可以在不同话题之间无缝切换,从预订航班到检查天气、解决数学问题,以及提供健康信息。为每个查询选择适当的代理,即使是简短的后续输入也能保持连贯性。
项目链接
https://www.dongaigc.com/p/awslabs/multi-agent-orchestrator
关注「 开源AI项目落地 」公众号
与AI时代更靠近一点
关注「 AGI光年 」公众号
获取每日最新资讯
关注「 向量光年 」公众号
加速全行业向AI转变