多智慧體協調器主要是用於管理多個AI代理,並最佳化它們處理復雜對話的方式。
今天給大家介紹的是一個多代理協調框架multi-agent-orchestrator,透過智慧路由機制,根據對話內容把使用者的查詢分配給最適合的代理,同時保持對話的連貫性。
簡單來講,它就像是一個智慧交通指揮中心,但它指揮的是各種AI代理,幫它們更好地進行對話。 當你向系統提問時,它能判斷哪個AI代理最擅長回答你的問題,然後把問題送到那個AI代理那裏去。這樣無論你的問題多復雜,系統都能流暢並準確地回答你。
掃碼加入AI交流群
獲得更多技術支持和交流
(請註明自己的職業)
計畫簡介
multi-agent-orchestrator是一個靈活的框架,專門用於管理多個人工智慧代理並處理復雜對話。該系統透過智慧意圖分類動態地將查詢路由到最合適的代理,同時在多個代理之間保持並利用會話上下文以實作連貫的互動。它支持流式和非流式響應,並可在任何雲平台上執行,無論是AWS Lambda還是本地環境。該框架還支持Python和TypeScript,便於擴充套件和自訂代理,以適應特定需求,適用於從簡單聊天機器人到復雜AI系統的廣泛套用。
架構流程
過程從使用者輸入開始,這些輸入首先被分類器進行分析。
分類器根據代理的特性及其對話歷史來選擇最合適的代理來執行任務。
一旦代理被選中,它便開始處理使用者的輸入。
協調器隨後保存對話內容,更新代理的對話歷史,並將回應傳遞給使用者。
DEMO
這是一個帶有幾個基礎代理的DEMO,展示了使用6個專門代理的演示套用擴充套件版本。
旅行代理: 由Amazon Lex Bot支持
天氣代理: 利用Bedrock LLM代理和查詢open-meteo API的工具
餐廳代理: 作為Amazon Bedrock代理實作
數學代理: 利用Bedrock LLM代理和兩個執行數學運算的工具
技術代理: 一個旨在回答技術話題問題的Bedrock LLM代理
健康代理: 專註於處理健康相關查詢的Bedrock LLM代理
系統可以在不同話題之間無縫切換,從預訂航班到檢查天氣、解決數學問題,以及提供健康資訊。為每個查詢選擇適當的代理,即使是簡短的後續輸入也能保持連貫性。
計畫連結
https://www.dongaigc.com/p/awslabs/multi-agent-orchestrator
關註「 開源AI計畫落地 」公眾號
與AI時代更靠近一點
關註「 AGI光年 」公眾號
獲取每日最新資訊
關註「 向量光年 」公眾號
加速全行業向AI轉變