計畫簡介
MemGPT 是一個基於 GPT 模型的開源計畫,旨在增強文本生成的能力。透過融合長期和短期記憶,MemGPT 能夠更深入理解語境並生成更加準確和連貫的文本。它提供簡潔易用的介面,可幫助使用者輕松套用於各種文本生成任務,包括寫作、對話模型等。無論您是需要自然語言處理技術支持的專業人士還是普通使用者,MemGPT 都能為您提供高效可靠的解決方案。
掃碼加入交流群
獲得更多技術支持和交流
(請註明自己的職業)
功能支持
MemGPT 讓構建和部署具備狀態管理功能的大型語言模型(LLM)代理變得簡單,並支持以下功能:
· 長期記憶/狀態管理
· 連線外部資料來源(例如,PDF檔)用於 RAG
· 定義和呼叫自訂工具(例如,谷歌搜尋)
你還可以使用 MemGPT 將Agent部署為服務。你可以使用 MemGPT 伺服器在支持的大型語言模型提供商之上執行multi-user、multi-agent應用程式。
安裝與設定
1.安裝 MemGPT:
pip install -U pymemgpt
2.若要將 MemGPT 與 OpenAI 一起使用,請設定環境變量 OPENAI_API_KEY 為您的 OpenAI 金鑰,然後執行:
memgpt quickstart --backend openai
3.若要使用免費托管的終端節點,你可以執行:
memgpt quickstart --backend memgpt
如需更高級的配置選項或使用不同的大型語言模型後端或本地大型語言模型,請執行 memgpt configure。
快速開始
你可以透過在命令列界面(CLI)執行 memgpt run 來建立並與 MemGPT 代理交談。run 命令支持以下可選標誌(有關完整標誌列表,請參見 CLI 文件):
--agent:(str)建立或繼續與之交談的代理的名稱。
--first:(str)允許使用者發送第一條訊息。
--debug:(bool)顯示偵錯日誌(預設為 False)
--no-verify:(bool)繞過訊息驗證(預設為 False)
--yes/-y:(bool)跳過確認提示並使用預設設定(預設為 False)
你可以在 CLI 文件中檢視可用的聊天命令列表(例如,/memory, /exit)。
開發者門戶
MemGPT 提供了一個開發者門戶,使你能夠輕松建立、編輯、監控和與你的 MemGPT Agent進行交流。使用開發者門戶最簡單的方法是透過 Docker 安裝 MemGPT(見下面的說明)。
快速開始(伺服器)
選項 1(推薦):使用 Docker Compose 執行
1.在您的系統上安裝 Docker。
2.複制倉庫:git clone [email protected]:cpacker/MemGPT.git
3.執行 docker compose up
4.在瀏覽器中存取 memgpt.localhost 以檢視開發者門戶。
選項 2:使用 CLI 執行:
1.執行 memgpt server
2.在瀏覽器中存取 localhost:8283 以檢視開發者門戶。
伺服器執行後,你可以使用 Python 客戶端或 REST API 連線到 memgpt.localhost(如果你使用 Docker Compose 執行)或 localhost:8283(如果墨使用 CLI 執行)來建立使用者、代理等。該服務需要使用 MemGPT 管理員密碼進行認證,可以透過執行 export MEMGPT_SERVER_PASS=password 來設定。
支持的終端和後端
MemGPT 設計為與模型和提供者無關。支持以下大型語言模型(LLM)和嵌入終端:
當使用 MemGPT 與開放大型語言模型(例如從 HuggingFace 下載的模型)時,MemGPT 的效能將高度依賴於大型語言模型的函式呼叫能力。你可以在 Discord 上的 #model-chat 頻道以及這個電子試算表中找到已知與 MemGPT 配合使用效果良好的大型語言模型/模型列表。
完整文件連結
https://memgpt.readme.io
計畫連結
https://github.com/cpacker/MemGPT
關註「 開源AI計畫落地 」公眾號
與AI時代更靠近一點