當前位置: 妍妍網 > 碼農

圍觀AI大佬吳恩達教授開發的Agent智慧體

2024-06-24碼農

講AI,靠得住, 藍色字型 求關註

大家好,我是 老渡

最近 Agent 智慧體很火, 人工智慧領域國際上最權威的學者之一吳恩達教授,不但總結了Agent設計模式,還親自下場開發了一款 轉譯Agent

這個 轉譯Agent 設計模式和提示詞工程等方面都有許多值得學習的地方。老渡拆解一下,跟朋友們分享。

轉譯Agent 計畫已開源,有三千多的關註

下面是 轉譯Agent 的實作思路,分三步驟

  • 讓大模型直接轉譯,得到初版結果

  • 讓大模型反思初版轉譯結果,提出建設性的改進建議

  • 使用這些建議改進轉譯

  • 上面的每一步都是一個 Prompt。

    對於我們大部份人來說,一般只用到第一步。而 轉譯Agent 之所以被稱為Agent,核心就在後兩步。

    後兩步用到的是 Agent設計模式 中的 反思模式 ,就是讓大模型檢查、評估上一步生成的結果,提出改進,並重新生成。

    其中,第二步 反思Prompt 的內容如下:

    得到改進意見後,第三步的Prompt會基於這些改進意見重新轉譯

    上述Prompt提示詞,有兩個值得學習的地方—— 分隔符 系統提示

    正好前不久「首屆GPT-4提示工程大賽」 奪冠者也提到了這兩點。

    分隔符 是特殊的符號,能幫助大語言模型辨識提示詞中哪些部份是有特殊含義的,一般可用 XML 標簽表示。

    比如,上面的提示詞中<SOURCE_TEXT>、<TRANSLATION>、<EXPERT_SUGGESTIONS>等XML標簽用來標識 原文 轉譯後的內容 改進意見

    大模型可以直接讀懂這些分隔符,而不需要在提示詞中增加額外解釋,從而簡化整體提示詞的復雜度。

    系統提示 是向大語言模型提供的關於其應如何響應的額外指示。這被視為一種額外的提示,因為它超出了大模型的常規使用者提示。

    上面提示詞中 system_message 中的內容就是系統提示詞。

    轉譯Agent 計畫是用Python程式碼編寫的,實作了簡單工作流將上述三個步驟串聯起來。

    老渡之前也分享過基於Agent平台開發智慧體,不管是 dify 還是扣子,都支持工作流,配置好大模型和提示詞,就可以零程式碼復現這個轉譯Agent了。

    老渡最近一直在研究利用大模型開發Agent智慧體, 公眾號 持續分享。