講AI,靠得住, 藍色字型 求關註
大家好,我是
老渡
。
最近 Agent 智慧體很火, 人工智慧領域國際上最權威的學者之一吳恩達教授,不但總結了Agent設計模式,還親自下場開發了一款 轉譯Agent 。
這個 轉譯Agent 在 設計模式和提示詞工程等方面都有許多值得學習的地方。老渡拆解一下,跟朋友們分享。
轉譯Agent 計畫已開源,有三千多的關註
下面是
轉譯Agent
的實作思路,分三步驟
讓大模型直接轉譯,得到初版結果
讓大模型反思初版轉譯結果,提出建設性的改進建議
使用這些建議改進轉譯
上面的每一步都是一個 Prompt。
對於我們大部份人來說,一般只用到第一步。而 轉譯Agent 之所以被稱為Agent,核心就在後兩步。
後兩步用到的是 Agent設計模式 中的 反思模式 ,就是讓大模型檢查、評估上一步生成的結果,提出改進,並重新生成。
其中,第二步
反思Prompt
的內容如下:
得到改進意見後,第三步的Prompt會基於這些改進意見重新轉譯
上述Prompt提示詞,有兩個值得學習的地方—— 分隔符 和 系統提示 。
正好前不久「首屆GPT-4提示工程大賽」 奪冠者也提到了這兩點。
分隔符 是特殊的符號,能幫助大語言模型辨識提示詞中哪些部份是有特殊含義的,一般可用 XML 標簽表示。
比如,上面的提示詞中<SOURCE_TEXT>、<TRANSLATION>、<EXPERT_SUGGESTIONS>等XML標簽用來標識 原文 、 轉譯後的內容 和 改進意見 。
大模型可以直接讀懂這些分隔符,而不需要在提示詞中增加額外解釋,從而簡化整體提示詞的復雜度。
系統提示 是向大語言模型提供的關於其應如何響應的額外指示。這被視為一種額外的提示,因為它超出了大模型的常規使用者提示。
上面提示詞中 system_message 中的內容就是系統提示詞。
轉譯Agent 計畫是用Python程式碼編寫的,實作了簡單工作流將上述三個步驟串聯起來。
老渡之前也分享過基於Agent平台開發智慧體,不管是 dify 還是扣子,都支持工作流,配置好大模型和提示詞,就可以零程式碼復現這個轉譯Agent了。
老渡最近一直在研究利用大模型開發Agent智慧體, 公眾號 持續分享。