當前位置: 妍妍網 > 碼農

PIG AI | Java大模型套用開發平台重磅釋出

2024-05-27碼農
任意PIG AI Architecture
系統白皮書
──
COPYRIGHT pig4cloud © 2024 . ALL RIGHTS RESERVED.


親愛的使用者:

我們很高興向您介紹 PIG AI ,一款創新的大語言模型(LLM)套用開發平台。PIG AI 結合了後端即服務(Backend as Service)和 LLMOps 的理念,使開發者能夠快速搭建生產級的生成式 AI 套用。

主要特點

  • 快速搭建 AI 套用 :利用後端即服務和 LLMOps,輕松構建高效的生成式 AI 套用。

  • 零技術門檻 :即使您是非技術人員,也能參與到 AI 套用的定義和數據營運過程中。

  • 高效協作 :為開發者和非技術人員提供協作平台,共同打造優質 AI 解決方案。

  • 無論您是開發者還是業務人員,PIG AI 都能幫助您在 AI 領域輕松入門,快速實作創意。立即體驗 PIG AI 帶來的高效和便捷!

  • 測試環境:http://home.pig4cloud.com:38083

  • 帳號/密碼:aitest/123456

  • 多模型支持

    PIG AI 為以下模型提供商提供原生支持:

    模型 LLM Embedding Function Call
    OpenAI ChatGPT ✔️ ✔️ ✔️
    Anthropic Claude ✔️ ✔️ ✔️
    Mistral AI ✔️ ✔️ ✔️
    Gemini ✔️ ✔️ ✔️
    阿裏雲通義千問 ✔️ ✔️ ✔️
    Gemma:7B ✔️
    Llama2:13B ✔️ ✔️
    Llama2:70B ✔️
    Code Llama:7B ✔️

    理論上,我們的系統支持 Ollama 本地推理框架客戶端,這使得一鍵部署像 Llama 2、Mistral、Llava 等大型語言模型成為可能。PIG AI 可以輕松接入 Ollama 部署的大型語言模型,並利用其強大的推理和 embedding 能力。這意味著我們的系統可以利用 Ollama 提供的高效、可延伸的推理框架,從而為使用者提供更快速、更準確的語言理解和處理功能。透過與 Ollama 的整合,我們能夠為使用者帶來更優秀的語言模型服務,助力他們在各種套用場景下實作更高水平的智慧化處理。

    RAG 知識庫

    PIG AI 的知識庫功 透過上傳外部數據,使用者可以將各種型別的資訊整合到 PIG AI 的知識庫中,包括文件、資料庫查詢結果、即時數據等。



    知識庫

    將數據上傳到 PIG AI 知識庫後,PIG AI 會自動將你的文件分割成內容片段進行儲存,並透過PIG AI 內容來回答使用者問題。

    例如:

  • 你可以將幾十頁的產品介紹文件匯入知識庫,當 Bot 使用了這個知識庫後,你就可以擁有一個專屬產品顧問 Bot。

  • 你可以將常關註的資訊網站或線上論文匯入知識庫,透過知識庫的自動更新能力,讓 Bot 幫助你收集最新數據。

  • 多模態

    PIG AI 知識庫可以處理和理解來自不同模態(例如文本、影像、PDF、Office 等)的文件資訊,使大型模型能夠跨越多種輸入形式進行學習和推理。

    深度文件理解 :能夠從各類復雜格式的非結構化數據中提取真知灼見。

    基於樣版的文本切片 :提供多種文本樣版,實作智慧且可控的文本處理。

    降低幻覺(hallucination) 透過文本切片過程視覺化,支持手動調整,確保答案提供關鍵參照的快照並支持追根溯源。

    相容各類異構資料來源 支持豐富的檔型別,包括 Word 文件、PPT、Excel 表格、txt 檔、圖片、PDF、影印件、影印件、結構化數據和網頁等。

    為解決目前 RAG(Retrieval-Augmented Generation)在實施中遇到的問題,如資料庫的多路召回能力和數據處理問題。透過提供專用的資料庫和工具,旨在使 RAG 更易於被更多企業和個人使用,並解鎖更多套用場景。

    Function 函式

    將自然語言轉換為 API 呼叫參數或查詢資料庫的條件;提取文本中的結構化數據 。提供基於通用大型模型的即時回呼業務函式能力,Function Calling 使得 Chat Completion 模型可以呼叫外部函式獲取資訊再針對輸出進行格式化。能夠方便地擴充套件任何業務邏輯,使模型更了解業務,更敏捷地構建您的私域大模型。使用函式呼叫能力,可以滿足當前大模型無法解決的部份問題,包括:

  • 在進行自然語言互動時,可以透過呼叫外部工具回答問題(類似於 ChatGPT 外掛程式)

  • 將自然語言轉換為呼叫 API 時使用的參數,或者查詢資料庫時使用的條件

  • 從文本中提取結構化數據,實作 AI 表單

  • 任意業務聯動

    將大模型回呼業務系統的功能 融入現有業務流程中 是一項關鍵任務。在這個過程中,首先需要經過現有業務的許可權判斷、參數校驗等業務邏輯判斷,以確保呼叫的合法性和準確性。一旦透過了這些判斷,大模型回呼功能就會被觸發,開始執行相應的智慧邏輯。

    這種打通大模型和業務系統的壁壘,實際上是在傳統套用中引入了更智慧的處理方式。透過大模型的回呼,業務系統可以獲得更精準、更智慧的決策支持,從而提升業務處理的效率和準確性。這種智慧化的套用場景不僅可以最佳化現有業務流程,還可以為企業帶來更多的有利競爭和創新可能性。

    擴充套件能力

    PIG AI 提供了強大的功能呼叫支持,允許使用者自行開發和實作 function calling,從而實作業務聯動能力。這意味著使用者可以根據自身業務需求,開發客製的功能模組,並透過 PIG AI 提供的方便 API 介面將這些功能整合到套用中。

    使用者可以根據自身需求開發具體的業務邏輯和處理流程,並將其封裝為可被 PIG AI 呼叫的函式或服務。 這樣可以實作更高度客製化和個人化的套用功能。

    API 介面整合 : PIG AI 提供了簡單易用的 API 介面,使用者可以透過實作 Function Calling,將自訂功能模組整合到 PIG AI 的套用中。 這樣,使用者可以利用 PIG AI 強大的語言理解和處理能力,結合自身的業務邏輯,構建出完整的智慧套用。

    Chat2SQL

    Chat2SQL 能夠實作 自然語言與 SQL 的轉換 ,從而極大地提升了工作效率。在 AI 時代,資料庫研發人員可以將 Chat2SQL 視為必備的利器,它為他們提供了便捷而高效的工作方式。即使是不懂 SQL 的營運或業務人員,也可以輕松地使用 Chat2SQL 進行快速的數據查詢和報表生成。

    Chat2SQL 還具有智慧化的功能, 能夠根據上下文自動選中相關的數據表 ,並生成與業務需求相匹配的 SQL 查詢語句。這種智慧關聯功能使得使用者無需深入了解資料庫結構,就能夠輕松地執行復雜的數據查詢操作,極大地降低了使用門檻,提高了工作效率。

    Java 技術棧

    基於 PIG AI 進行系統開發,,因為它提供了豐富的模型支持,包括公有模型和私有模型,並且具有方便的擴充套件性和二次開發性。讓我詳細解釋一下:

    1. 豐富的模型支持 : PIG AI 提供了多種大模型支持,涵蓋了文本、圖片視覺、語音辨識等模型。這些模型既包括了公有模型,也支持使用者上傳和使用私有模型,因此可以滿足各種不同場景和需求下的系統開發。

    2. 方便的擴充套件性 : PIG AI 提供了友好的介面和工具,方便開發人員輕松地擴充套件系統功能。 PIG AI 提供的擴充套件機制來實作。

    3. 二次開發支持 : PIG AI 提供了靈活的二次開發支持,可以根據具體需求進行客製化開發。開發人員可以基於 PIG AI 提供的模型和工具,快速構建出符合業務需求的系統,並且可以根據實際情況進行調整和最佳化。

    4. 與 Java 的緊密整合 : PIG AI 提供了與 Java 緊密整合的功能,這使得 Java 開發者可以更輕松地使用 PIG AI 的功能。透過 PIG AI 提供的 Java SDK 和 API,開發人員可以在 Java 計畫中直接呼叫 PIG AI 的功能,實作各種智慧化套用場景。

    綜上所述,基於 PIG AI 進行系統開發可以讓大模型距離 Java 開發者更近一步,為他們提供了豐富的模型支持、方便的擴充套件性和二次開發支持。這將有助於開發人員快速構建出功能強大、智慧化的系統套用。

    伺服端技術棧

  • 程式語言:Java17/21

  • 開發框架:Spring Boot 3.2

  • 安全框架:Spring Security + Spring Authorization Server

  • 任務排程:Quartz 、 XXL-JOB

  • 流程編排:LiteFlow

  • 持久層框架:MyBatis && MyBatis Plus

  • 資料庫支持: MySQL、Oracle、SQL Server、PostgreSQL、 達夢、 TiDB

  • 前端技術棧

  • 框架:Vue 3.2、TypeScript

  • CSS 框架:Sass、TailwindCSS

  • 元件庫:ElementPlus

  • 打包構建工具:Vite

  • 狀態管理:Pinia

  • 規則引擎

    生成式 AI 因其特性而在各地區受到不同程度的管控,針對這一挑戰,我們的系統 透過規則引擎平台實作了高度客製化 的解決方案。我們系統提供基於規則引擎的多維度風險控制審查,涵蓋敏感詞、IP、tokens 等多個關鍵維度。這些規則不僅僅是符合當地相關服務管理辦法的要求,更能快速擴充套件模型接入和業務開發,以滿足不斷變化的業務需求。

    🍪 重要說明

    由於生成式 AI 的特性,其在不同地區的管控措施也會有所不同。請所有使用者務必遵守所在地的相關法律。 本產品只允許個人或團隊進行產品原型開發、概念證明(PoC)、個人測試等試驗學習性套用 。詳細參考:中國生成式人工智慧服務管理辦法(征求意見稿)

    如果您是企業級客戶,並且在經過產品原型驗證階段仍希望繼續使用我們的平台能力,歡迎與我們聯系。

    聯系我們

    CONTACT US

    1 如果您想了解PIG AI 更詳細的功能介紹和產品資訊請查閱我們的產品文件:

    請在PC端開啟 👉 ai.pig4cloud.com

    2 如果您有疑問或者建議,可以透過支持中心進行工單搜尋反饋

    請在PC端開啟 👉 支持中心

    3 相關產品咨詢或更多資訊了解,歡迎聯系我們: [email protected]