一鍵接入大模型：One-Api本地安裝配置實操

前言

最近準備學習一下 Semantic Kernel , OpenAI 的 Api 申請麻煩，所以想透過 One-api 對接一下國內的線上大模型，先熟悉一下 Semantic Kernel 的基本用法,本篇文章重點記錄一下 OneApi 安裝配置的過程。

訊飛星火有 3.5 模型的 200w 個人免費 token ，可以拿來學習。

訊飛星火申請連結 ^[1]

什麽是 One-Api?

透過標準的 OpenAI API 格式存取所有的大模型

支持多種大模型：

one-api github repo ^[2]

本地 Docker Destop 安裝 One-Api

docker pull justsong/one-api


使用 SQLite 的部署命令：

docker run --name one-api -d --restart always -p 3000:3000 -e TZ=Asia/Shanghai -v C:/LLM/OneApi-V-Data:/data justsong/one-api


因為我的宿主機是 Windows 的作業系統所以數據卷對映的宿主機盤需要註意是帶 Windows 碟符

one-api 配置界面

瀏覽器開啟 http://localhost:3000/

第一次登入後需要修改密碼。

配置渠道

金鑰這個地方需要註意格式：APPID|APISecret|APIKey

拿到金鑰就可以在我們計畫中以 OpenAI 格式去請求我們的大模型介面

測試

地址

http://localhost:3000/v1/chat/completions


請求頭

Authorization：Bearer {OneApiToken}


介面入參

{
"model": "SparkDesk-v3.5",
"messages": [
{
"role": "user",
"content": "給我講個笑話吧。"
}
],
"temperature": 0.7
}


介面回參

{
"id": "chatcmpl-04025f1484c54770a8d854de360fd06e",
"object": "chat.completion",
"created": 1715000959,
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "當然可以，這是一個我最近聽到的笑話：\n\n有一天，一只貓走進了一個酒吧，然後走到吧台前坐下，對酒保說：「我要一杯牛奶。」\n\n酒保驚訝地看著貓，然後說：「你是我見過的第一只會說話的貓。」\n\n貓看著酒保，回答說：「考慮到你的服務速度，我也沒什麽好驚訝的。」"
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 6,
"completion_tokens": 75,
"total_tokens": 81
}
}


最後

到現在為止我們的 One-Api 對接訊飛星火已經成功了,後面就可以愉快的進入 Semantic Kernel 入門學習的教程啦，社群內也有大佬提供了星火大模型的 SDK( Sdcb.SparkDesk )透過 SK 的 CustomLLM 實作 ITextGenerationService 等介面也可以愉快的使用 SK 當然這也是我們後面要學習的內容。

參考文獻

^[3]

參考資料

[1]

訊飛星火申請連結: https://xinghuo.xfyun.cn