當前位置: 妍妍網 > 碼農

基於.NET8的AI大模型管理

2024-05-31碼農

TokenAI

TokenAI打造企業級人工智慧客服管理系統!

AIDotNet API

AIDotNet API 是一款強大的人工智慧模型管理系統,其主要目的是為了實作多種AI模型的統一管理和使用。透過AIDotNet API,使用者可以輕松地管理和使用眾多AI模型,而且AIDotNet API相容OpenAI的介面格式,使得使用更加方便。

AIDotNet API提供了豐富的功能:

  1. 管理功能:支持使用者管理,渠道管理以及token管理,簡化了管理流程。

  2. 數據統計預覽:可以清晰地看到各種數據的統計情況,幫助使用者更好地了解使用情況。

  3. 日誌檢視:支持日誌檢視,方便使用者跟蹤和解決問題。

  4. 系統設定:可以根據需要進行各種系統設定。

  5. 外部Chat連結接入:支持接入外部Chat連結,提升互動體驗。

  6. 支付寶購買帳號余額:提供支付寶購買帳號余額的功能,方便使用者進行充值。

此外,AIDotNet API還支持多種AI大模型,包括OpenAI、星火大模型、Claudia、智譜AI、Ollama、通義千問(阿裏雲)、AzureOpenAI以及騰訊混元大模型,滿足了使用者對各種AI模型的需求。

AIDotNet API還支持多種資料庫,包括SqlServer、PostgreSql、Sqlite以及MySql,使用者可以根據自己的需要選擇合適的資料庫。

基於 .NET Core 8 實作 使用 EntityFrameworkCore 對於資料庫操作。基於 MiniApis 提供WebAPI服務。

功能實作

  • 支持使用者管理

  • 支持渠道管理

  • 支持token管理

  • 提供數據統計預覽

  • 支持日誌檢視

  • 支持系統設定

  • 支持接入外部Chat連結

  • 支持支付寶購買帳號余額

  • AI大模型支持列表

  • OpenAI (支持function)

  • 星火大模型(支持function)

  • Claudia

  • 智譜AI

  • Ollama

  • 通義千問(阿裏雲)

  • AzureOpenAI(支持function)

  • 騰訊混元大模型

  • 支持資料庫

  • SqlServer 配置型別[sqlserver,mssql]

  • PostgreSql 配置型別[postgresql,pgsql]

  • Sqlite 配置型別[sqlite,預設]

  • MySql 配置型別[mysql]

  • 修改 appsettings.json ConnectionStrings:DBType 配置項即可切換資料庫型別。請註意切換資料庫不會遷移數據。

    簡單使用

    預設帳號密碼 admin admin

    環境變量

  • DBType sqlite | [postgresql,pgsql] | [sqlserver,mssql] | mysql

  • ConnectionString 主資料庫連線字串

  • LoggerConnectionString 日誌數據連線字串

  • 使用docker compose啟動服務:

    version:'3.8'
    services:
    ai-dotnet-api-service:
    image:hejiale010426/ai-dotnet-api-service:latest
    container_name:ai-dotnet-api-service
    volumes:
    -./data:/data
    environment:
    -TZ=Asia/Shanghai
    -DBType=sqlite# sqlite | [postgresql,pgsql] | [sqlserver,mssql] | mysql
    -ConnectionString=datasource=/data/token.db
    -LoggerConnectionString=datasource=/data/logger.db

    使用docker run啟動服務

    docker run --name ai-dotnet-api-service --network=gateway -v $PWD/data:/data -e TZ=Asia/Shanghai -e DBType=sqlite -e ConnectionString="data source=/data/token.db" -e LoggerConnectionString="data source=/data/logger.db" hejiale010426/ai-dotnet-api-service:latest

    Sqlite構建

    建立 docker-compose.yml 檔,內容如下:

    version:'3.8'
    services:
    ai-dotnet-api-service:
    image:hejiale010426/ai-dotnet-api-service:latest
    container_name:ai-dotnet-api-service
    ports:
    -8080:8080
    volumes:
    -./data:/data
    environment:
    -TZ=Asia/Shanghai
    -DBType=sqlite
    -ConnectionString=datasource=/data/token.db
    -LoggerConnectionString=datasource=/data/logger.db

    docker run版本

    docker run -d -p 8080:8080 --name ai-dotnet-api-service -v $(pwd)/data:/data -e TZ=Asia/Shanghai -e DBType=sqlite -e ConnectionString=data source=/data/token.db -e LoggerConnectionString=data source=/data/logger.db hejiale010426/ai-dotnet-api-service:latest

    執行以下命令啟動服務

    sudo docker-compose up -d

    然後存取 http://localhost:8080 即可看到服務啟動成功。

    PostgreSql構建

    建立 docker-compose.yml 檔,內容如下:

    version:'3.8'
    services:
    ai-dotnet-api-service:
    image:hejiale010426/ai-dotnet-api-service:latest
    container_name:ai-dotnet-api-service
    ports:
    -8080:8080
    volumes:
    -./data:/data
    environment:
    -TZ=Asia/Shanghai
    -DBType=postgresql
    -"ConnectionString=Host=127.0.0.1;Port=5432;Database=token;Username=token;Password=dd666666"
    -"ConnectionString=Host=127.0.0.1;Port=5432;Database=logger;Username=token;Password=dd666666"

    docker run版本

    docker run -d \
    --name ai-dotnet-api-service \
    -p 8080:8080 \
    -v $(pwd)/data:/data \
    -e TZ=Asia/Shanghai \
    -e DBType=postgresql \
    -e "ConnectionString=Host=127.0.0.1;Port=5432;Database=token;Username=token;Password=dd666666" \
    -e "ConnectionString=Host=127.0.0.1;Port=5432;Database=logger;Username=token;Password=dd666666" \
    hejiale010426/ai-dotnet-api-service:latest

    執行以下命令啟動服務

    sudo docker-compose up -d

    然後存取 http://localhost:8080 即可看到服務啟動成功。

    SqlServer構建

    建立 docker-compose.yml 檔,內容如下:

    version:'3.8'
    services:
    ai-dotnet-api-service:
    image:hejiale010426/ai-dotnet-api-service:latest
    container_name:ai-dotnet-api-service
    ports:
    -8080:8080
    volumes:
    -./data:/data
    environment:
    -TZ=Asia/Shanghai
    -DBType=sqlserver
    -"ConnectionString=Server=127.0.0.1;Database=token;User Id=sa;Password=dd666666;"
    -"ConnectionString=Server=127.0.0.1;Database=logger;User Id=sa;Password=dd666666;"

    docker run版本

    docker run -d \
    --name ai-dotnet-api-service \
    -p 8080:8080 \
    -v $(pwd)/data:/data \
    -e TZ=Asia/Shanghai \
    -e DBType=sqlserver \
    -e "ConnectionString=Server=127.0.0.1;Database=token;User Id=sa;Password=dd666666;" \
    -e "ConnectionString=Server=127.0.0.1;Database=logger;User Id=sa;Password=dd666666;" \
    hejiale010426/ai-dotnet-api-service:latest

    執行以下命令啟動服務

    sudo docker-compose up -d

    然後存取 http://localhost:8080 即可看到服務啟動成功。

    MySql構建

    建立 docker-compose.yml 檔,內容如下:

    version:'3.8'
    services:
    ai-dotnet-api-service:
    image:hejiale010426/ai-dotnet-api-service:latest
    container_name:ai-dotnet-api-service
    ports:
    -8080:8080
    volumes:
    -./data:/data
    environment:
    -TZ=Asia/Shanghai
    -DBType=mysql
    -"ConnectionString=mysql://root:dd666666@localhost:3306/token"
    -"ConnectionString=mysql://root:dd666666@localhost:3306/logger"

    docker run版本

    docker run -d \
    --name ai-dotnet-api-service \
    -p 8080:8080 \
    -v $(pwd)/data:/data \
    -e TZ=Asia/Shanghai \
    -e DBType=mysql \
    -e "ConnectionString=mysql://root:dd666666@localhost:3306/token" \
    -e "ConnectionString=mysql://root:dd666666@localhost:3306/logger" \
    hejiale010426/ai-dotnet-api-service:latest

    執行以下命令啟動服務

    sudo docker-compose up -d

    然後存取 http://localhost:8080 即可看到服務啟動成功。

    部署體驗站點: https://api.token-ai.cn