当前位置: 欣欣网 > 码农

基于.NET8的AI大模型管理

2024-05-31码农

TokenAI

TokenAI打造企业级人工智能客服管理系统!

AIDotNet API

AIDotNet API 是一款强大的人工智能模型管理系统,其主要目的是为了实现多种AI模型的统一管理和使用。通过AIDotNet API,用户可以轻松地管理和使用众多AI模型,而且AIDotNet API兼容OpenAI的接口格式,使得使用更加方便。

AIDotNet API提供了丰富的功能:

  1. 管理功能:支持用户管理,渠道管理以及token管理,简化了管理流程。

  2. 数据统计预览:可以清晰地看到各种数据的统计情况,帮助用户更好地了解使用情况。

  3. 日志查看:支持日志查看,方便用户跟踪和解决问题。

  4. 系统设置:可以根据需要进行各种系统设置。

  5. 外部Chat链接接入:支持接入外部Chat链接,提升交互体验。

  6. 支付宝购买账号余额:提供支付宝购买账号余额的功能,方便用户进行充值。

此外,AIDotNet API还支持多种AI大模型,包括OpenAI、星火大模型、Claudia、智谱AI、Ollama、通义千问(阿里云)、AzureOpenAI以及腾讯混元大模型,满足了用户对各种AI模型的需求。

AIDotNet API还支持多种数据库,包括SqlServer、PostgreSql、Sqlite以及MySql,用户可以根据自己的需要选择合适的数据库。

基于 .NET Core 8 实现 使用 EntityFrameworkCore 对于数据库操作。基于 MiniApis 提供WebAPI服务。

功能实现

  • 支持用户管理

  • 支持渠道管理

  • 支持token管理

  • 提供数据统计预览

  • 支持日志查看

  • 支持系统设置

  • 支持接入外部Chat链接

  • 支持支付宝购买账号余额

  • AI大模型支持列表

  • OpenAI (支持function)

  • 星火大模型(支持function)

  • Claudia

  • 智谱AI

  • Ollama

  • 通义千问(阿里云)

  • AzureOpenAI(支持function)

  • 腾讯混元大模型

  • 支持数据库

  • SqlServer 配置类型[sqlserver,mssql]

  • PostgreSql 配置类型[postgresql,pgsql]

  • Sqlite 配置类型[sqlite,默认]

  • MySql 配置类型[mysql]

  • 修改 appsettings.json ConnectionStrings:DBType 配置项即可切换数据库类型。请注意切换数据库不会迁移数据。

    简单使用

    默认账号密码 admin admin

    环境变量

  • DBType sqlite | [postgresql,pgsql] | [sqlserver,mssql] | mysql

  • ConnectionString 主数据库连接字符串

  • LoggerConnectionString 日志数据连接字符串

  • 使用docker compose启动服务:

    version:'3.8'
    services:
    ai-dotnet-api-service:
    image:hejiale010426/ai-dotnet-api-service:latest
    container_name:ai-dotnet-api-service
    volumes:
    -./data:/data
    environment:
    -TZ=Asia/Shanghai
    -DBType=sqlite# sqlite | [postgresql,pgsql] | [sqlserver,mssql] | mysql
    -ConnectionString=datasource=/data/token.db
    -LoggerConnectionString=datasource=/data/logger.db

    使用docker run启动服务

    docker run --name ai-dotnet-api-service --network=gateway -v $PWD/data:/data -e TZ=Asia/Shanghai -e DBType=sqlite -e ConnectionString="data source=/data/token.db" -e LoggerConnectionString="data source=/data/logger.db" hejiale010426/ai-dotnet-api-service:latest

    Sqlite构建

    创建 docker-compose.yml 文件,内容如下:

    version:'3.8'
    services:
    ai-dotnet-api-service:
    image:hejiale010426/ai-dotnet-api-service:latest
    container_name:ai-dotnet-api-service
    ports:
    -8080:8080
    volumes:
    -./data:/data
    environment:
    -TZ=Asia/Shanghai
    -DBType=sqlite
    -ConnectionString=datasource=/data/token.db
    -LoggerConnectionString=datasource=/data/logger.db

    docker run版本

    docker run -d -p 8080:8080 --name ai-dotnet-api-service -v $(pwd)/data:/data -e TZ=Asia/Shanghai -e DBType=sqlite -e ConnectionString=data source=/data/token.db -e LoggerConnectionString=data source=/data/logger.db hejiale010426/ai-dotnet-api-service:latest

    执行以下命令启动服务

    sudo docker-compose up -d

    然后访问 http://localhost:8080 即可看到服务启动成功。

    PostgreSql构建

    创建 docker-compose.yml 文件,内容如下:

    version:'3.8'
    services:
    ai-dotnet-api-service:
    image:hejiale010426/ai-dotnet-api-service:latest
    container_name:ai-dotnet-api-service
    ports:
    -8080:8080
    volumes:
    -./data:/data
    environment:
    -TZ=Asia/Shanghai
    -DBType=postgresql
    -"ConnectionString=Host=127.0.0.1;Port=5432;Database=token;Username=token;Password=dd666666"
    -"ConnectionString=Host=127.0.0.1;Port=5432;Database=logger;Username=token;Password=dd666666"

    docker run版本

    docker run -d \
    --name ai-dotnet-api-service \
    -p 8080:8080 \
    -v $(pwd)/data:/data \
    -e TZ=Asia/Shanghai \
    -e DBType=postgresql \
    -e "ConnectionString=Host=127.0.0.1;Port=5432;Database=token;Username=token;Password=dd666666" \
    -e "ConnectionString=Host=127.0.0.1;Port=5432;Database=logger;Username=token;Password=dd666666" \
    hejiale010426/ai-dotnet-api-service:latest

    执行以下命令启动服务

    sudo docker-compose up -d

    然后访问 http://localhost:8080 即可看到服务启动成功。

    SqlServer构建

    创建 docker-compose.yml 文件,内容如下:

    version:'3.8'
    services:
    ai-dotnet-api-service:
    image:hejiale010426/ai-dotnet-api-service:latest
    container_name:ai-dotnet-api-service
    ports:
    -8080:8080
    volumes:
    -./data:/data
    environment:
    -TZ=Asia/Shanghai
    -DBType=sqlserver
    -"ConnectionString=Server=127.0.0.1;Database=token;User Id=sa;Password=dd666666;"
    -"ConnectionString=Server=127.0.0.1;Database=logger;User Id=sa;Password=dd666666;"

    docker run版本

    docker run -d \
    --name ai-dotnet-api-service \
    -p 8080:8080 \
    -v $(pwd)/data:/data \
    -e TZ=Asia/Shanghai \
    -e DBType=sqlserver \
    -e "ConnectionString=Server=127.0.0.1;Database=token;User Id=sa;Password=dd666666;" \
    -e "ConnectionString=Server=127.0.0.1;Database=logger;User Id=sa;Password=dd666666;" \
    hejiale010426/ai-dotnet-api-service:latest

    执行以下命令启动服务

    sudo docker-compose up -d

    然后访问 http://localhost:8080 即可看到服务启动成功。

    MySql构建

    创建 docker-compose.yml 文件,内容如下:

    version:'3.8'
    services:
    ai-dotnet-api-service:
    image:hejiale010426/ai-dotnet-api-service:latest
    container_name:ai-dotnet-api-service
    ports:
    -8080:8080
    volumes:
    -./data:/data
    environment:
    -TZ=Asia/Shanghai
    -DBType=mysql
    -"ConnectionString=mysql://root:dd666666@localhost:3306/token"
    -"ConnectionString=mysql://root:dd666666@localhost:3306/logger"

    docker run版本

    docker run -d \
    --name ai-dotnet-api-service \
    -p 8080:8080 \
    -v $(pwd)/data:/data \
    -e TZ=Asia/Shanghai \
    -e DBType=mysql \
    -e "ConnectionString=mysql://root:dd666666@localhost:3306/token" \
    -e "ConnectionString=mysql://root:dd666666@localhost:3306/logger" \
    hejiale010426/ai-dotnet-api-service:latest

    执行以下命令启动服务

    sudo docker-compose up -d

    然后访问 http://localhost:8080 即可看到服务启动成功。

    部署体验站点: https://api.token-ai.cn