项目简介
该项目基于AI大模型api实现的自建后端Chat服务,支出同步响应及流式响应,完美呈现打印机效果。支持一键切换ChatGPT(3.5、4.0)模型、文心一言(支持Stable-Diffusion-XL作图)、通义千问、讯飞星火、智谱清言(ChatGLM)等主流模型,后续模型持续对接中。项目包含java服务端、网页端、移动端及管理后台配置。
基于AI大模型api实现的ChatGPT服务,支持一键切换ChatGPT(3.5、4.0)模型,文心一言(支持Stable-Diffusion-XL作图)、通义千问、讯飞星火、智谱清言(ChatGLM)等主流模型,支出同步响应及流式响应,完美呈现打印机效果。
具体介绍:
支持文心一言Stable-Diffusion-XL作图功能
内置了各种assistant模版,按指定prompt输出,也可后台创建assistant模版
支持切换模型对话聊天,保存对话记录及根据上下文输出
管理端端采用Vue2、Element UI,Chat网页端使用Vue3、TypeScript、NaiveUI进行开发
服务端采用Spring Boot、Spring Security + JWT、Mybatis-Plus、Lombok、 Mysql & Redis,代码通俗易懂,上手即用
完善的权限控制,权限认证使用Jwt,支持多终端认证系统
管理端项目,chat-master-admin
网页端项目,chat-master-web
移动端项目,chat-master-uniapp
演示
已实现功能
多模型对话,支持ChatGPT(3.5、4.0)、文心一言(支持Stable-Diffusion-XL作图)、通义千问、讯飞星火、智谱清言(ChatGLM)
支持后台配置及使用assistant模版,按指定prompt输出
存储历史对话及聊天内容,可开启/关闭根据上下文输出
支持按使用次数或者开通会员使用,也可全局判断不校验使用次数及会员,电量赠送次数或者不校验电量可在chat-master-admin中进行配置
支持分享功能(基础上开发)
支持个人信息修改
待实现功能
vip及svip开通功能
分享赠送次数功能
知识库功能
websocket响应(对接移动端)
绘画
用户上传自己密钥使用
模型功能对比
版本记录请查看这里版本记录
模型 | 是否支持System | 天气查询 | 绘画 |
---|---|---|---|
ChatGPT | 支持 | 不支持 | 支持 |
文心一言 | 不支持(传递会报错) | 可以回复(不准) | 使用Stable-Diffusion-XL |
通义千问 | 支持 | 支持(效果没讯飞好) | 未接入 |
讯飞星火 | 支持 | 支持(准) | 不支持 |
智谱清言 | 支持 | 不支持 | 支持(API待接入目前有点贵) |
内置功能
工作台:集成多个应用和功能的系统页面,该页面主要为用户提供快速访问、信息聚会、个性化等功能。
数据中心:用于管理和分析系统数据的功能,向用户提供直观和易懂的信息,方便使用者快速了解系统数据。
聊天管理:可以后台查看所有模型回复内容。
订单管理:可以接入充值赠送模型使用次数功能。
会员中心:查看所有用户信息,及开通模型次数功能。
助手中心:配置Assistant分类及prompt信息。
配置中心:配置系统可使用模型及移动端信息配置。
系统管理:对系统中基础业务进行管理维护。
系统监控:针对系统运行状态进行查看及定时任务配置管理
环境搭建/运行&提示
ChatGPT需要在后台配置管理中进行站点配置或添加微信交流
1、idea导入chat-master项目,请更换spring.profiles.active为dev
2、执行doc文件夹下面chat_gpt全量sql文件,在gpt_model配置可运行模型信息,在gpt_openkey配置模型密钥信息
3、版本更新时候需执行doc/update.sql
4、更改application-dev中redis连接和mysql连接配置
5、启动ChatApplication中main方法
com.master.chat.api.base.config.InitBean 初始化模型
com.master.chat.gpt.service.IGptService 接口调用
com.master.chat.gpt.service.SseService sse调用
开发环境
工具 | 版本号 | 下载 |
---|---|---|
JDK | 1.8 | https://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html |
Mysql | 5.7 | https://www.mysql.com/ |
Maven | 3.6.3 | https://maven.apache.org/ |
nginx | 1.10 | http://nginx.org/en/download.html | |
开发技术
技术 | 说明 | 官网 |
---|---|---|
Spring Boot | 容器+MVC框架 | https://spring.io/projects/spring-boot |
Spring Security Oauth2 | 认证和授权框架 | https://spring.io/projects/spring-security-oauth |
Lombok | 简化Java开发 | https://github.com/JourWon/test-lombok |
Netty | 网络通信框架 | https://github.com/JourWon/test-lombok |
JWT | JWT登录支持 | https://github.com/jwtk/jjwt |
MyBatis-plus | 代码生成、物理分页 | https://baomidou.com/ |
dynamic-datasource | 多数据源 | https://www.kancloud.cn/tracy5546/dynamic-datasource/2264611 |
Redis | 分布式缓存 | https://redis.io/ |
Druid | 数据库连接池 | https://github.com/alibaba/druid |
OSS | 对象存储 | https://github.com/aliyun/aliyun-oss-java-sdk |
quartz | 定时任务 | https://github.com/quartz-scheduler/quartz |
框架特点
使用@RepeatSubmit(interval = 1000)注解对接口进行重复提交限制,interval默认值为5s内,可以自定义时间范围。
使用@RateLimiter注解对接口进行限流。
使用@DataScope(deptAlias = "t1", userAlias = "t2")进行数据过滤。
使用@PreAuthorize("hasAuthority('system:config:remove')")注解可以对接口进行权限校验。
使用@Log(value = "刷新系统配置缓存", type = SysLogTypeConstant.CONFIG, businessType = BusinessTypeEnum.CLEAN) 注解进行系统日志存储。
使用@DS("master")切换数据源,优先方法高于类
引入阿里巴巴easy-excel框架,轻松编写导出、导入接口。
使用Lombok简化java代码,省略getter、setter方法。(@Accessors(chain = true)支持链式操作)
完善的自动生成代码功能,增加DTO、Command、VO类。
独立的定时任务列表管理功能。
支持多端登录或只能当前账号登录功能,需要后台配置。
使用阿里云、腾讯云对象存储及短信功能,支持本地存储。
查看源代码地址,请关注微信公众号,回复数字1001