一个桌面程序能将你的计算机变成AIPC?还能支持本地运行大模型?甚至还能支持一切硬件设施?
同时还能将 大模型集 中 在一个地方,这让我们在使用时只需要点两下鼠标就能切换到另一个大模型?
这么牛掰的桌面应用程序Jan开源啦!
扫码加入AI交流群
获得更多技术支持和交流
(请注明自己的职业)
项目简介
Jan的一大亮点就是能够支持 本地运行大模型 ,不需要连接互联网。我们与大模型的一切对话、文档和文件都是 存储到本地 , 我们可以在~/jan本地文件系统上找到自己的用户数据。
通过本地运行大模型,可以很好地保护我们自己的
隐私
。(但如果想要以
远程/API
模式
使用 Jan,即与 ChatGPT 聊天,他们仍可能会收集您的信息)
同时如果你不需要本地模型时也可以随时切换到远程模型,这就使得我们在使用大模型时就非常的灵活。
而且在使用过程中还可以在推理设置中调整模型的 高级设置 ,如温度和最大 tokens。
Jan 还提供了 API 端点 ,方便你在自定义应用程序或其他 AI 应用中使用,这些 API 端点与 OpenAI 兼容 ,所以你可以与任何支持 OpenAI 模型 的应用程序一起使用。
还可以通过 扩展选项 设置其他功能,例如添加自 定义插件 以增强 Jan 的功能或将其与其他工具和服务 集成。
并且在我们下载时Jan对我们也非常友好。不仅在安装时只需要点点鼠标,而且 兼容任何硬件 ,可通过Docker/Helm 在 Mac、Windows和Linux 上使用。
就GPU而言,Jan支持 Nvidia、AMD(通过 Vulkan)和Int el。
总结
大模型帮助我们完成自己的任务,而Jan是帮助我们更好使用大模型,有了它之后我们不论是综合不同大模型的回答还是感受不同大模型的能力都是轻而易举了。
而且Jan使用起来非常简单方便,简直是傻瓜式操作,赶快来尝试一下吧!
项目链接:
https://github.com/janhq/jan
关注「 向量光 年 」公众号
加速全行业向AI的改变
关注「 开源AI项目落地 」公众号
与AI时代更靠近一点
关注「 AGI光年 」公众号
获取每日最新咨询