一個桌面程式能將你的電腦變成AIPC?還能支持本地執行大模型?甚至還能支持一切硬體設施?
同時還能將 大模型集 中 在一個地方,這讓我們在使用時只需要點兩下滑鼠就能切換到另一個大模型?
這麽牛掰的桌面應用程式Jan開源啦!
掃碼加入AI交流群
獲得更多技術支持和交流
(請註明自己的職業)
計畫簡介
Jan的一大亮點就是能夠支持 本地執行大模型 ,不需要連線互聯網。我們與大模型的一切對話、文件和檔都是 儲存到本地 , 我們可以在~/jan本地檔案系統上找到自己的使用者數據。
透過本地執行大模型,可以很好地保護我們自己的
私密
。(但如果想要以
遠端/API
模式
使用 Jan,即與 ChatGPT 聊天,他們仍可能會收集您的資訊)
同時如果你不需要本地模型時也可以隨時切換到遠端模型,這就使得我們在使用大模型時就非常的靈活。
而且在使用過程中還可以在推理設定中調整模型的 高級設定 ,如溫度和最大 tokens。
Jan 還提供了 API 端點 ,方便你在自訂應用程式或其他 AI 套用中使用,這些 API 端點與 OpenAI 相容 ,所以你可以與任何支持 OpenAI 模型 的應用程式一起使用。
還可以透過 擴充套件選項 設定其他功能,例如添加自 定義外掛程式 以增強 Jan 的功能或將其與其他工具和服務 整合。
並且在我們下載時Jan對我們也非常友好。不僅在安裝時只需要點點滑鼠,而且 相容任何硬體 ,可透過Docker/Helm 在 Mac、Windows和Linux 上使用。
就GPU而言,Jan支持 Nvidia、AMD(透過 Vulkan)和Int el。
總結
大模型幫助我們完成自己的任務,而Jan是幫助我們更好使用大模型,有了它之後我們不論是綜合不同大模型的回答還是感受不同大模型的能力都是輕而易舉了。
而且Jan使用起來非常簡單方便,簡直是傻瓜式操作,趕快來嘗試一下吧!
計畫連結:
https://github.com/janhq/jan
關註「 向量光 年 」公眾號
加速全行業向AI的改變
關註「 開源AI計畫落地 」公眾號
與AI時代更靠近一點
關註「 AGI光年 」公眾號
獲取每日最新咨詢