現在還沒有用上ChatGPT的朋友，平替方法來了，在本地部署大模型 。 實作與GPT幾乎一樣的問答效果！
這是一篇關於大模型 本地部署的教程 ， 使用目前最強開源大模型LlaMA3，這篇先總結一種最簡單、操作步驟最精簡的本地部署方法。 主要有2步。
2024年4月19日，Meta公司釋出Llama3，共有8B，70B兩種參數，分為基礎預訓練和指令微調兩種模型。與Llama2相比，Llama3使用了
15T
tokens的訓練數據，在推理、數學、程式碼生成、指令跟蹤等能力獲得大振幅提升。
使用完全免費。
步驟1：安裝Ollama
Ollama可以簡單理解為客戶端，實作和大模型的互動。ollama軟體win和mac都包括：
在這裏已經為大家準備好，只需要在我的公眾號回復訊息：
ollama
，就能下載到軟體。
下載之後開啟，直接點選Next以及Install安裝ollama，安裝步驟非常簡單。
步驟2：安裝Llama
下載Llama3，開啟新的終端/命令列視窗，執行以下命令：
ollama run llama3
程式會自動下載Llama3的模型檔，預設是8B，也就80億參數版本，個人電腦完全可以執行。
等待安裝完成：
以上就已經安裝完畢，到現在大模型已經在本地部署完成。
使用Llama3
開啟一個終端視窗，再次輸入
ollama run llama3
，自動就會啟動，進入會話界面：
發第一條訊息，
你是誰，用中文回答
，與Llama2相比，Llama3確實在回答速度上大幅提升，基本小於秒級：
發第二條訊息，
Python程式碼，氣泡排序，程式碼+解釋
，回答響應非常快，如下圖所示：
再告訴它，用中文回答，返回中文回答結果：
總結
Llama3 本地部署大模型，這是最精簡的一種方法，推薦大家先按照此方法去實踐，使用起來。
作者：郭震
來源 ：郭震AI
Crossin的新書【 碼上行動：用ChatGPT學會Python編程 】已經上市了。 本書以ChatGPT為輔助，系統全面地講解了如何掌握Python編程，適合Python零基礎入門的讀者學習。
購買後可加入讀者交流群，Crossin為你開啟陪讀模式，解答你在閱讀本書時的一切疑問。
Crossin的其他書籍：
添加微信 crossin123 ，加入編程教室共同學習 ~
感謝 轉發 和 點贊 的各位~
