阿裏大模型又雙叒叕開源了:剛剛,Qwen2 宣布開源!
不到一年時間,阿裏雲通義千問先後開源近 10 款不同尺寸的大語言模型,之前開源的 Qwen 系列 72B、110B 模型就曾多次登頂 HuggingFace 的 Open LLM Leaderboard 開源模型榜單。
今天,Qwen2 更是在釋出後兩個小時,就被 HuggingFace 聯合創始人發推宣布:
Qwen2-72B 沖上 HuggingFace 開源大模型榜單 Open LLM Leaderboard 第一名,全球排名 最高!
效能強勁、使用免費,我第一時間就去研究了技術報告,以及如何使用。 本文 將手把手教你如何在自己電腦本地上跑最新的 Qwen2 模型 ,Windows、MacOS 系統都支持。
01
這次開源了啥?
Qwen2 開源了多個不同尺寸的模型,包括 Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B 和 Qwen2-72B
Qwen2-72B 在包括自然語言理解、知識、程式碼、數學及多語言等多項能力上 均顯著超越當前領先的模型,比如開源界的國際標桿 Llama-3-70B。
小模型方面,Qwen2 系列模型基本能夠超越同等規模的最優開源模型甚至更大規模的模型。
02
手把手教你部署 Qwen2
使用之前推薦過的開源工具:Ollama,這是一個用來本地部署和執行大模型的工具。看到 GitHub 上這麽多開源的大模型,不要眼饞。使用 Ollama 就能實作在你的電腦本地上執行大模型。
如下分別是 MacOS 和 Windows 系統的部署最新阿裏通義千問大模型的教程。
MacOS 部署 Qwen2 模型教程
官網搜尋 Ollama ,然後下載對應你作業系統的版本
2. 安裝後執行 Ollama,點選 install 即可
3. 去開啟你的終端 terminal ,輸入如下命令,就可以下載並部署大模型了
ollamarunqwen2:1.5b
註意,1.5b 是模型的尺寸,你可以替換成任何的開源尺寸。比如 qwen2:72b 就是參數量比較大的模型,只不過下載時間比較長。
4. 輸入命令後,模型開始下載:
5. 模型下載部署完成:
6. 開始使用大模型:
Windows 作業系統部署 Qwen2 模型教程
1. 前往 Ollama 下載 Windows 版本安裝檔
2. 然後執行下載的 OllamaSetup.exe 檔
3. 去下載部署最新的通義千問大模型
你只需要 win鍵+R 輸入 cmd 開啟你的命令列,然後輸入如下命令。就開始下載這個大模型了
ollamarunqwen2:72b
你只需等待下載完成,進行安裝部署。
03
測測 Qwen2 模型效果
1️⃣ 請用數學原理、公式、符號等為我創作一首數學情詩。必須包含如下關鍵詞:π、love、996
2️⃣ 將如下轉譯成英文:謬贊、桃花源、獻醜、發嗲、噱頭、嘴替、顯眼包、奧裏給、躺贏、陰陽怪氣、我裂開了
推薦長按圖片轉譯,對比前後轉譯結果。
Qwen2 的轉譯結果絕了,不僅輸出了拼音,而且每一個詞都轉譯的很好。比如桃花源轉譯成烏托邦;奧利給轉譯成經常被用來表示贊同或鼓勵。
3️⃣ 推理問題
輸入事件:醫生告訴他不要擔心。基本上沒有病變嚴重。
問題:請從下面選擇輸入事件的原因
選項1:小名在回家的路上遇到了一個奧利裏。
選項2:小名的父親被查出患有視網膜母細胞瘤。
04
開源地址
現在,Qwen2 系列模型均已開源在 Hugging Face 和ModelScope上。後續,阿裏雲通義千問會把 Qwen2 擴充套件成多模態模型,融入視覺及語音的理解。 期待住了!
開源地址:https://github.com/QwenLM/Qwen2
開源社群:https://huggingface.co/Qwen