整理 | 王啟隆
出品 | AI 科技大本營（ID：rgznai100）
一分鐘速覽新聞點！
科大訊飛震撼釋出：星火 AI 模型 API 全面開放
騰訊雲 AI 程式碼助手全面對外開放
AI Pin 開發團隊 Humane 考慮出售公司
歐盟率先立法！全球第一個人工智慧法律框架「AI 法案」正式透過
上交大最新論文助力 AI 模型推理加速，GPU 記憶體占用大幅降低
革新多模態學習！哈工大團隊推出「Uni-MoE」：統一多模態大模型的跨域 MoE
Sam Altman 回應安全爭議：GPT-4 級別的 AI 系統已經「足夠安全」
音樂界的「ChatGPT」：Suno 融資 1.25 億美元
全球 AI 要聞
科大訊飛震撼釋出：星火 AI 模型 API 全面開放
今日，國內人工智慧領軍企業科大訊飛宣布了一項重大舉措，正式對公眾開放其星火系列 API 能力，旨在賦能廣大開發者與企業，推動 AI 技術套用進入全新階段。此次開放不僅包括永久免費的星火 Lite API，更有 Pro/Max 版本 API 呼叫費用大振幅下調，最低至 0.21 元/萬 tokens，極大降低了 AI 技術接入與套用的成本障礙。
科大訊飛此番動作，特別是對於處理復雜數據如長文本、長圖文、長語音的能力開放，無疑為開發者提供了強有力的工具支持。這意味著無論是初創團隊還是成熟企業，都能夠更加便捷地將先進的自然語言處理、影像辨識等技術融入產品與服務中，加速創新步伐，開拓 AI 套用場景的無限可能。
騰訊雲 AI 程式碼助手全面對外開放
騰訊雲今日正式對外宣布旗下 AI 程式碼助手全面對外開放，目前開發者、開發團隊、企業客戶可以透過騰訊雲官網 線上體驗 。 騰訊雲 AI 程式碼助手是一款定位程式碼智慧補全和生成的數位化工具，它基於騰訊混元程式碼模型，可以為開發者、開發團隊及企業客戶提供安全合規、高粘度體驗的編碼場景 AIGC 服務 ，具備程式碼補全、技術對話、程式碼診斷、單元測試等功能，支持 Python、Java、C/C++、Go 等數十種程式語言或框架，以及 VS Code、JetBrains 等主流整合式開發環境。
目前，AI 程式碼助手在騰訊集團內部已經實作了 50% 以上的開發崗員工覆蓋，其程式碼生成率達 30% 以上，編碼時間平均縮短 40% 以上，結合內部大規模投產經驗，研發效能提升了 20% 以上。
AI Pin 開發團隊 Humane 考慮出售公司
科技界新星 Humane Inc.，由前蘋果工程師 Imran Chaudhri 與 Bethany Bongiorno 攜手創立，近期被曝正考慮出售公司業務，此舉緊跟其明星產品 AI Pin 遭遇的市場挑戰與批評浪潮。AI Pin 作為一款旨在減輕智慧型手機依賴的AI穿戴裝置，憑借無屏、聲控設計，曾一度引發高度期待。
盡管成功籌集超過 2.3 億美元風險投資，並達成多項高端合作，AI Pin 自 2024 年 4 月發貨以來，卻因電池續航不足、過熱及操作界面復雜等問題飽受使用者詬病，市場反饋遠低於初期宣傳造勢所設定的高標。加之公司財務狀況備受關註，Hum an e 此次探索出售，或意在尋求戰略合作夥伴，為突破當前困境、穩固其在科技領域的未來定位鋪路。
歐盟率先立法！全球第一個人工智慧法律框架「AI 法案」正式透過
歐盟裏程碑式地批準了全球第一個全面的 AI 法律框架——【人工智慧法案】（AI Act），為 AI 技術的監管樹立了新標桿。該法案聚焦於依據潛在風險和影響對 AI 技術進行分類管理，旨在促進安全可信的 AI 系統開發，同時保護歐盟公民權益。
要點概覽：
全面監管體系 ：AI 法案限於歐盟法律管轄範圍，軍事防禦及科研活動豁免。
風險分級管理 ：依據風險程度對 AI 系統實施監管，高風險領域如關鍵基礎設施、醫療裝置需接受嚴格審查、透明度要求及人工監督。
禁止套用清單 ：明確禁止侵犯公民權利的 AI 套用，涵蓋基於敏感特征的生物辨識分類、無目標面部影像抓取、職場與校園情緒辨識、社會信用評分及純基於畫像的預測警務。
執法與處罰：歐盟委員會內設 AI 辦公室統一執法，專家團提供技術和倫理指導，成員國代表參與監管。違規者最高可被罰 3500 萬歐元或全球收入 7%，取其高者。
實施時間表 ：法案 下月生效 ，全面實施 預期兩年內完成 ，特定條款按 6 個月至三年不等逐步推行。
全球效應 ：歐盟此舉引領全球 AI 監管風向，為英國、美國等地制定標準奠定基礎，有望成為全球可信 AI 標準。
上交大最新論文助力 AI 模型推理加速，GPU 記憶體占用大幅降低
隨著大語言模型(LLMs)展現出卓越的理解能力，其在即時套用場景如聊天機器人中的可延伸性面臨嚴峻挑戰，尤其是在推理過程中 GPU 記憶體使用效率低下。傳統上，透過在 GPU 記憶體中儲存預先計算的鍵值對(KV 緩存)來加速這一過程，但現有壓縮方法主要集中在預計算 KV 緩存的修剪上，忽視了層間依賴關系及預計算階段的巨大記憶體消耗問題。
一項最新研究深入挖掘了這一缺陷，揭示了影響後續生成的關鍵鍵值對數量隨層遞減的現象，並提出透過註意力權重的一致性來提取這些關鍵資訊。基於此發現，研究團隊推出了創新解決方案——「PyramidInfer」。該技術透過逐層保留核心上下文來實作 KV 緩存的分層壓縮，在保證效能的前提下顯著減少計算的鍵值對數量，從而節省大量記憶體資源。
實驗結果顯示，「PyramidInfer」相較於當前主流加速庫 Accelerate，推理吞吐量提升了 2.2 倍，同時在 KV 緩存方面實作了超過 54% 的 GPU 記憶體縮減，為大規模語言模型的高效部署開辟了新途徑。
論文連結： https://arxiv.org/abs/2405.12532
革新多模態學習！哈工大團隊推出「Uni-MoE」：統一多模態大模型的跨域 MoE
哈工大（深圳）的研究團隊近日釋出了一項重大成果——「Uni-MoE」，一個基於稀疏 MoE 架構的統一多模態大語言模型。標誌著多模態學習領域的一大突破。
Uni-MoE 模型首次將視訊、影像、文本、音訊和語音等多種模態整合於一身，利用 MoE 架構的強大並列能力，支持 8 個以上專家模型在混合模態中並列訓練。該模型創新性地設計了模態特定的編碼器與連結器，以構建統一的多模態表示。此外，透過實施稀疏 MoE 架構，模型實作了模態級數據並列和專家級模型並列，極大地提高了訓練和推理效率。
研究團隊還引入了漸進式訓練策略，包括跨模態對齊、模態特定專家的指令數據訓練，以及采用 LoRA 對混合多模態指令數據進行框架微調，以此增強多專家間的協作與泛化能力。
論文連結： https://arxiv.org/abs/2405.11273
計畫連結： https://uni-moe.github.io/
Sam Altman 回應安全爭議：GPT-4 級別的 AI 系統已經「足夠安全」
今日，OpenAI 執行長 Sam Altman 在微軟 Build 大會上與微軟技術長 Kevin Scott 對話。盡管此時距 ，Altman 卻未直接回應爭議，而是強調了開發者在人工智慧創新未來中的關鍵作用，並對 GPT-4o 的語音模式表達了意外的喜愛。
Altman 指出，安全性和實用性隨著模型智慧的提升而增強，盡管目前仍有改進空間，但 GPT-4 已被廣泛認為足夠安全，適用於多種場景。他 鼓勵開發者抓住當下這一特殊時刻，將 AI 視為一個變革性的平台，不應等待下一個技術浪潮，而是要立即行動。
音樂界的「ChatGPT」：Suno 融資 1.25 億美元
Suno，一家由物理學家轉身音樂科技企業家 Mikey Shulman 創立的前沿音樂 AI 初創企業，宣布順利完成 1.25 億美元融資，旨在將音樂創作民主化，讓每個人都能借助 AI 表達音樂才華。該公司創新平台僅需輸入文字提示或歌詞，即可生成旋律、和聲及完整曲目，徹底改變音樂創作、消費及盈利模式。
本輪融資由 Lightspeed Venture Partners、Nat Friedman、Daniel Gross、Matrix 及 Founder Collective 等知名風投領投，彰顯了投資者對 Suno 推動音樂產業轉型的信心，及其 AI 技術的廣闊前景。Shulman 表示，這筆資金將用於加速 AI 技術研發，擴大覆蓋範圍，目標是讓全球十億人透過音樂表達自我。
開發者正在迎接新一輪的技術浪潮變革。由 CSDN 和高端 IT 咨詢和教育平台 Boolan 聯合主辦的 2024 年度「全球軟體研發技術大會」秉承幹貨實料（案例）的內容原則，將於 7 月 4 日-5 日在北京正式舉辦。大會共設定了 12 個大會主題：大模型智慧套用開發、軟體開發智慧化、AI 與 ML 智慧運維、雲原生架構……詳情👉： http://sdcon.com.cn/
