人工智慧，是時候和我們「對齊」了？

*本文為「三聯生活周刊」原創內容

新刊出爐！ 點選上圖，一鍵下單↑↑↑

「通用人工智慧與超級對齊 」

主筆｜苗千

在2023年4月，我們以【ChatGPT改變世界——重新認識工作】為題，對人工智慧技術進行了一次封面報道。做那一期報道最重要的原因就在於ChatGPT的橫空出世，讓我們在驚奇之余也很快意識到，人類社會很有可能會因此發生改變—— 很多傳統的工作崗位會迅速被人工智慧所取代，一些新興工作崗位則會隨之出現。

時隔不到一年，我們再一次以人工智慧為主題進行封面報道，就是因為在剛剛過去的2023年裏，人工智慧的發展以及它對於人類社會造成的影響都遠超我們的想象。各式各樣的人工智慧已經成為很多人日常生活和工作的重要的助手。整理文本、多種語言轉譯、編寫電腦程式，以及生成文字、影像、動畫等工作皆可透過人工智慧來輕松完成。

剛剛過去的2023年，註定將以「人工智慧大爆發」的年份而被人銘記。

一年多的時間裏，ChatGPT從3.5升級到了4.0版本，進步肉眼可見：它的知識範圍從固定的資料庫發展到可以自行上網尋找資料；它與使用者交流的方式從單純的文字增加到了圖片，它不但可以解讀使用者發送的圖片，更是可以根據文字描述生成影像…… 透過一台聯網的電腦，在對話方塊內與ChatGPT進行交流，使用者仿佛能夠感到，與自己進行對話的是和自己具有同等智力，但知識範圍和解決問題的能力又遠超自己的智慧體。

另一方面，人工智慧研究領域遠不像看上去那樣平靜。ChatGPT展示出人工智慧套用的巨大價值。它的開發者「OpenAI」公司的估值因此一飛沖天，內部的幾位電腦科學家成為世界級明星，OpenAI最大的外部投資者微軟公司更是因此收獲匪淺。

其他幾家科技巨頭不可能對此視而不見。尤其是谷歌公司，多年來一直被認為在人工智慧研究領域處於世界領先位置。所謂「GPT模型」中的「T」，指代的是「轉換器模型」（Transformer），使得人工智慧模型透過文字進行學習——這項關鍵技術正是出自谷歌公司，如今被OpenAI搶了先機，只能尋機後發制人。

谷歌公司果然不負眾望，在2023年底推出了自己的人工智慧產品「雙子座」（Gemini）。 產品尚未真正上線，其演示視訊就足以讓人目瞪口呆。這款多模態大模型人工智慧產品分為三個版本，根據谷歌公司的評測，其在32項功能的評測中有30項的表現超過了ChatGPT。除了在文字方面的輸出看上去與ChatGPT不相上下，Gemini還展現出對圖片和視訊資訊有著超強的理解和推理能力，同時可以針對提問給出混合著文字和影像的多模態輸出——這是ChatGPT尚且不具備的。到了2024年初，谷歌公司的聊天機器人「Bard」已經融合了Gemini的能力。很多使用者認為，升級版Bard的表現完全不遜於ChatGPT。

差不多同時間，在2024年1月3日，一段由「DeepMind」公司和史丹佛大學的研究人員合作開發的「Mobile ALOHA」人形機器人（humanoid）在廚房和臥室裏進行各種家務工作的視訊開始在網上流傳。這個所謂的機器人，實際上是一對可以在小範圍內活動的機器臂，每秒可以移動1.42公尺，最重可以舉起100公斤的物體。在視訊中它們操作鍋碗瓢盆、掃把、各種家用電器，乃至洗衣疊被的精細程度都絲毫不輸給人類。

「Mobile ALOHA」的開發者解釋，這款機器人的開發經費只有3.2萬美元，視訊中有些任務是由操作者透過遠端控制完成的，有些則是由機器人透過模仿學習嘗試完成的。雖然這款家務機器人的真實能力未必像視訊中展示的那麽完美，但已經顯示出巨大的潛力——它可以透過「模仿學習」（imitation learning），從操縱者的遠端控制中習得技能，控制能力將越來越強。 此外，除了「Mobile ALOHA」之外，還有多家公司的人工智慧機器人正準備上線。

一個世界級熱門研究領域已經出現，全世界勞動力市場隨之發生變動已成定局。 我們似乎很難準確描述當今人工智慧領域的局面：各大科技公司似乎都醞釀著推出自己的產品。這些產品各有特色，猶如當年的五花八門的手機市場。我們也難免去想象，在不遠的將來，所有這些人工智慧產品若是能夠全部統一起來，形成一個具有超級智慧的智慧體，會是怎樣的情形。

人工智慧究竟已經發展到了怎樣的地步，能夠幫助人類進行哪些工作？我們可能很難得出一個全面客觀的結論，但是從【自然】（ Nature ）期刊發表的一些文章標題就可以大致了解其中的一個側面：

【使用AlphaFold進行高度精確的蛋白質結構預測】（ Highly accurate protein structure prediction with AlphaFold ，2021年7月發表）；

【這款由GPT驅動的機器人化學家自主設計反應並制造藥物】（ This GPT-powered robot chemist designs reactions and makes drugs —on its own ，2023年12月發表）；

【DeepMind人工智慧在未解決的難題上勝過人類數學家】（ DeepMind AI outdoes human mathematicians on unsolved problem ，2023年12月發表）；

【人工智慧與量子計算的結合：它會徹底改變科學嗎？】（ The AI–quantum computing mash-up: will it revolutionize science?，2024年1月發表 ）；

【不依賴人類演示解決奧林匹克競賽幾何問題】（ Solving olympiad geometry without human demonstrations ，2024年1月發表）……

可以看出， 人工智慧的發展已經遠遠超出了語言轉譯和數據整理的範疇，即便是在最前沿的科研領域也開始與人類科學家並駕齊驅。 正如OpenAI的首席科學家伊爾亞·蘇茨克維所說，人工智慧模型在受到訓練的過程中可以逐漸展示出訓練目標之外的能力，例如多款用於科學研究的人工智慧模型已經具有了極強的理解能力和推理能力。

人工智慧模型甚至可以透過自動生成訓練數據進行「自監督學習」（Self-Supervised Learning）。根據DeepMind公司的介紹，這款用於研究幾何問題的人工智慧系統「AlphaGeometry」將神經語言模型的預測能力與規則約束推理引擎相結合，兩者協同工作。又透過開發一種能夠生成大量合成訓練數據的方法產生出1億個訓練範例， 最終達到可以在沒有任何人類演示的情況下訓練AlphaGeometry，從而繞過了原始訓練數據不足的瓶頸。

透過AlphaGeometry進行訓練的例子可以看出，人類在通往達到「通用人工智慧」（Artificial General Intelligence，AGI）的路上又減少了一個阻礙，或許最基本的通用人工智慧已經出現。

盡管在研究領域已經是一個熱門話題，但目前關於「通用人工智慧」仍然沒有一個清晰的定義。我們大約可以將其理解為一種可以完成多種工作的深度學習系統——這種系統在任何方面都可以表現得不遜色於人類。從這個角度來看， 我們所處的時代，是人工智慧開始崛起的真正起點。

正是因為還沒有明確的定義，關於通用人工智慧將在何時出現，仍是一個充滿爭議的話題，但大多數人都對此表現得極其樂觀。 例如傑佛瑞·辛頓和伊爾亞·蘇茨克維都曾經表示，通用人工智慧可能會在未來5年至10年的時間裏出現。甚至有人認為，目前的ChatGPT已經可以算作最初級的通用人工智慧。

當通用人工智慧出現，對於人類來說究竟意味著什麽？對於過去而言，這大約意味著人類在此前數十年時間裏試圖透過電子電腦建造出與人類智力不相上下的智慧體的努力終於取得了成功。不過對於未來而言，則意味著更大的不確定性。 當人類早已習慣了作為整個地球的主宰，宇宙中唯一已知具有智慧的生命，又該如何面對這個自己制造出來的智慧體？

我們可以想象一下這個距離現實可能並不太遙遠的未來圖景：這個智慧體或許就存在於你的手機或是電腦中，甚至可能是某個陪在你身邊的實體。你們之間可以進行毫無阻礙的交流，相互理解。它給你的感覺或許與身邊的其他朋友沒有太大的區別，但實際上它進行計算幾乎不會犯錯，它擁有近乎無限的記憶力，它理解了人類社會幾乎所有的知識，擁有超強的推理能力。你希望它擁有和你相同的道德感和價值觀，但並不確定；你希望它是你的朋友，但也同樣不確定。

人類需要確定，一旦人工智慧具有了意識，通用人工智慧成為現實，那麽它必須具有和人類相同的興趣和價值觀，否則很可能給人類社會帶來危害。 從2023年7月起，伊爾亞·蘇茨克維便開始在OpenAI領導一個為期四年的名為「超級對齊」（superalignment）的計畫，要利用占到OpenAI20%的算力來研究如何駕馭比人類更聰明的人工智慧系統。

人工智慧的能力在很多方面已經足以媲美人類大腦，並且已經幫助人類取得了諸多成就。但種種跡象表明， 這一切還僅僅是一個全新時代的開端。通用人工智慧的前景美好，但與真正抵達尚有一段距離； 要實作所謂「超級對齊」，更是需要人工智慧的開發者、使用者，乃至各國政府、立法機構統一目標，從模型設計、訓練數據、訓練方法等多個層面對人工智慧的發展進行約束。

無論還有多遠，很多人已經開始翹首企盼這種全新智慧體的出現。 實際上，無論人工智慧發展到何種程度，它都源自人類的設計，因此也屬於人類智慧的延伸。人類對它唯有寄予最美好的期盼。我們期待，當有一天通用人工智慧以一種平等的姿態出現在人類面前，它會友好地說出一句：人類，我是你的朋友。

更多精彩報道詳見本期新刊

「通用人工智慧與超級對齊 」

點選下圖，一鍵下單

本 期更多精彩

| 封面故事 |

| 經濟 |

| 社會 |

| 文化 |

| 專欄 |

點選下方圖片

開通數位刊會員年卡解鎖本期 👇

本周新刊

「通用人工智慧與超級對齊 」

點選圖片，一鍵下單紙刊！