作者 | Gary Marcus
原文 | https://garymarcus.substack.com/p/the-sam-altman-playbook
整理 | 王啟隆
出品 | 【 】編輯部
今年三月的時候，美國知名 AI 學者、紐約大學名譽教授
蓋瑞·馬庫斯
（Gary F. Marcus）曾經釋出了一篇雄文【
深度學習正在碰壁：人工智慧要取得真正的進步需要什麽？
】，抨擊深度學習的種種問題，表示實作 AGI 需要一次範式轉變，大模型現在更多的是炒作。
這才兩個月不到，深度學習的地基——
多層感知器（
MLP
, Multilayer Perceptron
）還真就受到了重大挑戰，近日釋出的
似乎驗證了馬庫斯的預言，讓他本就爭議性滿滿的這篇文章更具話題性。
作為 這場 AI 浪潮最強勢的反對者和批評者 之一，此前馬庫斯還在 X 上和埃隆·馬斯克（Elon Musk）打賭：「我用 100 萬美元，賭你的最新預測——‘到 2025 年底，人工智慧將比人類任何個體都更聰明’——是錯誤的。」 這場賭約後面還被 投資者兼 ingk.com 執行長 Damion Hankejh 「火上澆油」，將賭註升級至 1000 萬美元。
馬庫斯的炮火從未停歇。近日，OpenAI CEO 山姆·阿特曼（Sam Altman）參加了美國史丹佛大學的企業思想領袖講壇（ Entrepreneurial Thought Leaders Lecture ），再度就 GPT-4、GPT-5 和 AGI 等話題發表了看法。這次演講的觀點和此前 相差無幾，但卻引起了馬庫斯的「怒火」。
5 月 5 日，馬庫斯在自己 substack 的頻道「馬庫斯談人工智慧」（Marcus on AI）釋出了最新文章【 Sam Altman 的劇本：恐懼、否認不確定性與炒作 】（ The Sam Altman Playbook: Fear, The Denial of Uncertainties, and Hype ）。這次馬庫斯措辭極為嚴厲，攻擊性很強，字裏行間對 Altman 在公眾媒體的「話術」進行批判；文章還引起了 HackerNews 的激烈討論：
使用者 mindwok 評論道，盡管他也對 Sam Altman 持懷疑態度，但馬庫斯的批評顯然有些過激。
使用者 godelski 表示，自己也覺得馬庫斯如今變得越來越極端，雖然起初有些合理的批評，但後來逐漸偏離軌域。
使用者 motbus3 則表達了對 Altman 的不滿，認為他的某些言論不負責任且帶有邊緣性欺詐性質，特別是將 OpenAI 轉變為不釋出模型的營利組織，並終止了 對 OpenGym 等開源計畫的支持，認為這種行為不誠實且可能觸及法律邊界。
……
讀者爭論不斷，那麽這篇文章究竟寫了什麽樣的內容呢？我們整理了全文轉譯，部份內容做刪改，如下：
「假設」還是「吹牛」？
如何向世界證明你的創意和業務最終可能價值 7 萬億美元？
展示自己卓越的成就；
無限的 暢想 潛力；
對那些不便明言的真 相 輕描淡寫、避而不談 。
Sam Altman 如今正穿梭於各大城市，走訪世界頂尖學府，日復一日地為籌措資金和擡升估值奔走。今年，除了對 GPT-4 進行了一次小升級之外，他並沒有推出新產品，因此他正在做的是 銷售願景和承諾 。
讓我們從他的承諾開始說起。幾天前，Sam 在史丹佛公開承諾，無論造價多少，通用人工智慧（AGI）終將物有所值：
① 盡管當前大模型存在關於可靠性、推理、規劃和幻覺的巨大已知問題； ② 盡管整個 AI 領域資本雄厚，卻在這一整年（ 實際上是幾十年來 ）對這些難題仍束手無策；Altman 仍在這次史丹佛演講中毫無保留地大膽宣稱：「 我們正在創造 AGI 」。
無論 GenAI 最終是否能成為 AGI（ 這一點仍然是個未知數 ），按任何合理的標準來看，我們都還有很長的路要走——但如果聽信 Sam 這樣的聲明，你將永遠不會了解到這一點。（ 他當然也沒有談論最終是否由 OpenAI 或是其他人 將達到 AGI，更沒有提到我們將在哪個十年達到 AGI ）
除了史丹佛的演講，Altman 最近還在與麻省理工學院的【Technology Review】進行的采訪中聲稱：「 AGI Agent（ 通用人工智慧代理 ）即將到來 」 （ 且他 仍未提供任何跡象表明那些人工智慧歷史難題即將迎刃而解 ）：
他還暗示以後會推出一種超級秘書助手（ 且完全忽視了人工智慧秘書涉及私密、監視和安全性的重大問題 ）：
他的這些「 假設 」從未被質疑過，而針對他的 反對觀點 也從未被考慮過。（ 當有人問他是否願意在達沃斯與我辯論時，他禮貌地拒絕了 ）
自信 也是 Sam Altman 作秀中的一個重要組成部份 。在史丹佛，他言之鑿 鑿：「我認為在未來的很多年裏，我們每年都會擁有明顯更有能力的系統」，仿佛此事板上釘釘，但事實並非如此。
在過去的十四個月裏，我們並沒有看到 OpenAI 的明顯進步 —— 這已經是對他樂觀預期的反證 —— 而且人們越來越擔心是否有足夠高品質的數據來維持 GPT 先前的進步，以及關於幻覺、推理、規劃、異常值和可靠性的基本問題。
Sam 對此只字不提 。
Altman 的演講背後常暗含一種假設：「 沒有 AI，我們將陷入困境 」。
正如 Geoffrey Miller 在 X 上所指出的那樣： Altman 的潛台詞往往是「 我們需要 AGI 來解決衰老問題並行現長壽療法，所以如果你不支持我們，你會死的。 」 也就是所謂 一個 巴掌一個糖：長壽是糖，死亡是 Altman 的巴掌。
為了讓這一切顯得可信，Sam 運用了一個獨特組合：獨特的個人魅力 + 溫和的個人謙遜 + 對離奇言論的絕對自信。 他裝作自己是個很好的人，同時不切實際地暗示著解決 AGI 的方案在他的掌握之中 ；他沒有提供證據證明這一點，並且很少考慮已經提出的對當前方法的許多批評（ 最好是假裝它們不存在 ）。他看起來是如此友善，所以 反駁他似乎就顯得不得體了。 （ 伸手不打笑臉人 ）
荒謬、傲慢的言論，往往以「救世主」的口吻親切、溫和、安靜的方式提出——但從不被懷疑地審視。這就是 Sam Altman 的作風。
請對這些陳述背後的基本假設保持警惕。
「真實」還是「演技」？
接下來談談 Altman 的另一種「表達技巧」： 給聽眾打預防針，含糊地承認自己對人工智慧風險的擔憂，但並不深入探討。
透過科技實作豐饒——不論是智慧、能源、長壽——並不能解決所有問題，也無法奇跡般地讓所有人幸福。
然而，這無疑是一件偉大的事情，它拓展了我們的選擇空間。在我個人看來，這就像是一種道義上的責任。
……
近期我走訪大學過程中最令人詫異的發現是：這一觀點在某些群體中引發了意想不到的爭議。
在上面這則推文裏，Altman 承認了 AI 並不是萬能的，但卻完全沒有承認與 AI 相關的風險 。 （ 他非常清楚這些風險的存在 ）他使自己免受批評，認為重大問題（ 貧困、氣候科學 ）不僅僅是技術問題，但 卻沒有采取任何措施 來解決這些問題，並且完全忽視了技術可能帶來的 環境成本 。 （ 卷算力對電力的浪費，對環境、物種等的影響 ）
這則推文中連一個讓人警醒的大寫字母都沒有， 溫和地像一個普通人在分享他的想法 。
近期我走訪大學過程中 最令人詫異 的發現是：這一觀點在某些群體中引發了 意想不到的爭議 。
他在後面的跟帖裏「 裝懵 」，仿佛自己承認批評的存在（ 正如前文所述，這是在「打預防針」 ），事實上卻未列舉任何可能的批評（ 他可能內心在想：怎麽會有人不贊同我的觀點呢？ ）——仿佛這些批評愚蠢至極，不值一駁，且令他大感意外。
這些批評一點都不蠢。Altman 完全意識到（人工智慧）存在很多潛在的風險，卻選擇了無視，選擇歌頌人工智慧「毋庸置疑的偉大」 —— 那為什麽不去問問那些被深度偽造技術欺騙的受害者，問問他們這項技術偉不偉大？他們或許因失業潮感到憂慮，或許喪失了幸福感，或許憂慮 AI 工具被惡意濫用，正如 OpenAI 自己在長達 60 頁的 GPT-4 系統說明書中詳述的那樣。Sam 本人也曾向美國參議院表示，AI 可能「給世界帶來重大傷害」，且存在巨大的潛在環境代價。
所以 Altman 在推文裏裝作「感到詫異」是徹頭徹尾的演技。他並不是不知道人工智慧有潛在的不利因素（ 甚至是巨大的不利因素 ）， 他只是暫時壓抑自己的擔憂，以便兜售一個故事 。
人們可能還會想知道 AI 是否真的能賺錢或者延年益壽，想知道生成式人工智慧（ 這是 OpenAI 唯一擅長的人工智慧形式 ）是否會在這些進步中發揮實質性作用。正如【Writing Hacks】的簡-羅森茨韋格（Jane Rosenzweig）今早對我說的那樣：" Altman 是一個有可能讓整個行業失業的人，他輕描淡寫地表示自己正在做的事情是這個世界一直想要的，然後對任何人的質疑都表現得很驚訝。從某種意義上說，這真的很了不起。 "
這不是 Rosenzweig 第一次對 Altman 的言論表示異議了。以下是她喜歡在寫作課程上剖析的經典發言，再次展示了 Altman 那看似引人入勝的修辭手法是如何避開反論並忽視其他視角的 （ 註釋由她本人提供 ）：
「掛羊頭賣狗肉」
OpenAI 承諾服務全人類..…… 但實際上他們只賣聊天機器人。
慈善工作充其量只是這家公司整體運作的一小部份，他們最初的幾百億利潤（ 如果有的話 ）中約有一半將流向微軟。藝術家、作家和出版商們 日復一日地被壓榨 （ 此處指 GPT 的訓練數據來源 ） ，他們的作品未經補償或同意就被使用。 創作者也是「全人類」 的一部份。 但 到目前為止，OpenAI 給這一群體帶來的利益並沒有 拿走的利益多 。
關於 GenAI 與 AGI 的「賣羊頭掛狗肉」也存在。正如戴夫·特洛伊（Dave Troy）在 X 上所說的那樣，知道如何構建更好（ 或至少更大 ）的 GenAI 並不一定會讓我們達到 AGI：「 Altman 斷言「AGI」不僅是可以實作的，而且只是資金投入的函式，這顯然是個邏輯謬誤。而他的重復聲明只會讓意誌薄弱者/忠實信徒更加堅信這一點。 」
最後再談談 Sam 的經典言論：「人工智慧可以創造財富，並提高全民的基本收入（UBI）」。如果他真的相信全民皆應享有基本收入，那他為什麽對 藝術家、作家等創作者 用於訓練的數據分文不給？他們中的許多人甚至失去了工作機會，一無所獲。
Altman 那些極度猜測性、假設未經質疑、「 我們做的一切都為人類服務 」的姿態並非首次出現。其中的 許多手法似曾相識於埃隆·馬斯克（ E lon Musk ）的頻繁誇大其詞。 幾乎所有 AI 公司都是遵循同一 劇本，就是少了些風采。
「兜售希望的救世主」
正如 Sigal Samuel 所指出的那樣，關於 AI 的極致主張與關於宗教的極致主張之間，如今存在著一種驚人的相似性：
1. 在我們所知的生命結束之前，我們可能沒有多少時間了；
2. 因此，我們需要在能夠拯救我們的東西上下註；
3. 既然賭註如此之大，我們就應該挺身而出，全力以赴 。
有些時候，Altman 甚至退回到神秘而不可證偽的領域：
問：「 從事人工智慧這麽久，你對人類有何新認識？ 」
Sam Altman：「 我早年預設將智慧視作一項極其獨特且近乎神秘的人類特質。 而今，我卻認為它是物質的基本內容之一……這一觀點頗為引人深思。 隨著科學探索的層層深入，我們似乎確實在遠離宇宙中「主角光環」的角色定位。 然而，即便我們的智慧並非獨一無二，人類存在的深刻意義仍然需要我們去維護和珍視。 」
物質的基本內容？難道石頭也有智慧嗎？ Sam 的許多言論初聽之下引人入勝，細思之下卻疑竇叢生 。一如既往，不利於他的反駁都被忽視了，現實扭曲的光波被設定為震懾級別。（ 編者註：此處馬庫斯是在玩【星際迷航】的梗，意思是 Altman 在推銷自己的理念時能夠引導聽眾忽略不切實際之處 ）
談及科幻，一旦其他招數不奏效，借用【太空堡壘卡拉狄加】（ 該橋段實質上取自【彼得潘】 ）中的台詞總是可行的：
「過去發生過的事，也將會再次發生。」
意味深長。
Altman 經年累月地浸淫此道，巧妙融合了神秘主義、末日預警、投機性的贊美與溫和謙遜的儀態，一面自我防護於巨大憂慮之外，一面暗示著未來的巨大財富：
Sam 拿在手裏的牌並沒有他展現的那般強大。
在過去的一年中，OpenAI 沒有釋出 GPT-4 的重大更新，許多競爭對手已經迎頭趕上 。競爭對手正在侵蝕初期的品質差距，並開始提供類似的產品，有些產品的價格甚至更低。Meta 可能會在幾個月內釋出一個 GPT-4 級別的模型 —— 並且免費。
我們還沒有看到 OpenAI 除了早期使用者以外的護城河，並且該公司目前面臨 來自多 個出版商、藝術家、作家的 大量版權訴訟尚待解決。如果 OpenAI 在法庭上輸了其中一個案件，並且 針對版權材料的數據訓練的先例被確立，整個 AI 行業可能會陷入危險之中 。
到目前為止，OpenAI 還沒有凈利潤。正如上文所述，如果這家公司有利潤的話，很長一段時間大約一半的利潤都必須按照合約約定與微軟分享。訓練 GPT-4 是昂貴的，訓練 GPT-5 可能要貴一個數量級。 ChatGPT 的使用者量在 2023 年 5 月之前如火箭般飆升，但自此之後基本穩定，沒有顯著增長 。Altman 自己最近承認 GPT-4 「很糟糕」。
OpenAI 尚未演示過任何執行穩定且可靠的 Agent（智慧體），到目前為止也沒有曝光 GPT-5 級別的模型。谷歌 DeepMind、Anthropic、Meta 或其他公司極有可能捷足先登。
Altman 推銷的並不是新產品，而是希望。
為什麽要關心這些？因為機會成本。
Altman 試圖為一種漏洞百出的方法攫取大量資源，間接剝奪了那些可能更可信、可靠、可解讀的 AI 另類途徑所需的資源。這可能會產生巨大的環境成本，並分散了資本用於更高效服務人類的其他途徑。
相信 Altman 說法的人會繼續投資。但最終，Altman 的歷史地位將取決於他是否兌現了自己的承諾 。
