← 回到這條線:前沿要不要放慢
評論稿 / 繁體中文 / 含個人立場

是誰先講的

上一集把九月十二號當成起點。查下去才發現,Dario 不是第一個講的人,甚至不是第一個署名的人。這一集更正那個順序,並記下這週真正新的一件事。

預估長度 6:31 正文字數 1831 字 語速基準 280 字/分 核稿日 2026-09-18
0:00 更正

上一集把順序講反了

先更正一件事。

上一集,我把九月十二號 Dario Amodei 那篇〈我們必須為前沿配速〉當成這條線的轉折點:一位執行長提出主張,然後 Altman 和 Musk 附議。

那個描述不算錯,但它把順序講反了。查證之後才看清楚,Dario 不是第一個這樣講的人。他甚至不是第一個署名的人。

來源 上一集
0:28 七月

七月二十八號,一千一百三十四個人

Hugging Face 事件公開之後一週,七月二十八號,一千一百三十四名前沿實驗室的員工聯署了一封公開信,標題就叫〈Pacing the Frontier〉,為前沿配速。

他們要求華盛頓「支持一項國際努力,發展出能夠刻意為自動化 AI 發展配速所需的技術與治理工具」。

聯署的不是外人。Anthropic 執行長 Dario Amodei,共同創辦人 Jared Kaplan 和 Jack Clark;OpenAI 首席科學家 Jakub Pachocki;Meta 首席科學家 Shengjia Zhao;Google 的 AI 安全與對齊負責人 Anca Dragan。

OpenAI 安全研究員 Leo Gao 把話講得最直白:這個世界正被鎖在一場通往智慧爆炸的致命競賽裡,要活下來,我們必須協調著慢下來。

必須照唸的但書
這封信的署名人數,不同報導從一千一百到一千一百三十四都有。本稿採用有明確數字的那一份。另外,它要求的是美國政府去支持國際努力,不是任何一家公司自己停下來。

1:56 九月六號

OpenAI 的首席科學家先寫了

再往前推六天。九月六號,Dario 的文章還沒出來,OpenAI 首席科學家 Jakub Pachocki 發表了一篇叫〈An Alien Mind〉的文章,一個外星心智。

他寫:「目前我認為,沒有任何一家實驗室,把對齊與監控解決到足以讓它負責任地繼續以最高速度擴展太久。」

他說他預期有生之年會看到比人類明顯更聰明的機器,而且內部結果讓他強烈預期,現在這個進展速度可以一路延續到遞迴式自我改進。

他明確說出正在失去的是什麼:思路鏈監控。那是 OpenAI 用來檢查模型在做什麼的主要手段,而能倚賴它的程度正在逐步下降,其中一個原因是模型越來越擅長推理、也越來越擅長操弄自己的推理過程。

他的結論是:OpenAI 會在必要時單方面擱置擴展,但需要的是更大範圍的介入。在整個產業有共同的安全門檻之前,他預期也希望自願放慢會變成常態。

3:11 這週

微軟把規則寫下來

這週真正新的,是微軟。

九月十四號,微軟 AI 發布〈Humanist AI Code of Conduct〉的第一版草案,開放六週公眾諮詢,並說會依據回饋改寫,用改寫後的版本來指導二〇二七年開始的模型開發。

文件要的是三件事:從屬、對齊、被圍堵。裡面寫明模型「絕不會抗拒人類的中斷、修正或關機」,也寫明 AI 應該是工具而不是人。執行長 Mustafa Suleyman 把最近幾個月稱為分水嶺,並直接點名那些大規模、高度協調、持續進行的 Agent 攻擊,說明沒有時間可以浪費。

Suleyman 和 Anthropic 的分歧不在速度。他認為 Anthropic 的憲章裡留下了「Claude 會不會是道德主體」這個不確定,而這種模糊本身就讓對齊更難:一個被訓練文件暗示自己可能有權利的系統,可能真的開始那樣行動。

4:23 回看

那一週看起來是什麼樣子

Tristan Harris 在九月十七號把整週重述了一遍,並說他從沒看過這樣的一週。

他也講了一件上一集沒有的事:九月十六號,Future of Life 辦了一場 pro-human AI assembly。Bernie Sanders 和 Steve Bannon 前後腳上台,簽了同一份聲明;Glenn Beck 和 Susan Rice 也在。

必須照唸的但書
Harris 在影片裡說聯署人數是一千三百人。查到的原始報導是一千一百到一千一百三十四,日期是七月,不是這一週。本稿採用原始報導。

5:12 評論

我的看法:更正比原稿重要

以下是我的看法,不是報導。

上一集我問的是:放慢這件事,外面的人能不能驗證。現在我知道,那個問題的答案有一部分早就擺在那裡,而我沒看見。

七月就有一千一百三十四個人簽了名,Dario 是其中之一。九月六號 OpenAI 的首席科學家先說了沒有人解決對齊。等到九月十二號那篇文章出現,它不是一個開始,它是一個已經進行很久的內部共識,第一次由執行長的名字講出來

這個差別不小。一個執行長提出主張,你可以問他的動機;一千多個員工先講,然後執行長跟上,那是另一種東西,那更像是壓力從下面來的。

而我上一集之所以講反,原因也很具體:我跟著新聞週期走。九月十二號那篇被大量報導,七月那封信沒有。我用「被講得多大聲」代替了「什麼時候發生」。

這正是慢新聞應該抓到的錯,也是為什麼上一集不會被改。那一集記錄的是九月十五號我知道的事,包括我當時弄錯的順序。更正寫在這裡。

核稿與朗讀備註

  • 這是評論稿,不是報導:前五段是報導,最後一段是主筆立場。播出時務必保留「以下是我的看法,不是報導」那句口頭標記,頁面上換成明體,聽眾聽不到字體。
  • 更正的對象是上一集,不是來源:這一集更正的是本站九月十五號那一集的敘述順序,不是任何一方的說法。上一集沒有被改寫,也不會被改寫。
  • 署名人數:聯署人數在報導之間有出入,一千一百到一千一百三十四都有。本稿採用 The Next Web 明確寫出的 1,134,並在但書裡說明差異。Harris 影片裡的「一千三百」沒有找到對應來源,不採用。
  • Pachocki 的引語來自原文:〈An Alien Mind〉那句「沒有任何一家實驗室…」是原文直譯,不是從影片字幕轉的。他的職稱是 OpenAI 首席科學家。
  • 刻意沒有放進稿子的一則:Harris 影片裡提到 Bill Gates 也公開表示 Dario 是對的。這件事只有影片自動字幕一個來源,沒有找到可引用的原始出處,所以不寫進報導。
  • 唸法:Agent、Cluster、token 保留英文;配速對應 pacing,全篇不要改成「限速」或「暫停」,那是原文明確區分的另外兩件事。〈An Alien Mind〉唸原文標題,中譯「一個外星心智」只在第一次出現時補一次。

參考連結(依時間排列)

  1. 07-28 〈Pacing the Frontier〉:1,134 名實驗室員工的聯署 The Next Web;另見 Fortune 07-29 的報導 https://thenextweb.com/news/pacing-the-frontier-ai-employees-letter-us-government
  2. 09-06 An Alien Mind Jakub Pachocki,OpenAI 首席科學家,官方網站原文 https://openai.com/index/an-alien-mind/
  3. 09-12 We Must Pace the Frontier Dario Amodei,個人網站原文(上一集的主體) https://darioamodei.com/post/we-must-pace-the-frontier
  4. 09-14 Humanist AI Code of Conduct:六週公眾諮詢 Microsoft AI 官方公告 https://microsoft.ai/news/mai-code-of-conduct/
  5. 09-17 Mustafa Suleyman 談微軟的規則與 Anthropic Decoder with Nilay Patel https://www.youtube.com/watch?v=T7VOrTLMg74
  6. 09-17 整週回顧與 pro-human AI assembly Tristan Harris,Center for Humane Technology https://www.youtube.com/watch?v=07JaHf4oW6I
  7. 上一集 那個 10%,和一場沒有對上的爭論 本站,2026-09-15,這一集更正的對象 /zh-tw/threads/pacing-the-frontier/2026-09-15
Theme
Language
Support
© funclosure 2025