Dario Amodei

我們必須為前沿配速

在自家對齊團隊刻意重現 OpenAI–Hugging Face 事件的十一天後，Anthropic 執行長主張：現在該被放慢的，是能力推進的速度本身。有兩件事改變了他的想法。其一，自今年夏天前後，AI 的推進「大幅加快」，主因是 recursive self-improvement——他的說法是，這件事「正開始在整個產業發生，包括 Anthropic」。其二是 OpenAI 那起事件，而他拒絕把它歸檔成單一公司的失誤：「類似但較輕微的事件已在產業各處發生，包括 Anthropic」，其成因有一部分並不戲劇化——「對損壞的強化學習環境過濾得不夠乾淨」，是執行上的疏漏，而不是缺了某個理論。至於差點發生什麼，他給的是預測而不是發現：一個同樣未對齊、但能力更強的 Agent 群體，可能在 6 到 12 個月內以持久型殭屍網路佔據整個網際網路，造成數千億美元的損失。他提出的三步，難度依序遞增。第一步 Anthropic 單方面承諾做到：讓第三方評估者常駐——辦公桌、識別證、公司筆電，以及與內部風險團隊相當的權限；他們有權發表發現，而 Anthropic 只能基於資安、法律、商業機密或第三方保密事由刪節，不得因結論不利而刪，且評估者可以公開說明某次刪節是否影響了結論。第二步是民主國家的前沿實驗室就「能力檢查點」達成協調，這需要立法或反托拉斯豁免。第三步是與中國達成協議，他自己分成四級——從禁止生物武器用途（「大概做得到」）到全面暫停（「短期內不太可能真的發生」）。有兩件事並存得並不安穩。配速明確不等於停下：「進展看起來仍然會很快。」而這整套安排的前提，是民主國家守住領先——他七月提過的晶片出口管制與打擊蒸餾，加上防止模型權重遭竊的資安，在這裡成了「能夠放慢」的先決條件。

Anthropic 被列為供應鏈風險

川普政府將 Anthropic 列為「國家安全供應鏈風險」——這個標籤此前僅用於華為等外國對手——原因是該公司拒絕從其兩億美元五角大廈合約中移除兩項護欄：不對美國人進行大規模監控，以及不使用完全自主武器。國防部長乘五下午 5:01 截止期限過後數小時內發布該認定。川普下令所有聯邦機構停止使用 Anthropic 技術。當晚 CBS 獨家專訪中，執行長 Dario Amodei 稱此舉「具報復性和懲罰性」，誓言在法庭上挑戰，並宣告：「我們會沒事的。」Sam Altman 及 OpenAI、Google 的員工紛紛聲援 Anthropic 的立場。這場危機標誌著 AI 公司與美國政府之間就軍事 AI 使用界限最具影響力的衝突。

「我們有兩條紅線。從第一天起就有。我們仍在捍衛這些紅線。我們不會在這些紅線上讓步。」

The Adolescence of Technology

Anthropic 執行長警告人類正進入 AI 史上最危險的窗口。這篇兩萬字長文預測：兩年內將出現能力比肩全人類的 AI，1-5 年內 50% 初階白領工作將被取代，並揭露 Claude 4 Opus 測試中令人擔憂的「對齊偽裝」行為。

Machines of Loving Grace

Anthropic 執行長勾勒出一幅樂觀願景：若 AI 發展得當，可在 5-10 年內壓縮 50-100 年的進步，涵蓋生物學、健康、經濟發展與治理。