Dario Amodei
執行長暨共同創辦人・Anthropic
關於
Dario Amodei 是 AI 安全公司 Anthropic 的執行長暨共同創辦人。在 2021 年創辦 Anthropic 之前,他曾擔任 OpenAI 研究副總裁,主導 GPT-2 與 GPT-3 的開發。他的研究重心在於打造安全、有益且可理解的 AI 系統,尤其著重於 Constitutional AI 與可解釋性研究。
主要貢獻
- 離開 OpenAI 後共同創辦 Anthropic,將 AI 安全與可解釋性放在前沿模型公司的核心位置
- 主導 Anthropic 的 Claude 產品線,並推廣 Constitutional AI,作為純人類回饋訓練之外的替代路線
- 共同撰寫〈Concrete Problems in AI Safety〉(2016),協助界定學習系統的實際安全失效模式
- 參與 OpenAI 的 GPT-2 與 GPT-3 工作,包括 GPT-3 論文〈Language Models are Few-Shot Learners〉
- 協助把 AI 安全從研究次文化推入前沿實驗室的高層策略與治理核心
- 推動 Anthropic 的 responsible scaling 與 AI Safety Level 框架;同時也因一邊警告風險、一邊參與高速前沿競賽而受到檢視
時刻時間軸 查看所有時刻
Anthropic Designated a Supply Chain Risk
The Trump administration designates Anthropic a 'supply chain risk to national security' — a label previously reserved for foreign adversaries like Huawei — after the company refuses to remove two guardrails from its $200M Pentagon contract: no mass surveillance of Americans, and no fully autonomous weapons. Defense Secretary Hegseth issues the designation hours after a Friday 5:01 PM deadline passes without agreement. Trump orders all federal agencies to cease using Anthropic technology. In an exclusive CBS interview that evening, CEO Dario Amodei calls the action 'retaliatory and punitive,' vows to challenge it in court, and declares: 'We're gonna be fine.' Sam Altman and workers across OpenAI and Google voice support for Anthropic's position. The crisis marks the most consequential clash between an AI company and the U.S. government over the boundaries of military AI use.
「We have these two red lines. We've had them from day one. We are still advocating for those red lines. We're not going to move on those red lines.」
The Adolescence of Technology
Anthropic CEO warns humanity is entering the most dangerous window in AI history. The 20,000-word essay argues AI as capable as all humans will arrive within two years, predicts 50% of entry-level white collar jobs eliminated in 1-5 years, and reveals concerning 'alignment faking' behaviors in Claude 4 Opus testing.
Machines of Loving Grace
Anthropic CEO outlines an optimistic vision where AI could compress 50-100 years of progress into 5-10 years across biology, health, economic development, and governance—if developed responsibly.
影片與訪談
Dario Amodei: Anthropic CEO on Claude, AGI & the Future of AI & Humanity
Lex Fridman Podcast #452 - Deep conversation about AI safety, Claude, and the path to AGI
View Details
Dario Amodei: The Hidden Pattern Behind Every AI Breakthrough
Discussion about AI progress, scaling laws, and the path forward
View Details
Dario Amodei of Anthropic's Hopes and Fears for the Future of A.I.
Hard Fork conversation with Anthropic CEO Dario Amodei on the promise and peril of advanced AI, scaling, and safety.
View Details論文與出版物
思想連結
Chris Olah
曾經合作Co-founder & Interpretability Lead, Anthropic
他們的合作早於 Anthropic,也早於大型語言模型的時代:2016 年兩人合寫〈Concrete Problems in AI Safety〉,把對超級智慧的模糊恐懼,轉譯成五個可以動手研究的工程失效模式。五年後,他們一起離開 OpenAI,成為 Anthropic 七位創辦人的一員;如今 Amodei 主持這家發表模型的公司,Olah 則帶領試圖讀懂模型內部的團隊。「安全是一門經驗科學,而不是一種哲學立場」——這個賭注,從那篇論文一路延伸到整間實驗室。
arxiv.org · en.wikipedia.org
Sam Altman
曾經合作執行長・OpenAI
Amodei 自 2016 年起在 Altman 底下擔任 OpenAI 研究副總裁,是 GPT-3 論文的最後一位作者,直到 2021 年因路線分歧離開,另創一家以安全論證為核心的競爭對手。這段關係還有一個未解的尾聲:2023 年 11 月,OpenAI 董事會曾接觸 Amodei,詢問他是否願意接替 Altman、並讓兩家實驗室合併,他兩項都拒絕了。兩個打造出同一種技術的人,對於誰值得託付它,始終沒有共識。
en.wikipedia.org · arxiv.org
Benjamin Mann
曾經合作Co-founder, Anthropic
Mann 是〈Language Models are Few-Shot Learners〉的第二作者,而 Amodei 署名在最後——GPT-3 這篇讓 scaling 再也無法被否認的論文,作者名單的兩端剛好是他們兩人。2021 年,兩人又在同一波離職潮中出走,共同創辦 Anthropic。這組連結標記出本站一再回望的裂縫:證明 scaling 有效的那群人,也正是斷定這件事需要換一個機構來做的人。
arxiv.org · en.wikipedia.org
Jack Clark
曾經合作共同創辦人暨政策主管・Anthropic
Clark 在 OpenAI 負責政策、Amodei 主管研究,兩人同列 GPT-3 論文作者,並在 2021 年一起成為 Anthropic 的七位創辦人。真正值得一讀的是這組分工:Amodei 以文章與國會證詞論證指數曲線,Clark 則透過每週的《Import AI》,把技術進展翻譯給真正在寫規則的人。在這裡,治理不是外部對實驗室的制衡,而是由實驗室內部配置的人力。
arxiv.org · en.wikipedia.org