發展的步調

AI 該以多快的速度發展?

隨著 AI 能力快速成長,關於我們是否以正確的速度前進存在著爭論。

所有人都同意安全很重要——爭論在於如何實現它。

放慢腳步

我們需要時間讓安全研究跟上進度。我們還沒有完全理解這些系統。

繼續前進

我們透過建造來學習。開放的開發讓更多人能夠同時為能力和安全做出貢獻。

  • 安全研究能跟上能力研究的步伐嗎?
  • 誰來決定什麼是「負責任」的開發?

理解 AI

AI 究竟是什麼?

我們如何看待 AI,會影響我們如何開發、監管以及與之互動。

無論我們如何定義它,AI 已經在改變我們的工作和思考方式。

人類協作

AI 並不是自主的——它是人類知識的大規模混合。稱它為「智慧」掩蓋了它是由我們構成的這個事實。

異類智慧

AI 處理資訊的方式與人類根本不同。它的思考方式是「異質」的。

  • 我們對 AI 的定義會改變我們應該如何治理它嗎?
  • 某物可以既是工具又是智慧嗎?

認識的方式

我們該如何理解 AI?

AI 可以從多個角度來認識:數學、哲學、歷史、倫理。

理解 AI 需要多元視角——技術的、社會的,以及人文的。

透過數學

要理解 AI 能做什麼和不能做什麼,我們需要理解它實際上是如何運作的——注意力機制、梯度、嵌入向量。

透過人文

AI 引發了關於意識、創造力和人之為人的古老問題。歷史和哲學能提供很多洞見。

  • 我們如何整合不同的認識方式?
  • 每種方法會遺漏什麼問題?

通往安全之路

如何讓 AI 造福人類?

大家普遍認同 AI 應該是安全的。但對於如何實現這一點,存在不同的理論。

安全和造福並不與進步對立——它們正是讓進步有價值的原因。

內建約束

安全應該從一開始就融入其中,通過謹慎的訓練、憲法原則和解決對齊問題。

開放與監督

開放的模型可以被更多人審查。最好的系統將 AI 能力與人類判斷相結合。

  • 這些方法可以結合嗎?
  • 誰有權定義「造福」?

社會影響

AI 對人類意味著什麼?

AI 已經在重塑工作、創造力,以及我們與資訊的關係。

這是一個關鍵時刻。我們現在做的選擇將塑造 AI 的長期影響。

文明的轉變

AI 已經駭入了人類文明的作業系統——語言。這是第一個能夠做決策和創造想法的技術。

取決於我們

AI 沒有自主性——我們有。結果取決於我們在開發和部署這些系統時做出的選擇。

  • 我們如何確保利益被廣泛分享?
  • 我們應該保護或培養哪些人類能力?

衡量風險

我們該擔心什麼?

AI 在不同的規模和時間軸上呈現各種風險。

所有風險都很重要。問題在於如何有效地排序和處理它們。

存在性的擔憂

如果我們創造出比我們更聰明的東西,我們需要確保能夠控制它。這是一個嚴肅的工程挑戰。

當前的危害

AI 的神秘化分散了我們的注意力。真正的傷害正在發生:偏見、數據剝削、人類自主性的侵蝕。

  • 短期和長期的關注需要不同的方法嗎?
  • 我們如何避免讓任何重要風險被遺漏?
Theme
Language
Support
© funclosure 2025