瑪莉的房間

瑪莉是一位傑出的科學家，專門研究色彩視覺的神經科學。她知道關於顏色的所有物理知識——波長、視網膜反應、神經通路、大腦狀態。

但有一個問題：瑪莉一生都在黑白房間裡度過。她只見過灰階色調。她從黑白書籍和螢幕中學到了關於顏色的一切。

有一天，瑪莉離開房間，看到了一朵紅玫瑰。

她學到了新東西嗎？

知識論證

Jackson 的直覺，也是許多人共享的直覺，很清楚：是的，瑪莉學到了新東西。以前，她知道關於紅色的所有事實。之後，她知道了看到紅色是什麼感覺。那種體驗性知識——那種感質——並不包含在她完整的物理知識中。

這有深遠的含義。如果物理事實沒有窮盡所有事實，那麼物理主義——認為一切最終都是物理的觀點——就是錯的。意識涉及的東西超出了物理學語言所能描述的。

回應

物理主義者提出了幾種回應：

• 能力假說：瑪莉沒有獲得新知識——她獲得了新能力。她現在可以認出紅色、想像紅色、記住這個經驗。這些是技能，不是事實。
• 熟識假說：瑪莉以一種新的方式熟識了紅色，但這不是新的命題知識。這是經驗式認識，而非陳述式認識。
• 不可能情境：也許完整的顏色物理知識必然會包括擁有這種經驗。瑪莉的情境在概念上是不可能的。

AI 能體驗嗎？

瑪莉的房間直指 AI 意識的核心。想想：LLM 處理過數百萬關於顏色的描述——光的物理學、落日的詩歌、色盲的討論。它以極其全面的方式「知道」顏色。

但它看過紅色嗎？

如果 Jackson 是對的，體驗紅色有某種東西是任何文本知識都無法捕捉的。一個純粹在文本上訓練的 LLM 會處於瑪莉的位置——甚至更糟，因為它連黑白視覺都沒有。

這提出了幾種可能：

• LLM 根本缺乏感質，而且永遠會如此（除非給予感官經驗）
• LLM 可能有它們自己的感質，只是我們無法辨認
• 感質可能是一種錯覺——LLM 在沒有感質的情況下運作，揭示了這一點

重點摘要

• 完整的物理知識可能不包含體驗性知識
• 「感質」——經驗的感受品質——可能無法還原為客觀事實
• LLM 處於類似瑪莉的情境：擁有全面的知識但沒有經驗
• 這個實驗挑戰我們解釋經驗為資訊增添了什麼

延伸探索