關於
Emily M. Bender is an American computational linguist at the University of Washington whose work sharpened the central objection to LLM understanding. Her 2020 'octopus test' (with Alexander Koller) argued that a system trained only on linguistic form has no access to meaning; the 2021 'Stochastic Parrots' paper (with Timnit Gebru and colleagues) named the risks of ever-larger language models and became one of the most cited critiques in the field. She brings a linguist's discipline to questions the AI industry often treats as settled: what language is, what meaning requires, and who bears the costs when the two are confused.
主要貢獻
- Co-authored 'Climbing towards NLU' (2020), arguing form alone cannot yield meaning — the octopus test
- Co-authored 'On the Dangers of Stochastic Parrots' (2021), the era-defining critique of scale
- Coined vocabulary the debate now runs on, from stochastic parrots to form vs. meaning
- Advocates for linguistic rigor and documentation practices (Bender Rule, data statements) in NLP
- Co-authored The AI Con (2025), a book-length case against AI hype
論文與出版物
Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data
2020With Alexander Koller, the octopus test: a system trained only on form has no path to meaning.
閱讀論文On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?
2021The era-defining critique of ever-larger language models and the risks of scale.
閱讀論文思想連結
Blaise Agüera y Arcas
觀點交鋒Google 副總裁暨 Fellow
2021 年 12 月，Agüera y Arcas 發表〈Do large language models understand us?〉，主張在任何可證偽的意義上，統計確實構成理解；隔年一月，Bender 逐點反駁，既否定這個主張，也否定他把語言模型類比為盲人與盲聾人士的做法。這正是她的章魚測試在抽象層次演練過的那場爭論，落到了現實：一方認為意義必須在文本之外接地，另一方認為理解本來就是關係性的，否認模型理解只是雙重標準。本站的問題〈LLM 真的理解嗎？〉同時收著他們兩人的切法。
medium.com · medium.com · aclanthology.org
John Searle
思想同道Philosopher of Mind & Language
一組跨越四十年的詮釋性對照：Searle 的中文房間與 Bender 的章魚，問的都是同一件事——一個能完美操作符號的系統，對這些符號的意義究竟有沒有著力點。差別在於論證的力量從哪裡來。Searle 是先驗的論證，關乎意向性、關乎一個程式原則上永遠不可能擁有什麼；Bender 則以語言學家的身分追問：一份純粹由形式構成的語料，能提供什麼、不能提供什麼。一個說那個房間永遠不會理解；另一個說，沒有人指得出意義是從哪裡進去的。
傑佛瑞·辛頓
思想對照AI 先驅與研究者
在本站的兩個問題〈什麼是理解？〉與〈LLM 真的理解嗎？〉上，他們的切法完全相反。辛頓的答案是：把下一個詞預測得夠好，就不得不對產生這段文字的世界進行真正的壓縮——好的壓縮，本身就等於理解。Bender 的答案是：只以形式訓練的系統從未接觸過意義，而流暢正是讓這場混淆變得如此容易的東西。可觀察的行為並沒有把他們分開；把他們分開的，是各自願意接受什麼算作證據。
Rumman Chowdhury
思想同道執行長暨共同創辦人・Humane Intelligence
這是一種共同的拒絕，而非有紀錄的合作。Chowdhury 提出的「道德外包」，指的是把 AI 當成行動者，好讓傷害發生時，矛頭指向演算法，打造與部署它的人則悄悄退場。Bender 從語言學家的位置抵達同一處：聊天機器人用「我」自稱是一種設計選擇，因為裡面根本沒有「我」；而 AI 的鼓吹者與末日論者，其實共享同一個前提——AI 是個強大且無可避免的東西。兩相對讀，問責的第一步原來是文法上的：別再讓「AI」當句子的主詞。
en.wikipedia.org · ted.com · voicesofvr.com
