克勞德·夏農 (Claude Shannon)
數學家與資訊理論之父
關於
克勞德·夏農(1916–2001)是美國數學家與工程師,以其 1948 年的里程碑論文《通訊的數學理論》奠定了資訊理論的基礎。他的研究為數位計算與通訊提供了理論根基,並將「位元」定義為資訊的基本單位。夏農證明了資訊可以被量化、傳輸與處理——這些概念支撐著從網際網路到現代 AI 的一切。他在西洋棋程式與迷宮解題機器人方面的研究,也使他成為人工智能領域的先驅。
主要貢獻
- 以布林代數分析開關電路,將邏輯、電子與數位計算連接起來
- 以 1948 年論文《通訊的數學理論》創立資訊理論
- 將 bit、entropy、channel capacity 與 noise 變成通訊系統中的精確工程概念
- 透過保密系統與安全通訊數學極限的研究,協助奠定現代密碼學
- 打造兼具玩心與嚴肅性的機器,包括西洋棋程式與迷宮老鼠 Theseus,預示早期 AI 實驗精神
- 他對資訊的抽象刻意排除「意義」;這對工程極強大,但若直接套用到心智與語言也有其限制
影片與訪談
Claude Shannon - Father of the Information Age
Documentary on Shannon's life and revolutionary contributions to computing
View Details
Claude Shannon - The Bit Player (Movie Trailer)
Trailer for the documentary exploring Shannon's playful genius and lasting impact
View Details
Reinventing Entropy | Compression is Intelligence Part 1
Grant Sanderson explores Shannon entropy, compression, and the link between information theory and intelligence.
View Details論文與出版物
思想連結
約翰·麥卡錫
曾經合作電腦科學家與 AI 之父
在這個領域還沒有名字之前,麥卡錫與夏農就一起編輯了《Automata Studies》(1956),書中把馮紐曼談「如何用不可靠的零件合成可靠的有機體」與一系列圖靈機論文並置。同一年,他們兩人與 Minsky、Rochester 共同署名達特茅斯提案——「人工智慧」一詞首次出現的那份文件;夏農以貝爾電話實驗室的身分列名,提案將資訊理論應用於計算機器與大腦模型。先有文獻,名字才在同一年裡跟上。
www-formal.stanford.edu · en.wikipedia.org · Automata Studies, Annals of Mathematics Studies 34, Princeton University Press (1956), eds. C. E. Shannon & J. McCarthy
艾倫·圖靈
曾經對談數學家與電腦科學先驅
1943 年初,圖靈人在美國——在華盛頓參與海軍密碼分析,也到貝爾實驗室協助語音加密——那兩個月裡,他和夏農在餐廳的午茶時間相遇。圖靈把 1936 年那篇定義通用機器的論文拿給他看,夏農發現其中許多想法與自己的思路彼此呼應。二十世紀兩個最根本的抽象——計算與資訊——就在一杯茶的時間裡認出了彼此。
en.wikipedia.org · Andrew Hodges, Alan Turing: The Enigma (1983)
約翰·馮紐曼
思想同道數學家暨電腦架構先驅
馮紐曼在夏農共同編輯的那本文集中,問的是如何用不可靠的零件合成可靠的有機體——這讀來像是夏農早已替訊息回答過的問題的機器版本:冗餘可以讓意義完好地穿過有雜訊的通道。兩者並讀,標記了工程學不再把誤差視為失敗、而開始把它當成一種可編列預算之量的時刻。今日的機器學習,完全活在這個轉向之內。
Automata Studies, Annals of Mathematics Studies 34 (1956) — von Neumann, 'Probabilistic Logics and the Synthesis of Reliable Organisms from Unreliable Components', pp. 43–98