關於
克勞德·夏農(1916–2001)是美國數學家與工程師,以其 1948 年的里程碑論文《通訊的數學理論》奠定了資訊理論的基礎。他的研究為數位計算與通訊提供了理論根基,並將「位元」定義為資訊的基本單位。夏農證明了資訊可以被量化、傳輸與處理——這些概念支撐著從網際網路到現代 AI 的一切。他在西洋棋程式與迷宮解題機器人方面的研究,也使他成為人工智能領域的先驅。
主要貢獻
- 以布林代數分析開關電路,將邏輯、電子與數位計算連接起來
- 以 1948 年論文《通訊的數學理論》創立資訊理論
- 將 bit、entropy、channel capacity 與 noise 變成通訊系統中的精確工程概念
- 透過保密系統與安全通訊數學極限的研究,協助奠定現代密碼學
- 打造兼具玩心與嚴肅性的機器,包括西洋棋程式與迷宮老鼠 Theseus,預示早期 AI 實驗精神
- 他對資訊的抽象刻意排除「意義」;這對工程極強大,但若直接套用到心智與語言也有其限制
影片與訪談
Claude Shannon - Father of the Information Age
Documentary on Shannon's life and revolutionary contributions to computing
View Details
Claude Shannon - The Bit Player (Movie Trailer)
Trailer for the documentary exploring Shannon's playful genius and lasting impact
View Details
Reinventing Entropy | Compression is Intelligence Part 1
Grant Sanderson explores Shannon entropy, compression, and the link between information theory and intelligence.
View Details論文與出版物
思想連結
諾伯特·維納
受其影響數學家、控制論創始者
在《通訊的數學理論》(1948)的一則註腳裡,夏農寫道:「通訊理論的基本哲學與理論,有很大一部分要歸功於維納。」他並稱維納的戰時報告,是第一次把通訊清楚表述為一個統計問題。兩人幾乎在同一時刻、從不同方向走到資訊的度量——夏農從編碼出發,維納則從高射砲預測中的雜訊出發。他們一起讓「資訊」成為一個可以計量的量,而這正是每一個語言模型訓練時所依據的前提。
people.math.harvard.edu · en.wikipedia.org
約翰·麥卡錫
曾經合作電腦科學家與 AI 之父
在這個領域還沒有名字之前,麥卡錫與夏農就一起編輯了《Automata Studies》(1956),書中把馮紐曼談「如何用不可靠的零件合成可靠的有機體」與一系列圖靈機論文並置。同一年,他們兩人與 Minsky、Rochester 共同署名達特茅斯提案——「人工智慧」一詞首次出現的那份文件;夏農以貝爾電話實驗室的身分列名,提案將資訊理論應用於計算機器與大腦模型。先有文獻,名字才在同一年裡跟上。
www-formal.stanford.edu · en.wikipedia.org · Automata Studies, Annals of Mathematics Studies 34, Princeton University Press (1956), eds. C. E. Shannon & J. McCarthy
艾倫·圖靈
曾經對談數學家與電腦科學先驅
1943 年初,圖靈人在美國——在華盛頓參與海軍密碼分析,也到貝爾實驗室協助語音加密——那兩個月裡,他和夏農在餐廳的午茶時間相遇。圖靈把 1936 年那篇定義通用機器的論文拿給他看,夏農發現其中許多想法與自己的思路彼此呼應。二十世紀兩個最根本的抽象——計算與資訊——就在一杯茶的時間裡認出了彼此。
en.wikipedia.org · Andrew Hodges, Alan Turing: The Enigma (1983)
馬文·明斯基
影響了他/她AI 先驅・MIT 人工智慧實驗室共同創辦人
1952 年,Minsky 以研究生身分在貝爾實驗室、由夏農擔任導師,做出了「終極機器」——一個唯一功能就是把自己關掉的盒子;三年後,夏農與他一同署名達特茅斯提案。夏農在桌上擺了一台自己做的版本,讓 Arthur C. Clarke 覺得「說不出地陰森」。一個「唯一用途就是關掉自己」的機器玩笑,在「關機開關」已成為研究課題的今天,讀起來別有滋味。
en.wikipedia.org · en.wikipedia.org