傑佛瑞·辛頓 (Geoffrey Hinton)
AI 先驅與研究者
關於
傑佛瑞·辛頓常被稱為「AI 教父」，是一位開創性的電腦科學家，他在神經網路與深度學習領域的研究奠定了現代 AI 的基礎。他因對深度學習的貢獻而與他人共同獲得 2018 年圖靈獎。2023 年，他離開 Google，以便能自由地談論 AI 風險，成為 AI 安全討論中的重要聲音。
主要貢獻
- 共同撰寫 1986 年反向傳播論文，讓多層神經網路在實務上可被有效訓練
- 共同發明 Boltzmann machines，並發展 deep belief networks，協助神經網路研究走出 AI 寒冬
- 共同發展 dropout 與 knowledge distillation，改變神經網路訓練與壓縮的實務方法
- 透過其多倫多研究團隊協助促成 AlexNet，讓 ImageNet 成為深度學習的公開證明點
- 培養並影響一代深度學習研究者，包括 AlexNet 共同作者 Ilya Sutskever
- 因深度學習共同獲得 2018 年圖靈獎，並因機器學習基礎研究獲得 2024 年諾貝爾物理學獎
- 2023 年離開 Google 後公開警告 AI 風險，成為存在性風險辯論中重要但也受爭議的聲音
時刻時間軸 查看所有時刻
影片與訪談
Geoffrey Hinton Warns of the Existential Threat of AI
Amanpour and Company interview about why he left Google and his concerns about AI
View Details
Is AI Hiding Its Full Power? With Geoffrey Hinton
Discussion on whether AI systems may be concealing their true capabilities
View Details
Will Digital Intelligence Replace Biological Intelligence?
Romanes Lecture at University of Oxford on the future of intelligence
View Details論文與出版物
思想連結
Ilya Sutskever
影響了他/她共同創辦人・Safe Superintelligence Inc.
Sutskever 從學生時期就進入辛頓在多倫多的實驗室，一路到 2013 年以循環神經網路訓練為題完成博士；期間的 2012 年，兩人與 Alex Krizhevsky 一起做出了 AlexNet。師徒之間傳承的與其說是技術，不如說是一種信念——規模與梯度下降能做到手工結構做不到的事——Sutskever 後來把這個信念帶進 OpenAI，成為創立時的信條。而兩人日後又各自走上不同的路，抵達同一種對這個信念去向的公開警惕。
en.wikipedia.org
約書亞·班吉歐
曾經合作AI 先驅與安全研究者
兩人與楊立昆共同獲得 2018 年圖靈獎，也合寫了 2015 年那篇《Nature》綜述，等於為整個領域寫下自己的起源故事。而如今把他們繫在一起的，比共同掛名更奇特：兩人花了數十年主張擴大神經網路規模行得通，等到被證明是對的，又一起連署了 2024 年《Science》的〈Managing extreme AI risks amid rapid progress〉。真正讓他們害怕的，是自己說對了。
en.wikipedia.org · arxiv.org
楊立昆
影響了他/她首席 AI 科學家・Meta
楊立昆的博士後歲月是在辛頓的多倫多實驗室度過，之後才前往貝爾實驗室，在那裡打造出能辨讀手寫支票的卷積神經網路。三十年後，兩人因同一批研究共同獲得 2018 年圖靈獎。這條師承在方法上延續，卻在預言上斷裂：辛頓如今警告滅絕等級的風險，楊立昆則認為這個警告根本問錯了層次。
en.wikipedia.org · en.wikipedia.org
Jeff Dean
曾經合作Google DeepMind 首席科學家
2013 年 Google 收購辛頓那家只有三個人的公司，他因此進了 Dean 共同創立的 Brain 團隊；兩年後，兩人與 Oriol Vinyals 合寫了〈Distilling the Knowledge in a Neural Network〉。那篇論文指出：大模型輸出的軟機率，比它當初訓練用的硬標籤含有更多教學資訊——小模型可以從大模型的不確定性中學習。十年之後，蒸餾既是前沿能力得以進入一般裝置的途徑，也成了國際爭論的核心：誰有資格向誰的模型學習。
arxiv.org · en.wikipedia.org
