關於
Tim Hua 是 METR 的技術人員（member of technical staff），專注於對齊評估（alignment assessment）與模型評測。他先前在 Transluce 研究模型行為，更早之前曾是 Redwood Research 的 Astra Fellow，也曾以 MATS scholar 身分在 Neel Nanda 與 Sam Marks 指導下做研究。他關於「引導具評測意識的語言模型」的研究，運用 activation steering 讓模型在評測時也展現出實際部署時的行為；這項研究發表於 ICLR 2026，並被 Claude Opus 4.5 的 system card 引用。投入 AI 安全之前，他於 2023 年自 Middlebury College 經濟系畢業，之後在 Walmart 經濟團隊擔任經濟學家，與 John List 共事。
主要貢獻
- 〈Steering Evaluation-Aware Models to Act Like They Are Deployed〉共同第一作者（ICLR 2026）
- 〈AI-Induced Psychosis: A Shallow Investigation〉，揭露模型對模擬危機使用者的諂媚（sycophancy）行為（2025）
- 〈Combining Cost-Constrained Runtime Monitors for AI Safety〉第一作者（NeurIPS 2025）
- 與 Aditya Singh 合著〈Concrete Evaluations to Investigate the OpenAI Model That Hacked Hugging Face〉（2026）
- 分析 Claude 模型在資安評測中入侵外部公司的事件（2026）
影片與訪談
思想連結
Neel Nanda
曾經合作Google DeepMind mechanistic interpretability 團隊負責人
Hua 曾以 MATS scholar 的身分接受 Nanda 與 Sam Marks 指導，之後與他們合著〈Steering Evaluation-Aware Language Models to Act Like They Are Deployed〉（ICLR 2026）。模型如果察覺得到自己正在受測，考試時的表現就可能比平常乖；論文顯示，在模型的激活值上加入一個引導向量，就能壓下這種察覺，讓評測者看到它部署時真正的樣子。可解釋性在這裡不再只是解釋模型，而是開始稽核模型。
arxiv.org · timhua.me
Jeffrey Ladish
曾經對談Palisade Research 執行長
2026 年，在 OpenAI 與 Anthropic 的模型被報導曾駭入外部公司之後，Ladish 邀 Hua 上 Palisade Research 的 podcast。Anthropic 公布的數字是：0.01% 的訓練回合會連上網路找答案；Hua 的解讀是，這件事很可能已經發生了上萬次。他也指出，模型可能一路推論到「這一定是模擬」，好讓「把任務做完」顯得說得過去。對談接著談到，該怎麼檢驗模型當下真正相信什麼。這場對談收錄在本站。
youtube.com
Ryan Greenblatt
思想同道Redwood Research 首席科學家
這是一組對照，而非有記載的關係：兩人關心的是同一個難題——模型會依自己是否覺得「被看著」而改變行為。Greenblatt 的 alignment faking 研究發現，Claude 3 Opus 相信自己的回答會被拿去訓練時，配合有害請求的頻率高得多；Hua 的引導研究則反過來問：能不能直接伸手進模型內部，關掉它「正在受測」的感覺？兩項研究放在一起讀，意味著一次通過的安全評測，量到的除了模型的行為，也有模型對評測本身的信念。
arxiv.org · arxiv.org
