(學習這部分內容大約需要1.5小時)
摘要
馬爾科夫鏈蒙特卡洛(Markov chain Monte Carlo, MCMC)是一種近似采樣算法, 它通過定義穩態分布為 \(p\) 的馬爾科夫鏈, 在目標分布 \(p\) 中進行采樣. Metropolis-Hastings 是找到這樣一條馬爾科夫鏈的非常一般的方法: 選擇一個提議分布(proposal distribution), 並通過隨機接受或拒絕該提議來糾正偏差. 雖然其數學公式是非常一般化的, 但選擇好的提議分布卻是一門藝術.
預備知識
學習 Metropolis-Hastings 算法需要以下預備知識
- 馬爾科夫鏈蒙特卡洛(Markov chain Monte Carlo, MCMC): M-H 算法是 MCMC 算法的一個特例.
- 多元高斯分布: 高斯分布是M-H提議分布的典型例子.
學習目標
- 知道細致平衡條件(detailed balance conditions)說的是啥
- 知道 Metropolis-Hastings 算法的定義
- 證明 M-H 算法滿足細致平衡條件
- 如果不仔細選擇提議分布, 請注意可能的故障模式: 緩慢的 mixing 和低接受概率.
核心資源
(閱讀/觀看以下其中一個)
免費
- Information Theory, Inference, and Learning Algorithms
簡介: 一本機器學習和信息論研究生教材
位置: Section 29.4, "The Metropolis-Hastings method," pages 365-370
網站
作者: David MacKay - Coursera: Probabilistic Graphical Models (2013)
簡介: 一門概率圖模型在線課程
位置: Lecture "Metropolis Hastings algorithm"
網站
作者: Daphne Koller
備注:- 點擊"Preview"觀看視頻
- Computational Cognition Cheat Sheets (2013)
簡介: 認知科學家寫的一組筆記
位置: Bayesian Inference: Metropolis-Hastings Sampling
網站
付費
-
Pattern Recognition and Machine Learning(PRML)
簡介: 一本研究生機器學習教材, 聚焦於貝葉斯方法
位置: Section 11.2, pages 537-542
網站
作者: Christopher M. Bishop -
Machine Learning: a Probabilistic Perspective(MLAPP)
簡介: 一本非常全面的研究生機器學習教材
位置: Section 24.3-24.3.6, pages 848-855網站
作者: Kevin P. Murphy
增補資源
免費
-
Bayesian Reasoning and Machine Learning
簡介: 一門研究生機器學習課程
位置: Section 27.4, "Markov chain Monte Carlo," pages 550-553作者: David Barber
付費
-
Probabilistic Graphical Models: Principles and Techniques
簡介: 一本非常全面的概率AI研究生教材
位置: Section 12.3.4, pages 515-518網站
作者: Daphne Koller,Nir Friedman
相關知識
-
Gibbs 采樣 是一種常用的特殊 M-H 算法
-
其他 M-H 算法包括:
- Hamiltonian Monte Carlo (HMC): 利用梯度信息從連續模型中采樣
- split-merge 算子: 嘗試拆分和合並簇.
- reversible jump MCMC: 試圖在不同維度的空間之間移動
在某些條件下, 我們可以確定最佳的 M-H 接受率.