1. 前言
維特比算法針對HMM第三個問題，即解碼或者預測問題，尋找最可能的隱藏狀態序列：
對於一個特殊的隱馬爾可夫模型(HMM)及一個相應的觀察序列，找到生成此序列最可能的隱藏狀態序列。
也就是說給定了HMM的模型參數和一個觀測序列，計算一系列的隱狀態，使得此觀察序列的出現可能最大，即最大化P(隱狀態 | 觀測序列)，給定觀測序列，求最可能的對應的隱狀態序列。
實際上解決此問題，在《統計學習方法》中給出了兩種解法，一個是近似算法，另一個就是維特比算法(Viterbi algorithm)
2. 近似算法
思路：計算每一時刻最有可能出現的隱狀態，從而得到一個狀態序列作為預測結果。
算法：給定HMM模型參數λ和觀測序列O，在時刻 t 處於狀態qi的概率是：
則每一時刻t 最有可能的狀態是
感覺很類似於貪婪算法，每一個時間點計算一次，取最大的。
優點是計算簡單；而缺點就很明顯了，沒有考慮時序關系，不能保證預測的狀態序列整體上是最優可能的狀態序列，預測的狀態序列可能有實際不發生的部分。
3. 維特比算法
利用動態規划求解概率最大的路徑，一條路徑一個狀態序列。
動態規划求解最優路徑專責：如果最優路徑在某時刻t 通過節點i，那么這條路徑從節點 i 到終點的部分路徑，在節點 i 到終點的路徑中，必須是最優的。
通過這種原理就可以從t=1時刻開始，不斷向后遞推到下一個狀態的路徑的最大概率，直到在最后到達最終的最優路徑終點，然后依據終點回溯到起始點，這樣就能得到最優路徑。
具體過程：（《李航統計學習》）
輸入：模型參數λ和觀測序列
輸出：最優的隱狀態路徑
(1) 第一層所有的N中狀態概率
(2) 逐漸遞推到t=2,3,...,.T
第一個式子是記錄遞推到 t 時刻時候，最優路徑經過的所有結點的聯合概率。
第二個式子是記錄到底到達的是哪個節點，即 t 時刻的哪個隱狀態
其實這一步說白了計算時間和前向計算差不多，只不過把前向計算的狀態加和換成了取max值
(3) 終止
(4) 回溯最優路徑，t= T-1，T-2，...，1
4. 維特比算法實例
4.1 天氣的實例
摘自知乎上的一個實例：https://www.zhihu.com/question/20962240
這張圖就告訴了我們HMM的模型參數
初始概率π=[ 0.6 0.4]
轉移概率（天氣(隱狀態)之間互相轉移）
rain sun
rain 0.7 0.3
sun 0.4 0.6
混淆矩陣（每種天氣（隱狀態）對應行為（可觀測）的概率）
walk shop clean
rain 0.1 0.4 0.5
sun 0.6 0.3 0.1
已知模型參數，以及三天的行為（walk,shop,clean）
求解：三天對應最可能的天氣狀態
解答：
【注】δ的下標不是代表第幾天，而是當前天的第幾個隱狀態,注意,下面的每天的第二個δ下標都寫錯了,應該是δ2,因為不是用markdown寫的，懶得改了，自己推導注意一下
①首先初始化，對於每一個天氣狀態，求當天對應行為的概率
初始化，即第一天不用找最大值，因為第一天哪里知道最可能的路徑，路徑是鏈接兩個節點的，一個節點無法稱為路徑
②第一天到達第二天的路徑概率
③第二天到第三天的路徑概率
④回溯
找到最后一天最大的概率
發現第三天對應第一個狀態的概率最大，而且此概率通過③中的ψ1是第二天的第一個狀態ψ1到達第三天的第一個狀態得到的，所以第二天對應的應該是第一個狀態。
而到達第二天的第一個狀態的最大概率是第一天的第二個狀態，通過②中的ψ1能夠看出來。
所以合起來就是第一天的第二個狀態->第二天的第一個狀態->第三天的第一個狀態
即三天天氣應該是（sun，rain，rain）
4.2 球與盒子的實例
依舊是前向算法中選擇的實例，摘自《李航統計學習》
已知：三個盒子是隱狀態，球的顏色是觀測序列（紅、白、紅）
轉移矩陣
1 2 3
1 0.5 0.2 0.3
2 0.3 0.5 0.2
2 0.2 0.3 0.5
混淆矩陣
red white
1 0.5 0.5
2 0.4 0.6
3 0.7 0.3
初始概率：π=（0.2，0.4，0.4）
解答過程：
①初始化，拿到紅球
②第二次 拿到白球的時候，路徑概率
謝謝@征途開始 指出的問題，之前這里的公式寫錯了，排版的時候上傳圖片搞錯了
③第三次拿到紅球時候，路徑概率
④通過第三次拿的ψ ，找第三次拿最大的概率：ψ3=0.0147
對應的是第三個隱狀態，然后看它對應從第二條路徑中的哪一個轉移過來的，看③中的ψ3=3，說明是第二個路徑的第三個狀態
然后查看第二個路徑第三個狀態對應的是從第一個狀態的哪一個轉移過來的，看②中的ψ3=3，說明是第一個路徑的第三個狀態
綜上，隱狀態的轉移過程為（3,3,3）
---------------------
作者：風翼冰舟
來源：CSDN
原文：https://blog.csdn.net/zb1165048017/article/details/48578183
版權聲明：本文為博主原創文章，轉載請附上博文鏈接！