機器學習 —— 概率圖模型（推理：團樹算法）
在之前的消息傳遞算法中，談到了聚類圖模型的一些性質。其中就有消息不能形成閉環，否則會導致“假消息傳到最后我自己都信了”。為了解決這種問題，引入了一種稱為團樹（clique tree)的數據結構，樹模型沒有圖模型中的環，所以此模型要比圖模型更健壯，更容易收斂。 1.團樹模型 鏈模型是一種 ...
原文：機器學習 —— 概率圖模型（推理：決策）
Koller 教授把決策作為一種單獨的模塊進行講解，但我認為，決策和推理本質上是一樣的，都是在假設已知CPD或者勢函數的情況下對模型給出結論。 決策 逐利 決策的基本思想很intuitive，並且非常有用。在賭博行為中，最后獲得的錢與硬幣的正反，賭注的大小有關。硬幣的正反顯然是隨機變量，而賭注的大小卻是決策量。顯而易見的是，決策的最終目的是使得某個期望最大化。再舉一個視覺中的例子，對於雙目配准算 ...
2016-03-08 20:09 0 2861 推薦指數：
相關推薦
機器學習 —— 概率圖模型（推理：MAP）
MAP 是最大后驗概率的縮寫。后驗概率指的是當有一定觀測結果的情況下，對其他隨機變量進行推理。假設隨機變量的集合為X ，觀察到的變量為 e， W = X-e , AP = P(W|e). 后驗概率和聯合概率是不同的兩個概念。事實上，后驗概率更接近推理本身的“意義”，並且被越來越多的用於診斷系統 ...
機器學習 —— 概率圖模型（推理：采樣算法）
基於采樣的推理算法利用的思想是 概率 = 大樣本下頻率。故在獲得圖模型以及CPD的基礎上，通過設計采樣算法模擬事件發生過程，即可獲得一系列事件（聯合概率質量函數）的頻率，從而達到inference的目的。 1、采樣的做法 使用采樣算法對概率圖模型進行隨機變量推理的前提是已經獲得CPD ...
機器學習 —— 概率圖模型（推理：變量消除）
概率圖的一個重要作用是進行推理，針對某個隨機變量，告訴我們它到底有沒有可能，有多大可能發生。之前在representation相關的內容中，我們更多的關心如何利用概率圖減少聯合分布的計算量。inference相關的章節就是要介紹如何從聯合概率中獲得單個隨機變量的概率。 1.鏈狀變量消除 ...
機器學習 —— 概率圖模型（推理：消息傳遞算法）
概率圖模型G(V,E)由節點V和邊E構成。在之前馬爾科夫模型相關的博客中，我談到馬爾科夫模型的本質是當兩個人交流后，其意見（兩個隨機變量）同意0與不同意1的概率組合。而勢函數表達的是兩個意見相同或者相左的程度。 我們搞的那么麻煩，最后想要得到的不就是每個意見正確與否（隨機變量取不同值 ...
機器學習 —— 概率圖模型（CPD）
CPD是conditional probability distribution的縮寫，翻譯成中文叫做 條件概率分布。在概率圖中，條件概率分布是一個非常重要的概念。因為概率圖研究的是隨機變量之間的練習，練習就是條件，條件就要求條件概率。 對於簡單的條件概率而言，我們可以用一個條件概率表 ...
機器學習 —— 概率圖模型（完結）
理論；3、概率圖模型。有這三種方法則可以對大部分學術問題進行建模，無論什么層面或是類別的問題，總能往這三種框架里塞 ...
機器學習 —— 概率圖模型（學習：圖結構）
概率圖模型相比於其他學習算法的優勢在於可以利用圖結構來將已知信息帶入到知識網絡中。那么在使用概率圖模型之前，往往要求圖結構是已知的。而現實中或許我們並沒有足夠的先驗知識，但是有大量的樣本。如何通過樣本對概率圖的G進行推測就是這種學習算法要解決的問題。確實，在有大量樣本的情況下 ...