條件隨機場入門（三） 條件隨機場的概率計算問題
條件隨機場的概率計算問題是給定條件隨機場 P(Y|X) ，輸入序列 x 和輸出序列 y ,計算條件概率 $P(Y_{i-1} = y_{i-1}Y_i = y_i|x)$ ，$P(Y_i = y_i|x)$ 以及相應的數學期望的問題。為了方便起見，像 HMM 那樣，引進前向-后向向量，遞歸 ...
原文：條件隨機場入門（一） 概率無向圖模型
引言 條件隨機場 conditional random field，以下簡稱CRF 是給定一組輸入隨機變量條件下另一組輸出隨機變量的條件概率分布模型，其特點是假設輸出隨機變量構成馬爾可夫隨機場 HMM 是狀態序列的 Markov Chain 。CRF 可以用於不同的預測問題，在 Machine Learning 領域里 CRF 一般用作處理標注問題。常用的就是線性鏈 linear chain 條件 ...
2016-08-29 13:57 0 13289 推薦指數：
相關推薦
條件隨機場入門（二） 條件隨機場的模型表示
linear-chain 條件隨機場 條件隨機場（conditional random field）是給定隨機變量 X 條件下，隨機變量 Y 的馬爾可夫隨機場。本文主要介紹定義在線性鏈上的特殊的條件隨機場，稱為線性鏈條件隨機場（linear-chain CRF)。線性鏈條件隨機場可以用於機器學習 ...
機器學習 —— 概率圖模型（馬爾科夫與條件隨機場）
再一次遇到了Markov模型與條件隨機場的問題，學而時習之，又有了新的體會。所以我決定從頭開始再重新整理一次馬爾科夫模型與條件隨機場。 馬爾科夫模型是一種無向概率圖模型，其與馬爾科夫鏈並不是很一樣。馬爾科夫鏈的節點是狀態，邊是轉移概率，是template CPD的一種有向狀態轉移表達 ...
馬爾可夫隨機場——概率圖模型之無向圖
目錄 馬爾可夫隨機場 - 條件獨立性 成對馬爾可夫性質 局部馬爾可夫性質 全局馬爾可夫性質 馬爾可夫隨機場 - 因子分解 最大團 概率密度函數 馬爾可夫隨機場 - 條件獨立性 如圖 ...
馬爾可夫隨機場（Markov random fields) 概率無向圖模型 馬爾科夫網（Markov network)
上面兩篇博客，解釋了概率有向圖（貝葉斯網），和用其解釋條件獨立。本篇將研究馬爾可夫隨機場（Markov random fields)，也叫無向圖模型，或稱為馬爾科夫網（Markov network) 下面附上，上述實驗的matlab代碼。沒有插入matlab選項 ...
NLP —— 圖模型（二）條件隨機場（Conditional random field，CRF）
本文簡單整理了以下內容： （一）馬爾可夫隨機場（Markov random field，無向圖模型）簡單回顧 （二）條件隨機場（Conditional random field，CRF） 這篇寫的非常淺，基於 [1] 和 [5] 梳理。感覺 ...
條件隨機場入門（五） 條件隨機場的預測算法
CRF 的預測問題是給定模型參數和輸入序列（觀測序列）x， 求條件概率最大的輸出序列（標記序列）$y^*$，即對觀測序列進行標注。條件隨機場的預測算法同 HMM 還是維特比算法，根據 CRF模型可得： \begin{aligned}y^* &= \arg \max_yP_w(y|x ...
條件隨機場入門（四） 條件隨機場的訓練
本節討論給定訓練數據集估計條件隨機場模型參數的問題，即條件隨機場的學習問題。條件隨機場模型實際上是定義在時序數據上的對數線形模型，其學習方法包括極大似然估計和正則化的極大似然估計。具體的優化實現算法有改進的迭代尺度法IIS、梯度下降法以及 L-BFGS 算法。（crf++ 采用了 L-BFGS ...