条件随机场入门（三） 条件随机场的概率计算问题
条件随机场的概率计算问题是给定条件随机场 P(Y|X) ，输入序列 x 和输出序列 y ,计算条件概率 $P(Y_{i-1} = y_{i-1}Y_i = y_i|x)$ ，$P(Y_i = y_i|x)$ 以及相应的数学期望的问题。为了方便起见，像 HMM 那样，引进前向-后向向量，递归 ...
原文：条件随机场入门（一） 概率无向图模型
引言 条件随机场 conditional random field，以下简称CRF 是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布模型，其特点是假设输出随机变量构成马尔可夫随机场 HMM 是状态序列的 Markov Chain 。CRF 可以用于不同的预测问题，在 Machine Learning 领域里 CRF 一般用作处理标注问题。常用的就是线性链 linear chain 条件 ...
2016-08-29 13:57 0 13289 推荐指数：
相关推荐
条件随机场入门（二） 条件随机场的模型表示
linear-chain 条件随机场 条件随机场（conditional random field）是给定随机变量 X 条件下，随机变量 Y 的马尔可夫随机场。本文主要介绍定义在线性链上的特殊的条件随机场，称为线性链条件随机场（linear-chain CRF)。线性链条件随机场可以用于机器学习 ...
机器学习 —— 概率图模型（马尔科夫与条件随机场）
再一次遇到了Markov模型与条件随机场的问题，学而时习之，又有了新的体会。所以我决定从头开始再重新整理一次马尔科夫模型与条件随机场。 马尔科夫模型是一种无向概率图模型，其与马尔科夫链并不是很一样。马尔科夫链的节点是状态，边是转移概率，是template CPD的一种有向状态转移表达 ...
马尔可夫随机场——概率图模型之无向图
目录 马尔可夫随机场 - 条件独立性 成对马尔可夫性质 局部马尔可夫性质 全局马尔可夫性质 马尔可夫随机场 - 因子分解 最大团 概率密度函数 马尔可夫随机场 - 条件独立性 如图 ...
马尔可夫随机场（Markov random fields) 概率无向图模型 马尔科夫网（Markov network)
上面两篇博客，解释了概率有向图（贝叶斯网），和用其解释条件独立。本篇将研究马尔可夫随机场（Markov random fields)，也叫无向图模型，或称为马尔科夫网（Markov network) 下面附上，上述实验的matlab代码。没有插入matlab选项 ...
NLP —— 图模型（二）条件随机场（Conditional random field，CRF）
本文简单整理了以下内容： （一）马尔可夫随机场（Markov random field，无向图模型）简单回顾 （二）条件随机场（Conditional random field，CRF） 这篇写的非常浅，基于 [1] 和 [5] 梳理。感觉 ...
条件随机场入门（五） 条件随机场的预测算法
CRF 的预测问题是给定模型参数和输入序列（观测序列）x， 求条件概率最大的输出序列（标记序列）$y^*$，即对观测序列进行标注。条件随机场的预测算法同 HMM 还是维特比算法，根据 CRF模型可得： \begin{aligned}y^* &= \arg \max_yP_w(y|x ...
条件随机场入门（四） 条件随机场的训练
本节讨论给定训练数据集估计条件随机场模型参数的问题，即条件随机场的学习问题。条件随机场模型实际上是定义在时序数据上的对数线形模型，其学习方法包括极大似然估计和正则化的极大似然估计。具体的优化实现算法有改进的迭代尺度法IIS、梯度下降法以及 L-BFGS 算法。（crf++ 采用了 L-BFGS ...