1、背景 有了强大的log-linear模型,连水槽都能拿来做分类特征了,当然要想办法用一下试试了。log-linear模型的输入是一系列几乎接近自然语言的特征方程,这种抽象的东西拿来做语义识别 ...
条件随机场 作者:樱花猪 摘要: 本文为七月算法 julyedu.com 月机器学习第十八次课在线笔记。条件随机场是一种判别式概率模型,是随机场的一种,常用于标注或分析序列资料,如自然语言文字或是生物序列。 引言: 条件随机场 被用于中文分词和词性标注等词法分析工作,一般序列分类模型常常采用隐马尔科夫模型 HMM ,像基于类的中文分词。但隐马尔可夫模型中存在两个假设:输出独立性假设和马尔可夫性假设 ...
2016-05-06 19:14 0 2291 推荐指数:
1、背景 有了强大的log-linear模型,连水槽都能拿来做分类特征了,当然要想办法用一下试试了。log-linear模型的输入是一系列几乎接近自然语言的特征方程,这种抽象的东西拿来做语义识别 ...
随机森林和提升 作者:樱花猪 摘要: 本文为七月算法(julyedu.com)12月机器学习第十一次次课在线笔记。随机森林和提升都是机器学习将弱分类器融合成强分类器的方法。和我们熟悉的另一种机器学习模型SVM相比,这种方法更适合于大数据并且它的计算速度要比SVM快许多 ...
1、条件随机场的定义 条件随机场的定义:设X与Y是随机变量,P(Y|X)是给定条件X时Y的条件概率分布,此时若随机变量Y构成的是一个马尔科夫随机场,则称条件概率分布P(Y|X)是条件随机场。隐马尔科夫模型和隐马尔科夫随机场是属于生成模型,因为它们都有计算联合概率分布,而条件随机场是判别 ...
凸优化 作者:樱花猪 摘要: 本文为七月算法(julyedu.com)12月机器学习第四次课在线笔记。“凸优化”指的是一种比较特殊的优化,通过“凸优化”我们能够把目标函数转化成一个“凸函数”然后利用凸函数的性质求极值来求解问题。“凸优化”不仅仅在机器学习中有所应用,几乎在 ...
再一次遇到了Markov模型与条件随机场的问题,学而时习之,又有了新的体会。所以我决定从头开始再重新整理一次马尔科夫模型与条件随机场。 马尔科夫模型是一种无向概率图模型,其与马尔科夫链并不是很一样。马尔科夫链的节点是状态,边是转移概率,是template CPD的一种有向状态转移表达 ...
微积分和概率论 作者:樱花猪 摘要: 本文为七月算法(julyedu.com)12月机器学习第一次课在线笔记。本次课以机器学习的观点来看待曾经学过的数学问题,为未来的做机器学习的公式推导做理论基础。主要内容包括高等数学和概率论部分内容。课程通过简单的数学知识串讲,唤起封存已久 ...
最大熵模型 作者:樱花猪 摘要: 本文为七月算法(julyedu.com)12月机器学习第七次课在线笔记。熵,这个概念对于我们来说既熟悉又陌生,熟悉的是我们在许多领域都会碰到熵这个概念,陌生的是如果真的让你解释它又说不清道不明。本次课程讨论了熵的概念并详细解释了最大熵模型。这次 ...
主题模型 作者:樱花猪 摘要: 本文为七月算法(julyedu.com)12月机器学习第十五次课在线笔记。主题模型是对文字隐含主题进行建模的方法。它克服了传统信息检索中文档相似度计算方法的缺点,并且能够在海量互联网数据中自动寻找出文字间的语义主题。主题模型在自然语言和基于文本 ...