原文:深度学习(八):概率生成模型

一 引入 最开始知道生成模型和判别模型,是在李航的统计学习方法里,当时的理解是:生成模型,就是同时考虑了X和Y的随机性,也就是说二者都是随机变量 判别模型,就是只考虑了Y的随机性,而X并不是个随机变量,即使X存在于条件中,但是并没有p x 这种说法。当时同时也知道了,朴素贝叶斯和隐马尔可夫都是生成模型,最主要的原因就是在这两个模型中涉及到的变量都是随机变量。生成模型可以转变成判别模型,也就是生成模 ...

2020-03-27 00:01 0 731 推荐指数:

查看详情

深度学习(一):概率模型引入

一、简介 概率模型(Probabilistic Graphical Model ,PGM)是用图来表示变量概率依赖关系的理论,结合概率论与图论的知识,利用图来表示与模型有关的变量的联合概率分布。图的每个节点(node)都表示一个随机变量,而图的边(edge)则被用于编码 ...

Sat Mar 21 02:14:00 CST 2020 0 733
概率生成模型

对于一个分类问题,首先要有数据,然后需要找到一个模型f,定义loss function,最后找到表现最好的f的参数。 从概率上讲,分类问题其实就是根据训练数据估计新的数据属于哪一类的概率。 在讲概率生成模型前需要介绍高斯分布函数。 输入是特征向量x,输出是x的概率,高斯函数的形状由均值 ...

Fri Sep 01 01:31:00 CST 2017 0 2696
zz“深度高斯模型”可能为深度学习的可解释性提供概率形式的理论指导

【NIPS2017】“深度高斯模型”可能为深度学习的可解释性提供概率形式的理论指导?亚马逊机器学习专家最新报告 专知 【导读】在NIPS 2017上,亚马逊机器学习专家Neil Lawrence在12月4日在长滩现场进行了一场“基于高斯模型深度概率模型”的演讲报告。这场报告Neil ...

Mon Sep 02 15:50:00 CST 2019 0 373
概率模型学习笔记)

概率模型(PGM):有向图模型,无向图模型和混合概率模型。 有向概率模型:隐马尔科夫模型,贝叶斯网络和动态贝叶斯网络。 无向概率模型:马尔科夫随机场 MRF,——>条件随机场 CRF。 混合概率模型:链图。 Markov-Gibbs的等价性 ...

Fri Jan 06 03:00:00 CST 2017 2 1085
学习笔记」概率生成函数

概率生成函数 如果对于数列\(a_0 , a_1 , a_2 , . . . ,\)存在某个离散随机变量\(X\)满足\(\mathrm{Pr}(X = i) = a_i,\)那么\(a_n (n \in \mathbb N)\)的普通生成函数被称为\(X\)的概率生成函数。 也就是说 ...

Sat Jul 27 04:23:00 CST 2019 8 470
深度学习的Attention模型

前面看到谷歌发表的运用在机器翻译上的论文《Attention is all you need》,很是让人惊讶,这是一种全新的模型,与之前的经典的seq2seq模型改动较大,它完全摒弃了RNN或CNN神经网络,大大简化了模型的复杂度,而且效果还相当好。当然Attention模型可以单独使用,但这篇 ...

Mon Oct 16 05:13:00 CST 2017 0 1796
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM