本文会利用到上篇，博客的分解定理，需要的可以查找上篇博客 D-separation对任何用有向图表示的概率模型都成立，无论随机变量是离散还是连续，还是两者的结合。 部分图为手写，由于本人字很丑，望见谅，只是想把PRML书的一些部分总结出来，给有需要的人 ...

1. 从贝叶斯方法（思想）说起 - 我对世界的看法随世界变化而随时变化 用一句话概括贝叶斯方法创始人Thomas Bayes的观点就是：任何时候，我对世界总有一个主观的先验判断，但是这个判断会随着世界的真实变化而随机修正，我对世界永远保持开放的态度。 1763年，民间科学家Thomas ...

1、贝叶斯定理 P(A∣B)=P(A)P(B∣A)P(B) P(A|B)是已知B发生后A的条件概率，也由于得自B的取值而被称作A的后验概率。 P(B|A)是已知A发生后B的条件概率，也由于得自A的取值而被称作B的后验概率。 P(A)是A的先验概率或边缘概率。之所以称为 ...

本篇博客是Daphne Koller课程Probabilistic Graphical Models(PGM)的学习笔记。 概率图模型是一类用图形模式表达基于概率相关关系的模型的总称。概率图模型共分为三个部分，分别为表示理论，推理理论和学习理论。基本的概率图模型包括贝叶斯网络、马尔科夫网络和隐 ...

目录 图模型 贝叶斯网络 条件独立的三种情况 第一种情况tail-to-tail 第二种情况tail-to-head 第三种情况head-to-head D-seperation 贝叶斯网络模型 图模型 图 ...

　　概率图模型（PGM）是一种对现实情况进行描述的模型。其核心是条件概率，本质上是利用先验知识，确立一个随机变量之间的关联约束关系，最终达成方便求取条件概率的目的。 1.从现象出发---这个世界都是随机变量 　　这个世界都是随机变量。 　　第一，世界是未知的，是有多种可能性的。 　　第二 ...

1 贝叶斯方法 长久以来，人们对一件事情发生或不发生的概率，只有固定的0和1，即要么发生，要么不发生，从来不会去考虑某件事情发生的概率有多大，不发生的概率又是多大。而且概率虽然未知，但最起码是一个确定的值。比如如果问那时的人们一个问题：“有一个袋子，里面装着若干个白球和黑球，请问 ...

动态贝叶斯网络 　　我们已经在静态世界的上下文中发展了用于概率推理的技术，在这里每个随机变量都有一个唯一的固定取值。例如，在修理汽车时，我们总是假设在整个诊断过程中发生故障的部分一直都是有故障的（与时间无关）；我们的 任务是根据已观察到的证据推断汽车的状态，而这个状态是保持不变的。但是现实世界中 ...