参考课程:
参考资料:
Probabilistic Machine Learning: Advanced Topics by Kevin P. Murphy
1. Plausible reasoning extends Boolean Logic

如上的准则提供了判断事件可能性的方法,其意义也是易于理解的;其中某项概率为 1 我们才能确认是有 true的,当存在概率的不等关系时,我们用 plausible来描述。
进一步地,考虑n个变量,我们有种可能性。因此我们需要剪枝,最好的方法就是有一个独立性的假设,这样我们就可以大幅降低可能性的个数。正如下面提到的这样:


因此,我们将n变量的的情况,成功降低为
,是非常棒的事情。当然,全都独立是不怎么现实的。因此同样地,我们还有如下的条件概率的分解,也就是说,在给定条件
C的情况下假设变量A``B是互相独立的,这个假设弱一些:
注意可能刚开始觉得不太直观,但是后面经常会用到。
2. DAG(Directed Acyclic Model)

这个也是老朋友了,是因果图模型的基础。而这个表示方法,也是因果推断的常用表示:考虑箭头为因果作用,根据Judea的某某定理(我忘了)可以将作用简化为,一个节点只受到d-分离集合的的节点的影响,通常情况下,主要是父节点PA。
例如下面的表达式可以被表示为:
当然也可以进一步分解,来达到化解问题的目的:
3. 常用 DAG 结构

上图是较为重要的三种结构,主要是提供了A和 C的独立性以及其条件概率的计算公式和后面所代表的东西。实际上用贝叶斯公式,把factorization的东西代入即可。
4. Conlusion

