参考课程:

参考课程

参考资料:

Probabilistic Machine Learning: Advanced Topics by Kevin P. Murphy
MCMC知乎讲解
Markov过程知乎讲解
手推MCMC
HMC
HMC原理

强烈建议看书!!数学不好就是真的坐火箭。

非常抱歉我也没咋懂,就摘录slide啦。

1. Summary

image.png

2. Markov Chain

motivation

我们可以生成序列数据,而不是进行IID的采样。这主要是因为我们有时候得到一个采样集(在上一节课程中的q(x))可能会有些困难。

image.png

Metropolis-Hasting Method

image.png

3. Markov method

MCMC sampling

下面这个定理是说采样结果能逼近真实分布:
image.png
image.png

M-H sampling

image.png

4. Gibbs sampling

image.png

5. Hamiltonian Monte Carlo

image.png
image.pngimage.png