隐马尔可夫模型的概率图模型如下:
image.png
概率图模型
上图中HMM(生成) - 图2代表时刻,阴影部分为观测变量序列HMM(生成) - 图3,非阴影部分为状态变量序列HMM(生成) - 图4,另外我们定义观测变量取值的集合为HMM(生成) - 图5,状态变量取值的集合为HMM(生成) - 图6

HMM(生成) - 图7

隐马尔可夫模型的参数用HMM(生成) - 图8表达:

HMM(生成) - 图9

其中HMM(生成) - 图10为初始概率分布,是一个多维向量;HMM(生成) - 图11为状态转移矩阵;HMM(生成) - 图12为发射矩阵:

HMM(生成) - 图13

3. 两个假设

  • 齐次马尔可夫假设

任意时刻的状态只依赖于前一时刻的状态,即:

HMM(生成) - 图14

  • 观测独立假设

任意时刻的观测只依赖于当前时刻的状态,即:

HMM(生成) - 图15

4. 三个问题

  • Evaluation

已知模型的参数HMM(生成) - 图16,计算某个观测序列发生的概率,即求:

HMM(生成) - 图17

  • Learning

已知观测序列,使用EM算法求参数HMM(生成) - 图18

HMM(生成) - 图19

  • Decoding

已知观测序列HMM(生成) - 图20和参数HMM(生成) - 图21,求使概率HMM(生成) - 图22最大的状态序列HMM(生成) - 图23,即:

HMM(生成) - 图24

具体实例:命名实体识别

HMM模型
learning:

参数HMM(生成) - 图25

其中HMM(生成) - 图26为初始概率分布,是一个多维向量;
HMM(生成) - 图27为状态转移矩阵;
HMM(生成) - 图28为发射矩阵:
HMM参数学习(监督学习): 用现在有一些文本和与之对应的标注数据, 来训练一个HMM来拟合这些数据
Inference的Decoding: