对一个给定观测序列作业 - 图1,状态序列作业 - 图2是隐状态,求参数作业 - 图3
    由于模型带有隐变量,所以可以使用EM算法求参数。
    E-step: 写出期望
    期望就是完备数据的对数似然函数在y的后验分布下的期望即:
    作业 - 图4
    这里作业 - 图5是第i次迭代后的参数,是已知量。
    作业 - 图6
    M-step:
    作业 - 图7
    作业 - 图8分母是一个常数故可以直接舍去
    作业 - 图9
    作业 - 图10
    代入得:
    作业 - 图11
    分别对π, A, B求解
    π:
    作业 - 图12
    作业 - 图13
    约束条件为作业 - 图14,利用拉格朗日乘子法求解得
    作业 - 图15
    A:
    作业 - 图16
    作业 - 图17
    约束条件作业 - 图18,同样利用拉格朗日乘子法求解得
    作业 - 图19
    B:
    作业 - 图20
    作业 - 图21
    作业 - 图22