预测
序列模型 - 图2

特点:数据离散

问题是什么

输入数据的数量这个数字将会随着我们遇到的数据量的增加而增加,序列相关性很长不便于计算

自回归模型

第一种策略,假设在现实情况下相当长的序列序列模型 - 图3是没有必要。
因此我们只需要满足某个长度为τ的时间跨度
第二种策略,是保留一些对过去观测的总结序列模型 - 图4,同时更新预测值和总结序列模型 - 图5,即隐变量
时间节点上的输出又作为输入预测下一个节点的输出

隐变量自回归

序列模型 - 图6
序列模型 - 图7
序列模型 - 图8从未被观测到
image.png

如何生成训练数据?

  • 使用历史观察预测未来观察

假设:序列本身的动力学不变

马尔可夫模型

马尔可夫条件:
我们使用序列模型 - 图10 而不是序列模型 - 图11来估计序列模型 - 图12,
只要这种估计近似精确,称序列满足马尔可夫条件。

N阶马尔可夫模型

image.png
image.png