- 分享主题：TS stock
- 论文标题： A Dual-Stage Attention-Based Recurrent Neural Network for Time Series Prediction
- 论文链接：https://arxiv.org/pdf/1704.02971.pdf
- 分享人：唐共勇

1. Summary

【必写】，推荐使用 grammarly 检查语法问题，尽量参考论文 introduction 的写作方式。需要写出

  1. 这篇文章解决了什么问题？
  2. 作者使用了什么方法（不用太细节）来解决了这个问题？
  3. 你觉得你需要继续去研究哪些概念才会加深你对这篇文章的理解？

This paper introduces a time series prediction method based on the seq2seq model (encoder-decoder model) and attention mechanism. Unlike the traditional attention mechanism, which is only used in the input stage of the decoder, that is, different context vectors are generated at different times, this paper also introduces the attention mechanism in the input stage of the encoder, to select the feature selection and grasp the long-term temporal dependencies at the same time. According to the author, the model has achieved good results on both sets of data sets. However, in the process of multiple sets of reproduction, it is found that the experimental setting is not perfect.

2. 你对于论文的思考

需要写出你自己对于论文的思考，例如优缺点，你的takeaways

优点：
1.注意力机制用于两个阶段，在编码器输入也加入注意力机制，更好的抽取特征
2.提供了在循环神经网络结构中计算注意力权重的一类方式，可以使用上一时刻的输入来计算

缺点：
1.实验设置不够完善，实验在股票数据集上进行验证，但是在验证前加了移动平均处理
2.模型在预测股价时用到了指数数据，而指数本身就是一种股票的加权计算，因此指数与注意力的权重应该做消融实验来看一下效果

3. 其他

【可选】

网络结构图
image.png
注意力权重 DARNN - 图2衡量了时刻DARNN - 图3的第DARNN - 图4个feature的重要性。
image.png
实验结果
image.png