深度学习

  • 深度学习用到的特征通常有:
    • Word Embeddings
    • Position Embeddings
    • Knowledge Embeddings
  • 模型通常有:
    • CNN + Attention

image.png

  • RNN + Attention
    • 实体很多时,需要判断的实体对比较多。
    • RNN并行计算能力差。

image.png

  • PCNN (Piecewise Convolutional Neural Networks)
    • 分段 maxpooling
    • 可并行训练与预测

image.png