BERT提升效果增加模型的复杂性 Embedding存在的问题：不依存context。解决办法：神经网络将context作为输入 深度迁移学习模型 充分利用无标注的数据；使用较深的模型；训练时使用更少的数据BERT ELMO BERT 提升效果 增加模型的复杂性
