Insight & target problem

专门为摘要打造的预训练模型

Solution

选择重要的句子,然后MASK句子,然后只生成重要句子(BART是复现原文输入)
也可以同时一起MLM
image.png

Highlight

Others