利用NLP中的Self-training方式进行数据增强

对于增强量到1万条数据和2万分别进行实验,图表如下:

image.png
image.pngimage.png
image.pngimage.png

使用数据增强后的2万数据,利用控制变量法进行调参:

Batch_Size变化对模型表现的影响:Batch_size分别取 32、64进行实验
image.png
image.pngimage.pngimage.pngimage.png

拓宽和加深神经网络对模型表现的影响:拓宽:神经网络隐藏层设置从64拓宽到128 加深:神经网络的层数从3增加到6
学习率的变化对模型的表现的影响:
多头自注意力中头数目的变化对模型的影响: