过拟合表示在训练数据集上效果很好,在测试数据集上表现一般

1、过拟合的判断方法

  • 通过绘制学习曲线 训练次数-精确度曲线等来观察

2、解决过拟合的方法

2.1 正则化参数

如果想降级模型的复杂度用L1正则化参数
如果想降低模型预测值的方差用L2正则化参数

2.2 Dropout

2.3 ensemble

集成学习也能有效的减小过拟合线性
Bagging通过平均多个模型的结果,来降低模型的方差
Boosting不仅能够减小偏差,还能减小方差