image.png

作用

image.png
L1正则化就是在loss function后边所加正则项为L1范数，加上L1范数容易得到稀疏解（0比较多）。L2正则化就是loss function后边所加正则项为L2范数的平方，加上L2正则相比于L1正则来说，得到的解比较平滑（不是稀疏），但是同样能够保证解中接近于0（但不是等于0，所以相对平滑）的维度比较多，降低模型的复杂度。
image.png
image.png
image.png

  • L1和L2加入后的函数图像：

image.png
加入L1和L2正则的等高线
image.png
image.png
image.png
image.png
image.png
image.png
image.png