引例

image.png
image.png

参数

image.png

误差

image.png

image.png
image.png
image.png

  • 即误差越小越好
  • 极大似然估计

image.png

  • 得到了目标函数（代价函数）

    最小化

    image.png

    评估

    image.png

    梯度下降

  • 直接最小化存在问题，矩阵求逆

image.png
image.png
image.png

学习率

image.png

  • 可以设置动态学习率，随着迭代减小