目的

高级优化算法,与梯度下降相比大大提高logistics回归速度,更适合庞大数据特征
image.png
实际上计算代价函数过程中只需要计算其导数项即可
只有想要监测收敛过程时,需要计算代价函数自身的大小

实际上不止梯度下降算法可用
只要有代价函数自身和其偏导数,就可以使用其它更高级算法实现
image.png
image.png

这些算法有一个智能内循环,称为线搜索算法,可以自动尝试不同的学习率,并选择最合适的,大大提高收敛速度
设计领域:高等数值计算
支持调用库来实现这些高等算法

使用

image.png
Octave:
image.png
image.png

  • 调用了函数 fminunc (无约束最小化函数)
  • 多特征时

image.png