目的
高级优化算法,与梯度下降相比大大提高logistics回归速度,更适合庞大数据特征
实际上计算代价函数过程中只需要计算其导数项即可
只有想要监测收敛过程时,需要计算代价函数自身的大小
实际上不止梯度下降算法可用
只要有代价函数自身和其偏导数,就可以使用其它更高级算法实现
这些算法有一个智能内循环,称为线搜索算法,可以自动尝试不同的学习率,并选择最合适的,大大提高收敛速度
设计领域:高等数值计算
支持调用库来实现这些高等算法
使用
Octave:
- 调用了函数 fminunc (无约束最小化函数)
- 多特征时