• 支持向量机（SVM）
  • 相比回归方程，神经网络

  • SVM在学习复杂的非线性方程时，能够提供更为清晰和更加强大的方式

    引例

  • 从logistics回归引入

image.png
image.png
image.png

  • 对代价函数修改，将曲线近似为两段直线代替

    改造

  • 对logistics的代价函数改造，以符合支持向量机惯例

image.png
这部分可以概括为
【机器学习】优化目标 - 图5
在SVM中，不使用 【机器学习】优化目标 - 图6 作为权衡参数
而是概括为
【机器学习】优化目标 - 图7
A：最小化项
B：正则化项
A和B即为优化目标

于是得到了支持向量机的总体优化目标（代价函数）
image.png

SVM

  • 相较于logistics回归，SVM得到的不是概率值
  • 而是直接输出 0 或 1

image.png