基本认知

https://zhuanlan.zhihu.com/p/124757082
https://www.it610.com/article/1381544190181187584.htm

基本问题

1. 逻辑回归为什么选择Sigmoid函数，而不选择单位阶跃函数或其他函数？（单位阶跃函数是小于0的部分为0，大于等于0的部分为1，类似于分段函数）

核心的原因：sigmoid函数可微可导，单位阶跃在0处不可导（后面计算会很复杂）。其他函数都是可以选的，写什么函数都是一样的，目的都是用来分类的，只是sigmoid函数在后面的推导过程会容易一些。

1. 为什么正则化可以防止过拟合呢？

简单地理解就是，通过加入一个正则项，在最小化新的代价函数的时候，正则项使得预测值与真实值之间的误差并不会达到最小，也就是说它是不会去完美拟合的，这样也就防止了过拟合，提高了机器学习模型的泛化能力。

问题概括：

https://wenku.baidu.com/view/6c47b339a46e58fafab069dc5022aaea998f41b7.html