Logistic 起源

人口增长问题

对数几率回归(逻辑回归) - 图2表示时间t下的人口,假设人口增长率与当前人口成线性关系于是一个基本的人口增长模型:

对数几率回归(逻辑回归) - 图3

由于人口不能无限增长,对增长率进行一定限制得到

对数几率回归(逻辑回归) - 图4
经过尝试,对数几率回归(逻辑回归) - 图5函数取二次函数最好,于是
对数几率回归(逻辑回归) - 图6表示地球最大的人口容量,对数几率回归(逻辑回归) - 图7表示当前的人口占最大人口的比值
对数几率回归(逻辑回归) - 图8
如何求对数几率回归(逻辑回归) - 图9
对数几率回归(逻辑回归) - 图10
于是可以解出
对数几率回归(逻辑回归) - 图11
这个函数
对数几率回归(逻辑回归) - 图12
就是 Logistic 函数
logistic 中的 logit是对数增长曲线,与逻辑无关
ic 是与 mathmatic 对应起来(叫着顺口)

Logistic Distribution

对数几率回归(逻辑回归) - 图13
对数几率回归(逻辑回归) - 图14是有界的,取值范围是(0,1),因为本身的起初含义就是当前人口占最大可容纳人口的比例
对数几率回归(逻辑回归) - 图15是右连续的,因此对数几率回归(逻辑回归) - 图16是分布函数,表示一个概率
对其求导可以得到概率密度函数
对数几率回归(逻辑回归) - 图17
对数几率回归(逻辑回归) - 图18
image.png
该概率密度函数描述人口增长规律

Logistic Regression

image.png

参数估计

如何确定对数几率回归(逻辑回归) - 图21?
极大似然估计,函数重写
对数几率回归(逻辑回归) - 图22
似然函数
对数几率回归(逻辑回归) - 图23于是
image.png

解法

显示解
迭代法:
梯度下降
牛顿法