模型描述
监督学习中,有一个数据集合。m
为样本数量,x's
输入参数,特征值,y's
输出参数,目标值。一个训练例子
表示第
i
个例子。(i)
指的是索引位置。
从训练集到学习算法,求出假设函数。通过输入自变量,得到我们的预测值。
这是一个单变量线性归回模型,输入值只有一个特征x。
代价(损失)函数
评价回归模型的参数的函数
优化方向就是使得代价函数最小,无限接近于0Hypothesis:假设单变量线性回归方程为
将单变量线性回归的损失函数画图,可以得到一条抛物线,那么目标就是在这条抛物线中,求最低点。
梯度下降法
求导过程,在一段变化中,求变化的拐点值。
梯度下降需要同时计算,
梯度下降算法:
>