监督学习,描述一个变量随着另一个变量之间的关系。

模型描述

监督学习中,有一个数据集合。m为样本数量,x's 输入参数,特征值,y's输出参数,目标值。
2.单变量线性回归 - 图1一个训练例子
2.单变量线性回归 - 图2表示第i个例子。(i)指的是索引位置。
image.png
从训练集到学习算法,求出假设函数2.单变量线性回归 - 图4。通过输入自变量,得到我们的预测值。
这是一个单变量线性归回模型,输入值只有一个特征x。

代价(损失)函数

评价回归模型的参数的函数
2.单变量线性回归 - 图5
优化方向就是使得代价函数最小,无限接近于0
image.png
Hypothesis:假设单变量线性回归方程为2.单变量线性回归 - 图7
将单变量线性回归的损失函数画图,可以得到一条抛物线,那么目标就是在这条抛物线中,求最低点。

梯度下降法

求导过程,在一段变化中,求变化的拐点值。
梯度下降需要同时计算,2.单变量线性回归 - 图8

梯度下降算法:
image.png