Linear Regression - 《ZHENG -PRML阅读笔记》

一元线性回归

偏差绝对值定义误差

假设需要进行回归分析的样本点为 Linear Regression - 图3
要求预测值与原值的偏差绝对值和达到最小，即最小化 Linear Regression - 图4
在这里，只考虑线性拟合，即 Linear Regression - 图5 其中b为回归系数。
Linear Regression - 图6

概率视角（拉普拉斯分布MLE）

Linear Regression - 图7

偏差平方和定义误差（least square method）

假设需要进行回归分析的样本点为 Linear Regression - 图8
从最小二乘角度，要求预测值与原值的偏差平方和达到最小，即最小化 Linear Regression - 图9
在这里，只考虑线性拟合，即 Linear Regression - 图10 其中b为回归系数 Linear Regression - 图11