1、Machine Learning ≈ Looking for function

different types of function:
1)regression:输出一个标量
2)classification:做出选择(分类)
例如:下围棋next move,棋盘大小19×19,因此从19×19个选项中选出一个正确的
3)structure learning:创造一个新的结构(图像、文件等)

2、损失函数

例如:y=b+wx 损失函数为L(b, w),通过训练得到。
image.png
en为估计值和真实值之间的误差。
Gradient Descent:找到损失函数最低点的参数值
image.png
image.png

3、机器学习主要步骤

1)写出一个函数,含有未知数;
2)定义损失函数Loss;
3)找到一组参数,使得Loss最小。
以上3步称为 训练