什么是代价函数:

代价函数(loss function):也称作损失函数,是机器学习用来评估性能恶劣程度的标准。

均方误差:

mean squqred error:
代价函数: - 图1 yk 这里指的是神经网络的输出,tk是监督数据,k是数据维数。
通常是用在回归问题上的

交叉熵误差:

cross entropy error
代价函数: - 图2
函数实现内部要加上一个微小值delta以防在取到零值时误差达到-inf(负的无穷大)。

二元交叉熵:

binary_crossentropy:
二元交叉熵适用于二分类问题
同时计算正类和反类的代价,
image.png
image.png