激活函数

二分类激活函数

  1. 感知机使用的激活函数

image.png
缺点是不好求导

  1. Sigmoid(输出映射到（0,1）区间)

image.png

  1. Tanh(将输入投影到（-1,1）区间)

image.png

  1. ReLU（比较常用）image.png

计算成本低，计算快

多分类激活函数

  1. softmaximage.png