softmax的作用:

解决线性模型输出的问题(输出可能为负,且总和不为1)

过程:

  1. 对输出做幂函数运算,保证非负
  2. 对求幂后的结果除以他们的总和,确保总和为1

    公式:

    upper = e^(o)
    lower = sum(e^(ok)),
    softmasx = upper / lower