1.为什么必须在神经网络中引入非线性?
    image.png
    2.Relu在零点不可导,那么在反向传播中怎么处理?
    image.png
    3.relu的优缺点
    image.png
    image.png
    4.BN解决了什么问题
    image.png
    5.BN的实现流程
    image.png
    image.pngimage.png