深度学习分类
tanh- 一个tanh承载所有的数据，即一个神经元
一。表示学习：
马图片-rgb三色通道，
像素先从低级特征学三色轮廓

bp神经网络算法☞:靠反向传播更新参数,构建

前馈神经网络DNN(deep neural network)

前馈神经网络采用一种单向多层结构。其中每一层包含若干个神经元。在此种神经网络中，各神经元可以接收前一层神经元的信号，并产生输出到下一层。第0层叫输入层，最后一层叫输出层，其他中间层叫做隐含层（或隐藏层、隐层）。隐层可以是一层。也可以是多层 。

image.png
image.png
只要隐藏神经元多可以学到任何复杂函数
image.png
image.png
image.png
image.png
image.png
image.png

神经网络的前向传播
激活函数：sigmoid
image.png
image.png
image.png
E01 是损失 ， 目标与预测 输出的误差
image.png
/
image.png

W5参数更新求梯度链：

每次的隐藏层更新参数很麻烦，而tensor可以记录每次的梯度
隐藏层一层层更新
image.png
image.pngimage.png
image.png
image.png
image.png

image.png
image.png
image.png

前向传播矩阵表示：

image.png