2.2 神经网络的介绍

1.概念

2.单层神经网络

单层神经网络是最基本的神经网络格式，由有限个神经元构成，所有神经元的输入向量都是同一个向量。由于每个神经元都会产生一个标量的结果，所以单层神经网络的输出是一个向量，向量的维度等于神经元的个数。

3.感知机

感知机由两层神经网络组成。
输入层接收外界信号，然后传递给输出层。

感知机的作用：
把一个n维向量空间分割成两部分，给定一个输入向量，超平面可以判断这个向量位于超平面哪一个部分。

简单的二分类模型，给定数据，判断数据位于哪个部分。

4.多层神经网络

多层神经网络就是由单层神经网络进行叠加之后得到的，所以就形成了层的概念。

输入层：众多神经元接受大量非线性输入信息。输入的消息称为输入向量。输入层和特征数量差不多
输出层：和分类的数量差不多，如果是回归方程就是一个数值结果

隐藏层的节点数目不定，但数目越多的神经网络非线性越显著，从而神经网络的健壮性越强。

神经网络越深，能够拟合的东西越多。

全连接层：当前一层的每个神经元都与上面一层的每一个神经元相连。

5.激活函数

如果我们只是增加层数，达到的效果和两层的感知机是一样的。
输出的还是一个线性的——直线。

在线性的直线加上非线性的激活函数，我们就可以得到非线性的输出结果。

在图像中ReLU用的比较多

6.神经网络示例

高级特征不好量化，所以我们要用可以量化的低级特征经过一层神经网络之后得到相应的可量化的高级特征。

隐藏层做的是更高级特征的抽取。