在梯度下降法中,我们简单讲述了一下神经网络做线性拟合的原理,即:

  1. 初始化权重值
  2. 根据权重值求出一个解
  3. 根据均方差函数求误差
  4. 误差反向传播给线性计算部分以调整权重值
  5. 是否满足终止条件?不满足的话跳回2

一个不恰当的比喻就是穿糖葫芦:桌子上放了一溜儿12个红果,给你一个足够长的竹签子,选定一个角度,在不移动红果的前提下,想办法用竹签子穿起最多的红果。

最开始你可能会任意选一个方向,用竹签子比划一下,数数能穿到几个红果,发现是5个;然后调整一下竹签子在桌面上的水平角度,发现能穿到6个……最终你找到了能穿10个红果的的角度。

定义神经网络结构

我们是首次尝试建立神经网络,先用一个最简单的单层单点神经元,如图4-4所示。

神经网络法 - 图1

下面,我们用这个最简单的线性回归的例子,来说明神经网络中最重要的反向传播和梯度下降的概念、过程以及代码实现。

输入层

此神经元在输入层只接受一个输入特征,经过参数w,b的计算后,直接输出结果。这样一个简单的“网络”,只能解决简单的一元线性回归问题,而且由于是线性的,我们不需要定义激活函数,这就大大简化了程序,而且便于大家循序渐进地理解各种知识点。

严格来说输入层在神经网络中并不能称为一个层

权重w/b

因为是一元线性问题,所以w/b都是一个标量。

输出层

输出层1个神经元,线性预测公式是:

z_i = x_i \cdot w + b

z是模型的预测输出,y是实际的样本标签值,下标 i 为样本。

损失函数

因为是线性回归问题,所以损失函数使用均方差函数。

loss(w,b) = \frac{1}{2} (z_i-y_i)^2

反向传播

由于我们使用了和上一节中的梯度下降法同样的数学原理,所以反向传播的算法也是一样的,细节请查看梯度下降法

计算w的梯度

{\partial{loss} \over \partial{w}} = \frac{\partial{loss}}{\partial{z_i}}\frac{\partial{z_i}}{\partial{w}}=(z_i-y_i)x_i

计算b的梯度

\frac{\partial{loss}}{\partial{b}} = \frac{\partial{loss}}{\partial{z_i}}\frac{\partial{z_i}}{\partial{b}}=z_i-y_i

为了简化问题,在本小节中,反向传播使用单样本方式,在下一小节中,我们将介绍多样本方式。

代码实现

其实神经网络法和梯度下降法在本质上是一样的只不过神经网络法使用一个崭新的编程模型,即以神经元为中心的代码结构设计,这样便于以后的功能扩充。

在Python中可以使用面向对象的技术,通过创建一个类来描述神经网络的属性和行为,下面我们将会创建一个叫做NeuralNet的class,然后通过逐步向此类中添加方法,来实现神经网络的训练和推理过程。

定义类

  1. class NeuralNet(object):
  2. def __init__(self, eta):
  3. self.eta = eta
  4. self.w = 0
  5. self.b = 0

NeuralNet类从object类派生,并具有初始化函数,其参数是eta,也就是学习率,需要调用者指定。另外两个成员变量是w和b,初始化为0。

前向计算

  1. def __forward(self, x):
  2. z = x * self.w + self.b
  3. return z

这是一个私有方法,所以前面有两个下划线,只在NeuralNet类中被调用,不对外公开。

反向传播

下面的代码是通过梯度下降法中的公式推导而得的,也设计成私有方法:

  1. def __backward(self, x,y,z):
  2. dz = z - y
  3. db = dz
  4. dw = x * dz
  5. return dw, db

dz是中间变量,避免重复计算。dz又可以写成delta_Z,是当前层神经网络的反向误差输入。

梯度更新

  1. def __update(self, dw, db):
  2. self.w = self.w - self.eta * dw
  3. self.b = self.b - self.eta * db

每次更新好新的w和b的值以后,直接存储在成员变量中,方便下次迭代时直接使用,不需要在全局范围当作参数内传来传去的。

训练过程

只训练一轮的算法是:

for 循环,直到所有样本数据使用完毕:

  1. 读取一个样本数据
  2. 前向计算
  3. 反向传播
  4. 更新梯度
  1. def train(self, dataReader):
  2. for i in range(dataReader.num_train):
  3. # get x and y value for one sample
  4. x,y = dataReader.GetSingleTrainSample(i)
  5. # get z from x,y
  6. z = self.__forward(x)
  7. # calculate gradient of w and b
  8. dw, db = self.__backward(x, y, z)
  9. # update w,b
  10. self.__update(dw, db)
  11. # end for

推理预测

  1. def inference(self, x):
  2. return self.__forward(x)

推理过程,实际上就是一个前向计算过程,我们把它单独拿出来,方便对外接口的设计,所以这个方法被设计成了公开的方法。

主程序

  1. if __name__ == '__main__':
  2. # read data
  3. sdr = SimpleDataReader()
  4. sdr.ReadData()
  5. # create net
  6. eta = 0.1
  7. net = NeuralNet(eta)
  8. net.train(sdr)
  9. # result
  10. print("w=%f,b=%f" %(net.w, net.b))
  11. # predication
  12. result = net.inference(0.346)
  13. print("result=", result)
  14. ShowResult(net, sdr)

运行结果可视化

打印输出结果:

  1. w=1.716290,b=3.196841
  2. result= [3.79067723]

最终我们得到了W和B的值,对应的直线方程是y=1.71629x+3.196841。推理预测时,已知有346台服务器,先要除以1000,因为横坐标是以K(千台)服务器为单位的,代入前向计算函数,得到的结果是3.74千瓦。

结果显示函数:

  1. def ShowResult(net, dataReader):
  2. ......

对于初学神经网络的人来说,可视化的训练过程及结果,可以极大地帮助理解神经网络的原理,Python的Matplotlib库提供了非常丰富的绘图功能。

在上面的函数中,先获得所有样本点数据,把它们绘制出来。然后在[0,1]之间等距设定10个点做为x值,用x值通过网络推理方法net.inference()获得每个点的y值,最后把这些点连起来,就可以画出图4-5中的拟合直线。

神经网络法 - 图2

可以看到红色直线虽然穿过了蓝色点阵,但是好像不是处于正中央的位置,应该再逆时针旋转几度才会达到最佳的位置。我们后面小节中会讲到如何提高训练结果的精度问题。

工作原理

就单纯地看待这个线性回归问题,其原理就是先假设样本点是呈线性分布的,注意这里的线性有可能是高维空间的,而不仅仅是二维平面上的。但是高维空间人类无法想象,所以我们不妨用二维平面上的问题来举例。

在梯度下降法中,首先假设这个问题是个线性问题,因而有了公式z=xw+b,用梯度下降的方式求解最佳的w、b的值。

在本节中,用神经元的编程模型把梯度下降法包装了一下,这样就进入了神经网络的世界,从而可以有成熟的方法论可以解决更复杂的问题,比如多个神经元协同工作、多层神经网络的协同工作等等。

如图4-5所示,样本点摆在那里,位置都是固定的了,神经网络的任务就是找到一根直线(注意我们首先假设这是线性问题),让该直线穿过样本点阵,并且所有样本点到该直线的距离的平方的和最小。

可以想象成每一个样本点都有一根橡皮筋连接到直线上,连接点距离该样本点最近,所有的橡皮筋形成一个合力,不断地调整该直线的位置。该合力具备两种调节方式:

  1. 如果上方的拉力大一些,直线就会向上平移一些,这相当于调节b值;
  2. 如果侧方的拉力大一些,直线就会向侧方旋转一些,这相当于调节w值。

直到该直线处于平衡位置时,也就是线性拟合的最佳位置了。

如果样本点不是呈线性分布的,可以用直线拟合吗?

答案是“可以的”,只是最终的效果不太理想,误差可以做到在线性条件下的最小,但是误差值本身还是比较大的。比如一个半圆形的样本点阵,用直线拟合可以达到误差值最小为1.2(不妨假设这个值的单位是厘米),已经尽力了但能力有限。如果用弧线去拟合,可以达到误差值最小为0.3。

所以,当使用线性回归的效果不好时,即判断出一个问题不是线性问题时,我们会用非线性的方法来解决。

代码位置

原代码位置:ch04, Level3

个人代码:NeuralNet

keras实现单变量线性回归

  1. from keras.layers import Dense
  2. from keras.models import Sequential
  3. from HelperClass.DataReader_1_0 import *
  4. import matplotlib.pyplot as plt
  5. def get_data():
  6. sdr = DataReader_1_0("../data/ch04.npz")
  7. sdr.ReadData()
  8. X,Y = sdr.GetWholeTrainSamples()
  9. return X, Y
  10. def build_model():
  11. model = Sequential()
  12. model.add(Dense(1, activation='linear', input_dim=1))
  13. model.compile(optimizer='SGD',
  14. loss='mse')
  15. return model
  16. def plt_data(x, y, model):
  17. # draw sample data
  18. plt.plot(x, y, "b.")
  19. # draw predication data
  20. PX = np.linspace(0,1,10)
  21. PZ = model.predict(PX)
  22. plt.plot(PX, PZ, "r")
  23. plt.title("Air Conditioner Power")
  24. plt.xlabel("Number of Servers(K)")
  25. plt.ylabel("Power of Air Conditioner(KW)")
  26. plt.show()
  27. if __name__ == '__main__':
  28. X, Y = get_data()
  29. x = np.array(X)
  30. y = np.array(Y)
  31. print(x.shape)
  32. print(y.shape)
  33. model = build_model()
  34. # 这里是每次仅使用一个样本,且仅训练一轮的情况下的效果
  35. model.fit(x, y, epochs=1, batch_size=1)
  36. w, b = model.layers[0].get_weights()
  37. print(w, b)
  38. plt_data(x, y, model)

模型输出结果

  1. w=2.7211757,b=2.360211

神经网络法 - 图3

当然我们也可以多训练几次,在这里我们使用一下early_stopping

  1. from keras.layers import Dense
  2. from keras.models import Sequential
  3. from keras.callbacks import EarlyStopping
  4. from HelperClass.DataReader_1_0 import *
  5. import matplotlib.pyplot as plt
  6. def get_data():
  7. sdr = DataReader_1_0("../data/ch04.npz")
  8. sdr.ReadData()
  9. X,Y = sdr.GetWholeTrainSamples()
  10. return X, Y
  11. def build_model():
  12. model = Sequential()
  13. model.add(Dense(1, activation='linear', input_dim=1))
  14. model.compile(optimizer='SGD',
  15. loss='mse')
  16. return model
  17. def plt_data(x, y, model):
  18. # draw sample data
  19. plt.plot(x, y, "b.")
  20. # draw predication data
  21. PX = np.linspace(0,1,10)
  22. PZ = model.predict(PX)
  23. plt.plot(PX, PZ, "r")
  24. plt.title("Air Conditioner Power")
  25. plt.xlabel("Number of Servers(K)")
  26. plt.ylabel("Power of Air Conditioner(KW)")
  27. plt.show()
  28. if __name__ == '__main__':
  29. X, Y = get_data()
  30. x = np.array(X)
  31. y = np.array(Y)
  32. print(x.shape)
  33. print(y.shape)
  34. model = build_model()
  35. # patience设置当发现loss没有下降的情况下,经过patience个epoch后停止训练
  36. early_stopping = EarlyStopping(monitor='loss', patience=100)
  37. model.fit(x, y, epochs=100, batch_size=10, callbacks=[early_stopping])
  38. w, b = model.layers[0].get_weights()
  39. print(w, b)
  40. plt_data(x, y, model)

此时输出

  1. w=1.8036981, b=3.095605

神经网络法 - 图4