PyTorch

计算图

首先，简单地介绍一下什么是计算图（Computational Graphs），以方便后边的讲解。
假设有一个复杂的神经网络模型，把它想象成一个错综复杂的管道结构，不同的管道之间通过节点连接起来，有一个注水口，一个出水口。在入口注入数据的之后，数据就沿着设定好的管道路线缓缓流动到出水口，这时候就完成了一次正向传播。想象一下输入的 tensor 数据在管道中缓缓流动的场景，这就是为什么 TensorFlow 叫 TensorFlow 的原因！计算图在 PyTorch 中也是类似的。至于这两个非常有代表性的深度学习框架在计算图上有什么区别，稍后再谈。
计算图通常包含两种元素，一个是 tensor，另一个是 Function。张量 tensor 不必多说，但是大家可能对 Function 比较陌生。这里 Function 指的是在计算图中某个节点（node）所进行的运算，比如加减乘除卷积等等之类的，Function 内部有 forward() 和 backward() 两个方法，分别应用于正向、反向传播。

  1. a = torch.tensor(2.0, requires_grad=True)
  2. b = a.exp()
  3. print(b)
  4. # tensor(7.3891, grad_fn=<ExpBackward>)

在做正向传播的过程中，除了执行 forward() 操作之外，还会同时会为反向传播做一些准备，为反向计算图添加 Function 节点。在上边这个例子中，变量 b 在反向传播中所需要进行的操作是 。

一个具体的例子

了解了基础知识之后，现在来看一个具体的计算例子，并画出它的正向和反向计算图。假如需要计算这么一个模型：

  1. l1 = input x w1
  2. l2 = l1 + w2
  3. l3 = l1 x w3
  4. l4 = l2 x l3
  5. loss = mean(l4)

这个例子比较简单，涉及的最复杂的操作是求平均，但是如果把其中的加法和乘法操作换成卷积，那么其实和神经网络类似。可以简单地画一下它的计算图：
2022-06-29-10-04-54-839709.png
下面给出了对应的代码，定义了input，w1，w2，w3 这三个变量，其中 input 不需要求导结果。
根据 PyTorch 默认的求导规则，对于 l1 来说，因为有一个输入需要求导（也就是 w1 需要），所以它自己默认也需要求导，即 requires_grad=True。在整张计算图中，只有 input 一个变量是 requires_grad=False 的。正向传播过程的具体代码如下：

  1. input = torch.ones([2, 2], requires_grad=False)
  2. w1 = torch.tensor(2.0, requires_grad=True)
  3. w2 = torch.tensor(3.0, requires_grad=True)
  4. w3 = torch.tensor(4.0, requires_grad=True)
  6. l1 = input * w1
  7. l2 = l1 + w2
  8. l3 = l1 * w3
  9. l4 = l2 * l3
  10. loss = l4.mean()
  13. print(w1.data, w1.grad, w1.grad_fn)
  14. # tensor(2.) None None
  16. print(l1.data, l1.grad, l1.grad_fn)
  17. # tensor([[2., 2.],
  18. #         [2., 2.]]) None <MulBackward0 object at 0x000001EBE79E6AC8>
  20. print(loss.data, loss.grad, loss.grad_fn)
  21. # tensor(40.) None <MeanBackward0 object at 0x000001EBE79D8208>

正向传播的结果基本符合预期。可以看到，变量 l1 的 grad_fn 储存着乘法操作符 ，用于在反向传播中指导导数的计算。
而 w1 是用户自己定义的，不是通过计算得来的，所以其 grad_fn 为空；同时因为还没有进行反向传播，grad 的值也为空。
接下来，看一下如果要继续进行反向传播，计算图应该是什么样子：
2022-06-29-10-04-55-014501.png
反向图也比较简单，从 loss 这个变量开始，通过链式法则，依次计算出各部分的导数。说到这里，不妨先自己手动推导一下求导的结果，再与程序运行结果作对比。
再摆一下公式：

  1. input = [1.0, 1.0, 1.0, 1.0]
  2. w1 = [2.0, 2.0, 2.0, 2.0]
  3. w2 = [3.0, 3.0, 3.0, 3.0]
  4. w3 = [4.0, 4.0, 4.0, 4.0]
  6. l1 = input x w1 = [2.0, 2.0, 2.0, 2.0]
  7. l2 = l1 + w2 = [5.0, 5.0, 5.0, 5.0]
  8. l3 = l1 x w3 = [8.0, 8.0, 8.0, 8.0] 
  9. l4 = l2 x l3 = [40.0, 40.0, 40.0, 40.0] 
  10. loss = mean(l4) = 40.0

2022-06-29-10-04-55-174680.png
接下来继续运行代码，并检查一下结果和自己算的是否一致：

  1. loss.backward()
  3. print(w1.grad, w2.grad, w3.grad)
  4. # tensor(28.) tensor(8.) tensor(10.)
  5. print(l1.grad, l2.grad, l3.grad, l4.grad, loss.grad)
  6. # None None None None None

首先需要注意一下的是，在之前写程序的时候给定的 w 们都是一个常数，利用了广播的机制实现和常数和矩阵的加法乘法，比如 w2 + l1，实际上程序会自动把 w2 扩展成 [[3.0, 3.0], [3.0, 3.0]]，和 l1 的形状一样之后，再进行加法计算，计算的导数结果实际上为 [[2.0, 2.0], [2.0, 2.0]]，为了对应常数输入，所以最后 w2 的梯度返回为矩阵之和 8 。
另外还有一个问题，虽然 w 开头的那些和计算结果相符，但是为什么 l1，l2，l3，甚至其他的部分的求导结果都为空呢？想要解答这个问题，得明白什么是叶子张量。

叶子张量

对于任意一个张量来说，可以用 tensor.is_leaf 来判断它是否是叶子张量（leaf tensor）。在反向传播过程中，只有 is_leaf=True 的时候，需要求导的张量的导数结果才会被最后保留下来。
对于 **requires_grad=False** 的 tensor 来说，约定俗成地把它们归为叶子张量。但其实无论如何划分都没有影响，因为张量的 is_leaf 属性只有在需要求导的时候才有意义。
真正需要注意的是当 requires_grad=True 的时候，如何判断是否是叶子张量：当这个 tensor 是用户创建的时候，它是一个叶子节点，当这个 tensor 是由其他运算操作产生的时候，它就不是一个叶子节点。来看个例子：

  1. a = torch.ones([2, 2], requires_grad=True)
  2. print(a.is_leaf)
  3. # True
  5. b = a + 2
  6. print(b.is_leaf)
  7. # False
  8. # 因为 b 不是用户创建的，是通过计算生成的

这时有同学可能会问了，为什么要搞出这么个叶子张量的概念出来？原因是为了节省内存（或显存）。
想一下，那些非叶子结点，是通过用户所定义的叶子节点的一系列运算生成的，也就是这些非叶子节点都是中间变量，一般情况下，用户不会去使用这些中间变量的导数，所以为了节省内存，它们在用完之后就被释放了。
回头看一下之前的反向传播计算图，在图中的叶子节点用绿色标出了。可以看出来，被叫做叶子，可能是因为游离在主干之外，没有子节点，因为它们都是被用户创建的，不是通过其他节点生成。对于叶子节点来说，它们的 grad_fn 属性都为空；而对于非叶子结点来说，因为它们是通过一些操作生成的，所以它们的 grad_fn 不为空。
有办法保留中间变量的导数吗？当然有，通过使用 tensor.retain_grad() 就可以：

  1. # 和前边一样
  2. # ...
  3. loss = l4.mean()
  5. l1.retain_grad()
  6. l4.retain_grad()
  7. loss.retain_grad()
  9. loss.backward()
  11. print(loss.grad)
  12. # tensor(1.)
  13. print(l4.grad)
  14. # tensor([[0.2500, 0.2500],
  15. #         [0.2500, 0.2500]])
  16. print(l1.grad)
  17. # tensor([[7., 7.],
  18. #         [7., 7.]])

如果只是想进行 debug，只需要输出中间变量的导数信息，而不需要保存它们，还可以使用 **tensor.register_hook**，例子如下：

  1. # 和前边一样
  2. # ...
  3. loss = l4.mean()
  5. l1.register_hook(lambda grad: print('l1 grad: ', grad))
  6. l4.register_hook(lambda grad: print('l4 grad: ', grad))
  7. loss.register_hook(lambda grad: print('loss grad: ', grad))
  9. loss.backward()
  11. # loss grad:  tensor(1.)
  12. # l4 grad:  tensor([[0.2500, 0.2500],
  13. #         [0.2500, 0.2500]])
  14. # l1 grad:  tensor([[7., 7.],
  15. #         [7., 7.]])
  17. print(loss.grad)
  18. # None
  19. # loss 的 grad 在 print 完之后就被清除掉了

这个函数的功能远远不止打印导数信息用以 debug，但是一般很少用，所以这里就不扩展了。
到此为止，已经讨论完了这个实例中的正向传播和反向传播的有关内容了。回过头来看， input 其实很像神经网络输入的图像，w1, w2, w3 则类似卷积核的参数，而 l1, l2, l3, l4 可以表示4个卷积层输出，如果把节点上的加法乘法换成卷积操作的话。实际上这个简单的模型，很像平时的神经网络的简化版，通过这个例子，相信大家多少也能对神经网络的正向和反向传播过程有个大致的了解了吧。

inplace 操作

现在来看一下本篇的重点，inplace operation。可以说，求导时候大部分的 bug，都出在使用了 inplace 操作上。现在以 PyTorch 不同的报错信息作为驱动，来讲一讲 inplace 操作吧。第一个报错信息：

RuntimeError: one of the variables needed for gradient computation has been modified by an inplace operation: balabala…

之前写代码的时候竟经常报这个错，原因是对 inplace 操作不了解。要搞清楚为什么会报错，先来了解一下什么是 inplace 操作：inplace 指的是在不更改变量的内存地址的情况下，直接修改变量的值。
来看两种情况，大家觉得这两种情况哪个是 inplace 操作，哪个不是？或者两个都是 inplace？

  1. # 情景 1
  2. a = a.exp()
  4. # 情景 2
  5. a[0] = 10

答案是：情景1不是 inplace，类似 Python 中的 i=i+1，而情景2是 inplace 操作，类似 i+=1。依稀记得当时做机器学习的大作业，很多人都被其中一个 i+=1 和 i=i+1 问题给坑了好长时间。来实际测试一下：

  1. # 我们要用到 id() 这个函数，其返回值是对象的内存地址
  2. # 情景 1
  3. a = torch.tensor([3.0, 1.0])
  4. print(id(a)) # 2112716404344
  5. a = a.exp()
  6. print(id(a)) # 2112715008904
  7. # 在这个过程中 a.exp() 生成了一个新的对象，然后再让 a
  8. # 指向它的地址，所以这不是个 inplace 操作
  10. # 情景 2
  11. a = torch.tensor([3.0, 1.0])
  12. print(id(a)) # 2112716403840
  13. a[0] = 10
  14. print(id(a), a) # 2112716403840 tensor([10.,  1.])
  15. # inplace 操作，内存地址没变

PyTorch 是怎么检测 tensor 发生了 inplace 操作呢？答案是通过 **tensor._version** 来检测的。来看个例子：

  1. a = torch.tensor([1.0, 3.0], requires_grad=True)
  2. b = a + 2
  3. print(b._version) # 0
  5. loss = (b * b).mean()
  6. b[0] = 1000.0
  7. print(b._version) # 1
  9. loss.backward()
  10. # RuntimeError: one of the variables needed for gradient computation has been modified by an inplace operation ...

每次 tensor 在进行 inplace 操作时，变量 _version 就会加1，其初始值为0。在正向传播过程中，求导系统记录的 b 的 version 是0，但是在进行反向传播的过程中，求导系统发现 b 的 version 变成1了，所以就会报错了。
但是还有一种特殊情况不会报错，就是反向传播求导的时候如果没用到 b 的值（比如 y=x+1， y 关于 x 的导数是1，和 x 无关），自然就不会去对比 b 前后的 version 了，所以不会报错。
上边所说的情况是针对非叶子节点的，对于 requires_grad=True 的叶子节点来说，要求更加严格了，甚至在叶子节点被使用之前修改它的值都不行。来看一个报错信息：

RuntimeError: leaf variable has been moved into the graph interior

这个意思通俗一点说就是一顿 inplace 操作把一个叶子节点变成了非叶子节点了。非叶子节点的导数在默认情况下是不会被保存的，这样就会出问题了。举个小例子：

  1. a = torch.tensor([10., 5., 2., 3.], requires_grad=True)
  2. print(a, a.is_leaf)
  3. # tensor([10.,  5.,  2.,  3.], requires_grad=True) True
  5. a[:] = 0
  6. print(a, a.is_leaf)
  7. # tensor([0., 0., 0., 0.], grad_fn=<CopySlices>) False
  9. loss = (a*a).mean()
  10. loss.backward()
  11. # RuntimeError: leaf variable has been moved into the graph interior

可以看到，在进行对 a 的重新 inplace 赋值之后，表示了 a 是通过 copy operation 生成的，grad_fn 都有了，所以自然而然不是叶子节点了。本来是该有导数值保留的变量，现在成了导数会被自动释放的中间变量了，所以 PyTorch 就给报错了。还有另外一种情况：

  1. a = torch.tensor([10., 5., 2., 3.], requires_grad=True)
  2. a.add_(10.) # 或者 a += 10.
  3. # RuntimeError: a leaf Variable that requires grad has been used in an in-place operation.

这个更厉害了，不等到调用 backward，只要对需要求导的叶子张量使用了这些操作，马上就会报错。那是不是需要求导的叶子节点一旦被初始化赋值之后，就不能修改它们的值了呢？如果在某种情况下需要重新对叶子变量赋值该怎么办呢？有办法！

  1. # 方法一
  2. a = torch.tensor([10., 5., 2., 3.], requires_grad=True)
  3. print(a, a.is_leaf, id(a))
  4. # tensor([10.,  5.,  2.,  3.], requires_grad=True) True 2501274822696
  6. a.data.fill_(10.)
  7. # 或者 a.detach().fill_(10.)
  8. print(a, a.is_leaf, id(a))
  9. # tensor([10., 10., 10., 10.], requires_grad=True) True 2501274822696
  11. loss = (a*a).mean()
  12. loss.backward()
  13. print(a.grad)
  14. # tensor([5., 5., 5., 5.])
  16. # 方法二
  17. a = torch.tensor([10., 5., 2., 3.], requires_grad=True)
  18. print(a, a.is_leaf)
  19. # tensor([10.,  5.,  2.,  3.], requires_grad=True) True
  21. with torch.no_grad():
  22.     a[:] = 10.
  23. print(a, a.is_leaf)
  24. # tensor([10., 10., 10., 10.], requires_grad=True) True
  26. loss = (a*a).mean()
  27. loss.backward()
  28. print(a.grad)
  29. # tensor([5., 5., 5., 5.])

修改的方法有很多种，核心就是修改那个和变量共享内存，但 requires_grad=False 的版本的值，比如通过 tensor.data 或者 tensor.detach()。需要注意的是，要在变量被使用之前修改，不然等计算完之后再修改，还会造成求导上的问题，会报错的。
为什么 PyTorch 的求导不支持绝大部分 inplace 操作呢？从上边也看出来了，因为真的很 tricky。比如有的时候在一个变量已经参与了正向传播的计算，之后它的值被修改了，在做反向传播的时候如果还需要这个变量的值的话，肯定不能用那个后来修改的值吧，但没修改之前的原始值已经被释放掉了，怎么办？
一种可行的办法就是在 Function 做 forward 的时候每次都开辟一片空间储存当时输入变量的值，这样无论之后它们怎么修改，都不会影响了，反正有备份在存着。但这样有什么问题？
这样会导致内存（或显存）使用量大大增加。因为不确定哪个变量可能之后会做 inplace 操作，所以每个变量在做完 forward 之后都要储存一个备份，成本太高了。除此之外，inplace operation 还可能造成很多其他求导上的问题。
总之，在实际写代码的过程中，没有必须要用 inplace operation 的情况，而且支持它会带来很大的性能上的牺牲，所以 PyTorch 不推荐使用 inplace 操作，当求导过程中发现有 inplace 操作影响求导正确性的时候，会采用报错的方式提醒。
但这句话反过来说就是，因为只要有 inplace 操作不当就会报错，所以如果在程序中使用了 inplace 操作却没报错，那么说明最后求导的结果是正确的，没问题的。这就是常听见的没报错就没有问题。

动态图，静态图

可能大家都听说过，PyTorch 使用的是动态图（Dynamic Computational Graphs）的方式，而 TensorFlow 使用的是静态图（Static Computational Graphs）。所以二者究竟有什么区别呢，本节来就来讨论这个事情。
所谓动态图，就是每次当搭建完一个计算图，然后在反向传播结束之后，整个计算图就在内存中被释放了。如果想再次使用的话，必须从头再搭一遍，参见下边这个例子。
而以 TensorFlow 为代表的静态图，每次都先设计好计算图，需要的时候实例化这个图，然后送入各种输入，重复使用，只有当会话结束的时候创建的图才会被释放，就像之前举的那个水管的例子一样，设计好水管布局之后，需要用的时候就开始搭，搭好了就往入口加水，什么时候不需要了，再把管道都给拆了。

  1. # 这是一个关于 PyTorch 是动态图的例子：
  2. a = torch.tensor([3.0, 1.0], requires_grad=True)
  3. b = a * a
  4. loss = b.mean()
  6. loss.backward() # 正常
  7. loss.backward() # RuntimeError
  9. # 第二次：从头再来一遍
  10. a = torch.tensor([3.0, 1.0], requires_grad=True)
  11. b = a * a
  12. loss = b.mean()
  13. loss.backward() # 正常

从描述中可以看到，理论上来说，静态图在效率上比动态图要高。因为首先，静态图只用构建一次，然后之后重复使用就可以了；其次静态图因为是固定不需要改变的，所以在设计完了计算图之后，可以进一步的优化，比如可以将用户原本定义的 Conv 层和 ReLU 层合并成 ConvReLU 层，提高效率。
但是，深度学习框架的速度不仅仅取决于图的类型，还很其他很多因素，比如底层代码质量，所使用的底层 BLAS 库等等都有关。从实际测试结果来说，至少在主流的模型的训练时间上，PyTorch 有着至少不逊于静态图框架 Caffe，TensorFlow 的表现。具体对比数据可以参考https://github.com/ilkarman/DeepLearningFrameworks。
除了动态图之外，PyTorch 还有一个特性，叫 eager execution。意思就是当遇到 tensor 计算的时候，马上就回去执行计算，也就是，实际上 PyTorch 根本不会去构建正向计算图，而是遇到操作就执行。真正意义上的正向计算图是把所有的操作都添加完，构建好了之后，再运行神经网络的正向传播。
正是因为 PyTorch 的两大特性：动态图和 eager execution，所以它用起来才这么顺手，简直就和写 Python 程序一样舒服，debug 也非常方便。除此之外，从之前的描述也可以看出，PyTorch 十分注重占用内存（或显存）大小，没有用的空间释放很及时，可以很有效地利用有限的内存。

总结

主要讨论了 PyTorch 的 Autograd 机制和使用 inplace 操作不当可能会导致的各种报错。在实际写代码的过程中，涉及需要求导的部分，不建议大家使用 inplace 操作。除此之外还比较了动态图和静态图框架，PyTorch 作为动态图框架的代表之一，对初学者非常友好，而且运行速度上不逊于静态图框架，再加上现在通过 ONNX 转换为其他框架的模型用以部署也越来越方便，是一个非常称手的深度学习工具。