PyTorch之所以称为神经网络架构是因为支持自动求导。在本章节中，将按照下面的思路介绍PyTorch的自动求导机制。首先在宏观上直观地感受PyTorch的自动求导是怎样的，然后从源码层面介绍自动求导相关的类以及前向传播是如何构图和反向传播是如何计算梯度的，最后介绍如何使用PyTorch的自动求导类或方法。