当训练神经网络时，公共算法是反向传播的。在此算法中，该参数根据与损耗函数相对应的给定参数的梯度进行调整。要计算这些梯度，构建的-in函数torch。它支持任何网络的梯度计算。通过构建神经网络层以详细分析；
它由Pytorch定义为具有输入X，参数W，B和损耗功能，然后构建一层神经网络。
输出结果如下；
我们可以在计算图的数量中构建计算图函数。该对象定义了前计算函数，并在反向通信中计算指南号。存储grad_fn中的反向传播函数。
在整个网络中，请参阅Pyctorch文档https://pytorch.org，W，B是一个需要优化的参数。在计算这些参数损失函数的梯度上放。
梯度，最初的意图是向量，表明一个函数沿该点的方向最大化，即函数变化最快，变化速率是最大的方向（该梯度的方向））此时。为了优化神经网络参数的重量，需要计算损失函数的指导次数，并通过lose.backward（）计算计算。
输出结果如下：
我们只能获得毕业生计算图的叶节点的reques_grad属性，这些属性设置为true。后面只能在图中使用梯度计算。如果要求向后多次在同一图中拨打多次，我们需要通过retain_graph-true和向后呼叫
从概念的角度来看，签名以保存数据（张力）和所有可执行操作（并生成新的张力）在没有图表的方向上（DAG）。输出张量。通过跟踪从根到叶子的图片，可以使用链条规则自动计算梯度。在传递过程中，签名需要计算结果的结果。为了将梯度功能保持在DAG中，您需要计算dag.tension中abckward（）的梯度。
DAG是动态的。每次调用backward（）函数时，签名开始填写新图形。如果您需要在每次迭代中进行操作。
梯度的梯度，在任何常数c中的张量梯度：n级张量的梯度为n+1. yako Abalable是一个可以由两个向量引导的矩阵。这是一个矢量的梯度相对于另一个向量。签名可以稍微划分为张力，并开始从一个变量进行反向传播。在深度学习中，此变量通常会保存成本函数的值，并自动计算所有反向传输梯度
计算可比较的产品而不是计算高程矩阵本身；
计算结果如下所示
当向后使用相同的参数作为第二个调用时，梯度的值不同。发生这种情况，因为当反向传播时Pytorch会累积梯度，并且梯度的值添加到Grad图中所有节点的属性中计算。如果要计算适当的梯度，则需要零级。
关于残疾梯度跟踪的问题，有时我们不需要跟进来计算所有计算历史记录，修复神经网络的某些参数以罚款 - 罚款神经网络的常见方法，并在仅传递时加速计算速度。数字的计算问题，签名以保存数据（张力）和所有可执行操作（以及生成的新张力），该方向不带函数对象组成。输出张量。通过跟踪此图片从根到叶子，您可以使用链条规则自动计算梯度。对于前传输，签名计算结果张量，保持操作的梯度函数DAG中的梯度函数，计算每个梯度.grad_fn。反向传输，将它们堆积到.grad属性中，使用链法律将下一部分的叶子张力量从O的角度学习Ptimization模型参数
参考开发文档：https：//pytorch.org/tutorials/beginner/basics/buildmodel_tutorial.html