optimizer.zero_grad()             ## 梯度清零
preds = model(inputs)             ## inference
loss = criterion(preds, targets)  ## 求loss
loss.backward()                   ## 反向传播求梯度
optimizer.step()                  ## 更新权重参数
  1. 由于pytorch的动态计算图，当我们使用loss.backward()和opimizer.step()进行梯度下降更新参数的时候，梯度并不会自动清零。并且这两个操作是独立操作。
  2. backward()：反向传播求解梯度。
  3. step()：更新权重参数。

​ 基于以上几点，正好说明了pytorch的一个特点是每一步都是独立功能的操作，因此也就有需要梯度清零的说法，如若不显示的进 optimizer.zero_grad()这一步操作，backward()的时候就会累加梯度。

​ optimizer.zero_grad()意思是把梯度置零，也就是把loss关于weight的导数变成0。