[ 输入参数用法不一致 ]torch.nn.Module.zero_grad¶
torch.nn.Module.zero_grad¶
torch.nn.Module.zero_grad(set_to_none=True)
paddle.nn.Layer.clear_gradients¶
paddle.nn.Layer.clear_gradients(set_to_zero=True)
PyTorch 的 Module.zero_grad
参数与 Paddle 的 Layer.clear_gradients
参数用法刚好相反,具体如下:
参数映射¶
PyTorch | PaddlePaddle | 备注 |
---|---|---|
set_to_none | set_to_zero | 设置如何清空梯度,PyTorch 默认 set_to_none 为 True,Paddle 默认 set_to_zero 为 True,两者功能刚好相反,Paddle 需设置为 False。 |
转写示例¶
# PyTorch 写法
torch.nn.Module.zero_grad(set_to_none=True)
# Paddle 写法
paddle.nn.Layer.clear_gradients(set_to_zero=False)