如何摆脱中的变量APIPyTorch.autograd？

Question

我通过两个简单的nn.模块PyTorch模型实例，model1和model2。你知道吗

如果不使用depreciated ^{} API，我就无法让这个过程正常工作。你知道吗

这样就可以了：

    y1 = model1(X)
    v = Variable(y1.data, requires_grad=training)         # Its all about this line!
    y2 = model2(v)
    criterion = nn.NLLLoss()
    loss = criterion(y2, y)
    loss.backward()
    y1.backward(v.grad)
    self.step()

但这将引发一个错误：

    y1 = model1(X)
    y2 = model2(y1)
    criterion = nn.NLLLoss()
    loss = criterion(y2, y)
    loss.backward()
    y1.backward(y1.grad) # it breaks here
    self.step()
>>> RuntimeError: grad can be implicitly created only for scalar outputs

我只是找不到第一个实现中的v和第二个实现中的y1之间的相关区别。在这两种情况下，requires_grad都设置为True。我唯一能找到的就是y1.grad_fn=<ThnnConv2DBackward>和v.grad_fn=<ThnnConv2DBackward>

我错过了什么？什么（张量属性？）我不知道，如果Variable被贬低，还有什么其他的实现可以工作？

Answer 1

你知道吗 [更新] 在第二个示例中，您没有正确地将y1.grad传递到y1.backward。在第一次backward之后，所有中间梯度都将被销毁，您需要一个特殊的钩子来提取该梯度。在您的例子中，您传递的是None值。下面是一个小例子来重现您的案例：

代码：

import torch
import torch.nn as nn


torch.manual_seed(42)


class Model1(nn.Module):

    def __init__(self):
        super().__init__()

    def forward(self, x):
        return x.pow(3)


class Model2(nn.Module):

    def __init__(self):
        super().__init__()

    def forward(self, x):
        return x / 2


model1 = Model1()
model2 = Model2()
criterion = nn.MSELoss()

X = torch.randn(1, 5, requires_grad=True)
y = torch.randn(1, 5)

y1 = model1(X)
y2 = model2(y1)

loss = criterion(y2, y)
# We are going to backprop 2 times, so we need to 
# retain_graph=True while first backward
loss.backward(retain_graph=True)

try:
    y1.backward(y1.grad)
except RuntimeError as err:
    print(err)
    print('y1.grad: ', y1.grad)

输出：

grad can be implicitly created only for scalar outputs
y1.grad:  None

因此，您需要正确提取它们：

代码：

def extract(V):
    """Gradient extractor.
    """
    def hook(grad):
        V.grad = grad
    return hook


model1 = Model1()
model2 = Model2()
criterion = nn.MSELoss()

X = torch.randn(1, 5, requires_grad=True)
y = torch.randn(1, 5)

y1 = model1(X)
y2 = model2(y1)

loss = criterion(y2, y)
y1.register_hook(extract(y1))
loss.backward(retain_graph=True)

print('y1.grad', y1.grad)

y1.backward(y1.grad)

输出：

y1.grad:  tensor([[-0.1763, -0.2114, -0.0266, -0.3293,  0.0534]])