带列表选择器的就地添加

Question

我面临着pythorch不一致的行为，根据weither的说法，索引是一个列表或整数。请看以下代码片段：

# First example, integer selector ==> Ok
t = torch.tensor([[0, 1], [1, 0]])
t[0, 0].add_(10)
print(t)
tensor([[10,  1],
        [ 1,  0]])

# Second example, list selector ==> ???
t = torch.tensor([[0, 1], [1, 0]])
t[[0], [0]].add_(10) # notice the list selector
print(t)
tensor([[0, 1],
        [1, 0]])

#Third example, list selector with inplace add operator ==> Ok
t = torch.tensor([[0, 1], [1, 0]])
t[[0], [0]] += 10
print(t)
tensor([[10,  1],
        [ 1,  0]])

我不明白为什么在第二个例子中pytorch无法更新t！你知道吗

Answer 1

这是因为花哨的索引（即使用列表索引）返回一个副本，而直接索引返回一个原始张量的视图。检查这种情况的一个简单方法是比较底层的storage

In [16]: a = torch.arange(3)

In [17]: a.storage()
Out[17]:
 0
 1
 2
[torch.LongStorage of size 3]

In [18]: a[0].storage()
Out[18]:
 0
 1
 2
[torch.LongStorage of size 3]

In [19]: a[[0]].storage()
Out[19]:
 0
[torch.LongStorage of size 1]

注意a[0]是一个元素，但是它的存储仍然是完整的数组，因为它只是原始张量的一个视图。你知道吗