index_select ，clamp，detach

 

---

1、torch.clamp(input,min,max,out=None)-> Tensor

     將input中的元素限制在[min,max]范圍內並返回一個Tensor

2、index_select()

 x = torch.randn(3, 4) print(x)
 
 indices = torch.LongTensor([0, 2]) y = torch.index_select(x, 0, indices) print(y)

 z = torch.index_select(x, 1, indices) print(z)

 

參考：https://blog.csdn.net/appleml/article/details/78630452 

3、detach
 從當前圖中分離的 Variable，返回的 Variable 永遠不會需要梯度 
 用途：如果我們有兩個網絡A,B,兩個關系是這樣的y=A(x),z=B(y),現在我們想用z.backward()來為B網絡的參數來求梯度，但是又不想求
A網絡參數的梯度,我們可以這樣https://blog.csdn.net/u012436149/article/details/76714349

# y=A(x), z=B(y) 求B中參數的梯度，不求A中參數的梯度 # 第一種方法 y = A(x) z = B(y.detach()) z.backward()