torch.nn.functional.normalize詳解

來源CSDN

torch.nn.functional.normalize

torch.nn.functional.normalize(input, p=2, dim=1, eps=1e-12, out=None)

功能：將某一個維度除以那個維度對應的范數(默認是2范數)。

 

 

主要講以下三種情況：

輸入為一維Tensor

a = torch.Tensor([1,2,3])

torch.nn.functional.normalize(a, dim=0)

tensor([0.2673, 0.5345, 0.8018])

 

輸入為二維Tensor

b = torch.Tensor([[1,2,3], [4,5,6]])

torch.nn.functional.normalize(b, dim=0)

tensor([[0.2425, 0.3714, 0.4472],
[0.9701, 0.9285, 0.8944]])

 

 

​

b = torch.Tensor([[1,2,3], [4,5,6]])

torch.nn.functional.normalize(b, dim=1)

tensor([[0.2673, 0.5345, 0.8018],
[0.4558, 0.5698, 0.6838]])

因為dim=1，所以是對行操作。以第一行為例，整體除以了第一行的范數：