pytorch中的Linear Layer（線性層）

LINEAR LAYERS

Linear

Examples:

>>> m = nn.Linear(20, 30) >>> input = torch.randn(128, 20) >>> output = m(input) >>> print(output.size()) torch.Size([128, 30])


查看源碼后發現U指的是均勻分布，即weight權重（A的轉置）是取自輸入尺寸的倒數再開方后的正負值之間的均勻分布，同理可得偏置bias是輸出尺寸

的倒數再開方后的正負值之間的均勻分布。

資料參考於官網：https://pytorch.org/docs/stable/nn.html#linear-layers