pytorch torch.nn.BatchNorm2d(num_features, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)

本文转载自查看原文 2020-09-11 14:46 771

torch.nn.BatchNorm2d(num_features, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)

此函数的作用是对输入的每个batch数据做归一化处理,目的是数据合理分布，加速计算过程，函数为：

num_features:为输入的数据的通道数,

eps：使分母不为零，保持数据的稳定

momentum:用于在训练时对均值和方差的估计

affine：为True时表示γ和β是可学习的参数，为False表示γ和β是不可学习的参数，此时γ=1，β=0；

track_running_stats=True;整个batch的方差和均值

本站转载的文章为个人学习借鉴使用，本站对版权不负任何法律责任。如果侵犯了您的隐私权益，请联系本站邮箱yoyou2525@163.com删除。

猜您在找 Pytorch Batch Normalization 中 track_running_stats问题 torch.nn.Linear(in_features, out_features, bias=True) Pytorch-nn.BatchNorm2d() pytorch——nn.BatchNorm1d() PyTorch中的nn.BatchNorm2d torch.nn.ReLU(inplace=True)的具体含义： pytorch之torch.nn.Conv2d()函数详解 Pytorch: torch.nn PyTorch笔记--shuffle=True 3*0.1 == 0.3 将会返回什么？true 还是 false？