class torch.nn.CrossEntropyLoss(weight=None, size_average=True, ignore_index=-100, reduce=True) 我这里没有详细解读这个损失函数的各个参数，仅记录一下在sru中涉及到的。 sru中代 ...

学习pytorch路程之动手学深度学习-3.4-3.7 置信度、置信区间参考：https://cloud.tencent.com/developer/news/452418 本人感觉还是挺好理解的 交叉熵参考博客：https://www.cnblogs.com/kyrieng/p ...

最近又回实验室了，开始把空闲将近半年忘记的东西慢慢找回来。先把之前这边用英文写的介绍交叉熵的文章翻译了。 背景 In classification, the most common setup i ...

背景 多分类问题里（单对象单标签），一般问题的setup都是一个输入，然后对应的输出是一个vector，这个vector的长度等于总共类别的个数。输入进入到训练好的网络里，predicted cla ...

nn.CrossEntropyLoss()这个损失函数和我们普通说的交叉熵还是有些区别。 $x$是模型生成的结果，$class$是数据对应的label $loss(x,class)=-log(\frac{exp(x[class])}{\sum_j exp(x[j])})=-x[class ...

自定义层Linear必须继承nn.Module，并且在其构造函数中需调用nn.Module的构造函数，即super(Linear, self).__init__() 或nn.Module.__init__(self)，推荐使用第一种用法，尽管第二种写法更直观。 在构造函数 ...

torch.nn.Identity() 今天看源码时，遇到的这个恒等函数，就如同名字那样 占位符，并没有实际操作 源码： 主要使用场景： 不区分参数的占位符标识运算符 if 某个操作 else Identity() 在增减网络过程中，可以使得整个网络层数据不变，便于迁移权重数据 ...

Pytorch_torch.nn.MSELoss 均方损失函数作用主要是求预测实例与真实实例之间的loss loss(xi,yi)=(xi−yi)2 函数需要输入两个tensor，类型统一设置为float，否则会报错，也可以在全局设置 ...