一、什么是softmax？ 有一个数组S，其元素为Si ，那么vi 的softmax值，就是该元素的指数与所有元素指数和的比值。具体公式表示为： softmax回归本质上也是一种对数据的估计 ...

数据增强 1.基本概念 2.常用增强方法 3.叠加使用 1.基本概念 图像增广（image augmentation）技术通过对训练图像做一系列随机改变，来产生相似但又不同的训练样本，从 ...

task0101.线性回归 优化函数 - 随机梯度下降 当模型和损失函数形式较为简单时，上面的误差最小化问题的解可以直接用公式表达出来。这类解叫作解析解（analytical solution ...

Transformer代码实现 1.Masked softmax 2.Multi heads attention 3.Position wise FFN 4.Add and Norm 5.Posit ...

文本情感分类 1.文本情感分类数据集 2.使用循环神经网络进行情感分类 3.使用卷积神经网络进行情感分类 1.文本情感分类数据 在本中，将应用预训练的词向量和含多个隐藏层的双向循环神 ...

一、介绍 word2vec是Google于2013年推出的开源的获取词向量word2vec的工具包。它包括了一组用于word embedding的模型，这些模型通常都是用浅层（两层）神经网络训练词向量。 Word2vec的模型以大规模语料库作为输入，然后生成一个向量空间（通常为几百维 ...

在学习pytorch版本的深度学习中，大多会因为这个包困扰，如果直接安装d2lzh包，在后期使用中会导致某些函数无法实现。因此仍旧需要安装d2lzh_pytorch'd2lzh_pytorch'下载传送门，下载解压后，直接放入包文件里即可。 我的文件路径，可参考一下 ...

多层感知机 隐藏层 激活函数 小结 多层感知机 之前已经介绍过了线性回归和softmax回归在内的单层神经网络，然后深度学习主要学习多层模型，后续将以多层感知机(mu ...