深度学习与Pytorch入门实战（十五）LSTM
LSTM详解 LSTM实现 笔记摘抄 1. nn.LSTM 1.1 lstm=nn.LSTM(input_size, hidden_size, num_layers) 参数： in ...
原文：深度学习（十五） TextCNN理解
以下是阅读TextCNN后的理解 步骤： .先对句子进行分词，一般使用 jieba 库进行分词。 .在原文中，用了 个卷积核对原词向量矩阵进行卷积。 . 个卷积核大小： 个 个 和 个 ，如上图所示 然后进行池化，对相同卷积核产生的特征图进行连接 再进行softmax输出 个类别。 .这里对no static进行阐述，表示在训练的过程中，词向量是可以进行微调的，也叫做fine tuning。 .为 ...
2018-03-09 20:12 0 5820 推荐指数：
相关推荐
深度学习—卷积的理解
1、参数共享的道理 如果在图像某些地方探测到一个水平的边界是很重要的，那么在其他一些地方也会同样是有用的，这是因为图像结构具有平移不变性。所以在卷积层的输出数据体的55x55个不同位置中，就没有必要重新学习去探测一个水平边界了。 在反向传播的时候，都要计算每个神经元对它的权重的梯度 ...
深度学习—BN的理解（一）
原博客：https://www.cnblogs.com/eilearn/p/9780696.html 0、问题 机器学习领域有个很重要的假设：IID独立同分布假设，就是假设训练数据和测试数据是满足相同分布的，这是通过训练数据获得的模型能够在测试集获得好的效果的一个基本保障 ...
深度学习anchor的理解
摘抄与某乎 anchor 让网络学习到的是一种推断的能力。网络不会认为它拿到的这一小块 feature map 具有七十二变的能力，能同时从 9 种不同的 anchor 区域得到。拥有 anchor 的 rpn 做的事情是它已知图像中的某一部分的 feature（也就是滑动窗口 ...
深度学习—BN的理解（一）
0、问题 机器学习领域有个很重要的假设：IID独立同分布假设，就是假设训练数据和测试数据是满足相同分布的，这是通过训练数据获得的模型能够在测试集获得好的效果的一个基本保障。那BatchNorm的作用是什么呢？BatchNorm就是在深度神经网络训练过程中使得每一层神经网络的输入保持相同 ...
关于对深度学习的理解
首先要明白什么是深度学习？ 深度学习是用于建立、模拟人脑进行分析学习的神经网络，并模仿人脑的机制来解释数据的一种机器学习技术。 它的基本特点是试图模仿大脑的神经元之间传递，处理信息的模式。最显著的应用是计算机视觉和自然语言处理(NLP)领域。显然，“深度学习”是与机器学习中的“神经网络 ...
深度学习—BN的理解（二）
神经网络各个操作层的顺序： 1、sigmoid,tanh函数：conv -> bn -> sigmoid -> pooling 2、RELU激活函数：conv -> ...
深度学习—反向传播的理解
1、反向传播 简单的理解，反向传播的确就是复合函数的链式法则，但其在实际运算中的意义比链式法则要大的多。 链式求导十分冗余，因为很多路径被重复访问了，对于权值动则数万的深度模型中的神经网络，这样的冗余所导致的计算量是相当大的。 同样是利用链式法则，BP算法则机智地避开了这种冗余 ...