转自：http://www.cnblogs.com/caocan702/p/5666175.html 借鉴前人的文章链接 http://blog.csdn.net/zouxy09/artic ...

一维数据集上的神经网络 代码实现： 输出结果如下： 卷积层 首先，卷积层输入序列是25个元素的一维数组。卷积层的功能是相邻5个元素与过滤器（长度为5的向量）内积。因为移动步长为1，所以25个元素的序列中一共有21个相邻为5的序列，最终 ...

1.概述 人在获取图像时，并不是像计算机逐个像素去读，一般是扫一眼物体，大致能得到需要的信息，如形状，颜色，特征。怎么让机器也有这项能力呢，稀疏编码来了。 定义： 稀疏自编码器（Sparse Autoencoder）可以自动从无标注数据中学习特征，可以给出比原始数据更好的特征描述 ...

目录 神经网络的结构 梯度下降法 深度学习 神经网络的结构 当你看到这三个“3”的时候，其实它们还是有着不小的区别，但是我们的大脑可以分辨出来。 现在我们提出一个小问题：一个N*N像素的方格，我们来编写程序判断里面的数字到底是什么？ 要解决 ...

到目前为止，已经叙述了神经网络的监督学习，即学习的样本都是有标签的。现在假设我们有一个没有标签的训练集，其中. 自动编码器就是一个运用了反向传播进行无监督学习的神经网络，学习的目的就是为了让输出值和输入值相等，即.下面就是一个自动编码器： 自动编码器试图学习一个函数. 换句话说，它试图逼近 ...

一、神经网络的结构 二、神经网络的变种 　 ①convolutional neural network（卷积神经网络）---->good for image recognition（擅长图像识别） 　 ②long short-term memory network（长短 ...

的例子 这个神经网络一开始的地方有很多神经元，分别对应了$28 x 28$的输入图像中的每个像素， ...

假设给定m个训练样本的训练集，用梯度下降法训练一个神经网络，对于单个训练样本(x,y)，定义该样本的损失函数： 那么整个训练集的损失函数定义如下： 第一项是所有样本的方差的均值。第二项是一个归一化项（也叫权重衰减项），该项是为了减少权连接权重的更新速度，防止过拟合。 我们的目标 ...