多层神经网络 　　对于多层神经网络的训练，delta规则是无效的，因为应用delta规则训练必须要误差，但在隐含层中没有定义。输出节点的误差是指标准输出和神经网络输出之间的差别，但训练数据不提供隐藏层的标准输出。 　　真正的难题在于怎么定义隐藏节点的误差，于是有了反向传播算法。反向传播算法 ...

卷积神经网络 　　深度神经网络的重要性在于，它开启了通向复杂非线性模型和对知识进行分层处理的系统方法的大门。人们开发了很多提取图像特征的技术：SIFT、HoG、Textons、图像旋转、RIFT、GLOH等。卷积神经网络的特点和优势在于自动提取特征。 　　卷积层生成特征映射图（feature ...

关于神经网络的几点思考：单层——多层——深度 神经网络本质上是一个逼近器，一个重要的基本属性就是通用逼近属性。 通用逼近属性： 1989年，George Cybenko发表文章“Approximation by Superpositions of a Sigmoidal ...

　　单层感知器属于单层前向网络，即除输入层和输出层之外，只拥有一层神经元节点。 　　特点：输入数据从输入层经过隐藏层向输出层逐层传播，相邻两层的神经元之间相互连接，同一层的神经元之间没有连接。 　　感知器（perception）是由美国学者F.Rosenblatt提出的。与最早提出的MP模型 ...

深度学习引言 AI是最新的电力 大约在一百年前，我们社会的电气化改变了每个主要行业，从交通运输行业到制造业、医疗保健、通讯等方面，我认为如今我们见到了AI明显的令人惊讶的能量，带来了同样巨大的转变。 什么是神经网络？ 神经网络的一部分神奇之处在于，当你实现它之后，你要做的只是输入x，就能 ...

这个人总结的太好了 ， 忍不住想学习一下，放到这里。 为了尊重原创作者，说明一下是转载于：http://blog.csdn.net/MyArrow/article/details/51322433 学习总结 1. 简介 神经网络和深度学习是由Michael Nielsen所写 ...

前面一章我们详细讲解了神经网络的组成，工作原理，信号在网络中如何流动，以及如何求解每一个输入信号赋予的权重等计算过程；同时我们还构建了一个逻辑回归网模型来解决鸢尾花分类问题，很明显，这种网络很“浅”，但它对于分类鸢尾花数据还是非常有效的，而且不仅仅是鸢尾花，对于有需要的其他二分类问题，该模型 ...

1、什么是神经网络？ （1）房价预测模型Ⅰ： 神经网络：size x ——> O ——> price y ReLU函数（Rectified linear unit 修正线性单元）：修改线性的函数，避免出现price未负数的情况. （2）房价预测模型 ...