博客园不支持数学公式orz，我也很绝望啊！ ...

BP算法是一种最有效的多层神经网络学习方法，其主要特点是信号前向传递，而误差后向传播，通过不断调节网络权重值，使得网络的最终输出与期望输出尽可能接近，以达到训练的目的。 一、多层神经网络结构及其描述 下图为一典型的多层神经网络。 通常一个多层神经网络由L层神经 ...

前言：自己动手推导了一下经典的前向反馈神经网络的算法公式，记录一下。由于暂时没有数据可以用作测试，程序没有实现并验证。以后找到比较好的数据，再进行实现。 一：算法推导 　　神经网络通过模拟人的神经元活动，来构造分类器。它的基本组成单元称为”神经元”，离线情况下如果输入大于某值时，设定神经元处于 ...

）（1974年，哈佛博士论文） （3）BP算法训练的神经网络：信号正向传播和误差反向传播（修正权值） ...

BP算法： 　　1.是一种有监督学习算法，常被用来训练多层感知机。 　 2.要求每个人工神经元（即节点）所使用的激励函数必须可微。 　　（激励函数：单个神经元的输入与输出之间的函数关系叫做激励函数。） 　　（假如不使用激励函数，神经网络中的每层都只是做简单的线性变换，多层输入叠加后 ...

三、误差逆传播算法(BP) 1、BP算法 　　多层网络的学习能力比单层感知机强得多。欲训练多层网络，简单感知学习规则显然不够了，需要更强大的学习算法。误差逆传播(errorBackPropagation，简称BP)算法就是其中最杰出的代表。BP算法是迄今最成功的神经网络学习算法 ...

1、知识点： A、BP神经网络：信号是前向传播，误差是反向传播，BP是算法，它不代表神经网络的结构； B、BP神经网络是有导师学习的神经网络，在训练的时候，需要指定输入和输出，让它知道这个输入对应这个输出，让它清楚每次训练的过程，然后他的神经元的输出和理想值目标有多大的误差，这样才会有误差反向 ...

怎样理解非线性变换和多层网络后的线性可分，神经网络的学习就是学习如何利用矩阵的线性变换加激活函数的非线性变换 线性可分： 一维情景：以分类为例，当要分类正数、负数、零，三类的时候，一维空间的直线可以找到两个超平面（比当前空间低一维的子空间。当前空间是直线的话，超平面就是点）分割这三类 ...