在训练数据不够多，网络结构很复杂，或者overtraining时，可能会产生过拟合问题。 一般我们会将整个数据集分为训练集training data、validation data，testing data。这个validation data是什么？它其实就是用来避免过拟合的，在训练 ...

先说下一般对原始数据的划分为什么分为训练集、验证集、测试集三个部分？ train data的作用是训练模型，validation data的作用是对模型的超参数进行调节，为什么不直接在test data上对参数进行调节？因为如果在test data上来调节参数，那么随着训练的进行，我们的网络 ...

1 神经元 从本质上讲，神经元不过是输入的线性变换（例如，输入乘以一个数[weight，权重]，再加上一个常数[偏置，bias]），然后再经过一个固定的非线性函数（称为激活函数）。 神经元：线性变换后再经过一个非线性函数 数学上，你可以将其写为o=f(wx+b) o = f ...

　　近期在准备美赛，因为比赛需要故重新安装了matlab，在里面想尝试一下神将网络工具箱。就找了一个看起来还挺赏心悦目的函数例子练练 ...

知乎上的回答：https://www.zhihu.com/question/59201590 深度学习防止过拟合的方法 过拟合即在训练误差很小,而泛化误差很大,因为模型可能过于的复杂,使其”记住”了训练样本,然而其泛化误差却很高,在传统的机器学习方法中有很大防止过拟合的方法 ...

调用Nndl实现的神经网络code，用ANN拟合二次方程。 ref: https://github.com/mnielsen/neural-networks-and-deep-learning 准备训练数据 训练网络 网络精度 比较拟合函数 ...

一个最原始粗暴的拟合任意函数的思路，是将函数切成很多段线性函数，之后用逻辑门控制当x在哪一个区间时，某些逻辑门被激活，对应的线性函数的权重w与偏移量b在逻辑门的包裹下变成非0，计算出y在这一段的输出值。 需要推导出拟合函数y=f(x)需要哪些逻辑门，以及如何使用神经网络构建这些逻辑门 ...

神经网络模型的训练过程其实质上就是神经网络参数的设置过程 在神经网络优化算法中最常用的方法是反向传播算法，下图是反向传播算法流程图： 从上图可知，反向传播算法实现了一个迭代的过程，在每次迭代的开始，先需要选取一小部分训练数据，这一小部分数据叫做一个batch。然后这一个batch会通过前 ...