[DeeplearningAI笔记]第二章1.9归一化normalization 觉得有用的话,欢迎一起讨论相互学习~ 吴恩达老师课程原地址 1.9 归一化Normaliation 训练神经网络,其中一个加速训练的方法就是归一化输入(normalize inputs ...
DeeplearningAI笔记 第二章 . . 分类与softmax 觉得有用的话,欢迎一起讨论相互学习 . Softmax regression Softmax回归.能让你在试图识别某一分类时作出预测,或者说是多种分类的一个,不只是识别两个分类. 以识别图片的例子而言,我们设总的类别数为C,则此例中设置C为 ,最后一层设置神经元个数与C相等为 ,计算值为在输入值为X的情况下四种类型每一个的概 ...
2017-10-30 12:43 0 1387 推荐指数:
[DeeplearningAI笔记]第二章1.9归一化normalization 觉得有用的话,欢迎一起讨论相互学习~ 吴恩达老师课程原地址 1.9 归一化Normaliation 训练神经网络,其中一个加速训练的方法就是归一化输入(normalize inputs ...
[DeeplearningAI笔记]第二章2.6-2.9Momentum/RMSprop/Adam与学习率衰减 觉得有用的话,欢迎一起讨论相互学习~ 吴恩达老师课程原地址 2.6 动量梯度下降法(Momentum) 另一种成本函数优化算法,优化速度一般快于标准的梯度 ...
[DeeplearningAI笔记]第二章1.4-1.8正则化与Dropout 觉得有用的话,欢迎一起讨论相互学习~ 吴恩达老师课程原地址 1.4 正则化(regularization) 如果你的神经网络出现了过拟合(训练集与验证集得到的结果方差较大),最先想到的方法 ...
[DeeplearningAI笔记]第二章2.3-2.5带修正偏差的指数加权平均 觉得有用的话,欢迎一起讨论相互学习~ 吴恩达老师课程原地址 2.3 指数加权平均 举个例子,对于图中英国的温度数据计算移动平均值或者说是移动平均值(Moving average ...
[DeeplearningAI笔记]第二章3.4-3.7-Batch NormalizationBN算法 觉得有用的话,欢迎一起讨论相互学习~ 3.4正则化网络的激活函数 Batch归一化会使你的参数搜索问题变得很容易,使神经网络对超参数的选择更加稳定.超参数的范围会更庞大,工作 ...
[DeeplearningAI笔记]第二章1.1-1.3偏差/方差/欠拟合/过拟合/训练集/验证集/测试集 觉得有用的话,欢迎一起讨论相互学习~ 吴恩达老师课程原地址 1.1 训练/开发/测试集 对于一个数据集而言,可以将一个数据集分为三个部分,一部分作为训练集 ...
预习笔记 MED分类器 基于欧式距离的分类器,欧式距离 \(d(x1,x2)=(x2-x1)^{T}*(x2-x1)\) 判别方法: \((x-μ_{1})^{T}(x-μ_{1})<(x-μ_{2})^{T}(x-μ_{2})? C1类 : C2类\) 受特征的量纲、分布 ...
二分类下,sigmoid、softmax两者的数学公式是等价的,理论上应该是一样的,但实际使用的时候还是sigmoid好 https://www.zhihu.com/question/295247085 为什么好?其实现在我得到一个确切的答案! 多个sigmoid与一个softmax ...